Pesquisadores propõem focar na identificação de elementos cognitivos específicos em modelos de linguagem de larga escala (LLMs) que indicam quando sistemas de IA podem tomar ações indesejadas. Isso visa melhorar a segurança da IA, permitindo uma intervenção mais eficaz.
Detalhes Técnicos
Foco em Elementos Cognitivos: Identificar componentes específicos em LLMs que possam prever ações indesejadas.
Melhoria da Segurança: Permitir intervenções mais eficazes para prevenir ações indesejadas de sistemas de IA.
Análise Interna: "Peek inside the 'black box'" para entender melhor como LLMs funcionam e como podem ser controlados.
Próximo passo
Avaliar a viabilidade de implementação dessas propostas em sistemas de IA existentes.
