Um técnico de jailbreak chamado "sockpuppeting" permite que os atacantes bypassem as proteções de segurança de 11 modelos de linguagem grande (LLM) utilizando apenas uma linha de código. Isso é feito explorando APIs que suportam preenchimento de assistente para injetar mensagens de aceitação falsas, forçando os modelos a responder solicitações proibidas.
Detalhes Técnicos
Técnica de Ataque: Sockpuppeting (T1566.001)
Vulnerabilidade: Exploitação de APIs de preenchimento de assistente
Modelos Afetados: 11 modelos de LLM, incluindo ChatGPT, Claude e Gemini
Impacto: Permite que os atacantes bypassem as proteções de segurança e forçem os modelos a responder solicitações proibidas
Consequências: Pode levar a vazamentos de dados confidenciais e perda de confiança nos modelos de LLM
