Uma técnica de jailbreak chamada "sockpuppeting" foi descoberta, permitindo que atacantes forçassem 11 modelos de inteligência artificial líderes, incluindo ChatGPT, Claude e Gemini, a bypassar suas barreiras de segurança. Isso foi feito explotando uma característica padrão de interface de programação de aplicativos (API) com uma linha de código única.
Detalhes Técnicos
A técnica de jailbreak "sockpuppeting" explota uma vulnerabilidade em uma API padrão, permitindo que atacantes forçassem os modelos de IA a gerar saídas maliciosas.
A vulnerabilidade foi descoberta em 11 modelos de IA líderes, incluindo ChatGPT, Claude e Gemini.
A técnica de jailbreak não requer otimização matemática complexa, apenas uma linha de código única.
A exploração dessa vulnerabilidade pode ter consequências graves, incluindo a geração de conteúdo malicioso e a perda de confiança nos modelos de IA.
