Uma nova técnica de injeção de contexto criptográfico foi desenvolvida por um pesquisador da Adversa AI, Rony Utevsky, que permite burlar os filtros de segurança de modelos de inteligência artificial, como o Grok, enviando instruções criptografadas em AES e fazendo com que o modelo as descriptografe internamente. Isso possibilita o roubo de históricos de conversas do Grok sem que o usuário precise clicar em nada.
Detalhes Técnicos
Técnica de Injeção de Contexto Criptográfico: Método que envolve o envio de cargas de dados criptografadas em AES para modelos de IA, que as descriptografam internamente, permitindo a execução de instruções maliciosas sem detecção.
Bypass de Segurança: A técnica permite contornar os mecanismos de segurança dos modelos de IA, como o Grok, sem a necessidade de interação do usuário.
Roubo de Dados: O objetivo é roubar históricos de conversas do Grok, demonstrando uma vulnerabilidade significativa na segurança desses modelos.
Próximos Passos
Verificar a implementação dos modelos de IA para garantir que estejam atualizados e protegidos contra essa técnica.
Analisar os logs de tráfego de rede para detectar possíveis tentativas de injeção de contexto criptográfico.
Desenvolver e implementar regras de detecção específicas para identificar e bloquear cargas de dados maliciosas.
