Foi descoberta uma técnica denominada "Ghostcommit" que permite esconder injeções de prompt em imagens para enganar agentes de IA e roubar segredos. Essa técnica foi demonstrada em um cenário onde uma imagem PNG com uma injeção de prompt conseguiu enganar revisores de código de IA, como CodeRabbit e Bugbot, e convencer um agente de codificação a ler um arquivo .env de um repositório e escrever todos os segredos em forma de uma lista de números.
Detalhes Técnicos
A técnica "Ghostcommit" envolve a inserção de prompts maliciosos em imagens, que podem ser interpretados por agentes de IA.
Esses prompts maliciosos podem instruir agentes de codificação a realizar ações indesejadas, como a leitura de arquivos sensíveis.
Foi demonstrado que essa técnica pode burlar revisores de código de IA que não abrem arquivos de imagem, como CodeRabbit e Bugbot.
O ataque resultou na exposição de segredos do repositório, escritos em forma de uma lista de números, como resultado da execução das instruções maliciosas.
Recomendações
Verificar a integridade de todas as imagens utilizadas no desenvolvimento de software.
Implementar medidas de segurança para detectar e prevenir injeções de prompt maliciosos em imagens.
Treinar agentes de IA para reconhecer e rejeitar prompts maliciosos.
Manter os revisores de código de IA atualizados para lidar com esse tipo de ameaça.
