Pesquisadores da Universidade de Ciência e Tecnologia de Hong Kong descobriram que scanners destinados a capturar habilidades maliciosas de agentes de IA de codificação podem ser enganados por meio de alterações simples, permitindo que o malware continue funcionando. A técnica mais eficaz desenvolvida pelos pesquisadores conseguiu contornar todos os scanners testados mais de 90% das vezes.
Detalhes Técnicos
Os pesquisadores desenvolveram uma técnica de empacotamento auto-extraível que permite que habilidades maliciosas de agentes de IA evadam detecção estática.
A técnica mais eficaz conseguiu bypassar todos os scanners testados mais de 90% das vezes.
Os pesquisadores também construíram um verificador de runtime que captura a maioria das habilidades maliciosas.
Recomendações
Implementar verificações de runtime para habilidades de agentes de IA em adição às verificações estáticas.
Utilizar técnicas de detecção avançadas para identificar habilidades maliciosas de agentes de IA.
Manter os scanners e sistemas de detecção atualizados para lidar com novas técnicas de evasão.
Próximo passo
Analisar as habilidades de agentes de IA em uso na organização para identificar possíveis vulnerabilidades.
