A Microsoft está desenvolvendo o Projeto Perception, que inclui agentes de vigilância chamados Guardian Agents, para monitorar e conter agentes de IA anômalos. No entanto, especialistas alertam que o uso de agentes para controlar outros agentes imprevisíveis pode aumentar, em vez de reduzir, o risco. Essa abordagem visa mitigar a ameaça de agentes de IA que se tornam insider threats.
Detalhes Técnicos
A Microsoft está investindo em uma solução unificada de segurança que incorpora agentes de IA para monitorar atividades anômalas de outros agentes de IA.
O Projeto Perception visa conter agentes de IA que possam se tornar ameaças internas, mas especialistas questionam a eficácia de usar agentes para controlar outros agentes, dado o caráter imprevisível da IA.
A abordagem pode potencialmente multiplicar os riscos, em vez de mitigá-los, se os agentes de controle também puderem ser comprometidos ou apresentar comportamentos imprevisíveis.
