Pesquisadores investigaram as vulnerabilidades em bibliotecas de inteligência artificial, visando promover a colaboração na indústria para medidas de proteção aprimoradas. Recentemente, foram descobertas falhas de segurança de alta gravidade na biblioteca Diffusers da Hugging Face, que poderiam permitir a execução de código arbitrário em máquinas que carregam modelos de IA maliciosos.
Detalhes Técnicos
Três falhas de segurança de alta gravidade foram divulgadas na biblioteca Diffusers da Hugging Face.
Essas vulnerabilidades permitem que repositórios de modelos maliciosos executem código arbitrário em máquinas que os carregam.
A Hugging Face é uma plataforma popular para compartilhamento e uso de modelos de IA.
Ameaças Relacionadas
Grupos de hackers, como o Storm-2945, afiliado à APT29 (Cozy Bear), têm explorado vulnerabilidades para roubar tokens de autenticação.
Ataques de phishing e comprometimento de sites são usados para infectar cidadãos e empresas.
Ações Recomendadas
Verificar a segurança de bibliotecas de IA utilizadas.
Implementar medidas de proteção contra execução de código arbitrário.
Monitorar repositórios de modelos de IA para detectar atividades suspeitas.
