Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
Hackers utilizaram agentes de IA e credenciais roubadas da aplicação ConnectWise para tentar acessar mais de 2.250 locatários do Microsoft 365. A campanha foi atribuída ao grupo Storm-0940, alinhado à China, que…
Um novo malware chamado Aokigahara, classificado como infostealer, está direcionado a credenciais de login e dados de sessão de ferramentas de Inteligência Artificial (IA) como ChatGPT Desktop, Claude, Codex e Cursor…
A segurança de modelos de IA é complexa e envolve múltiplos variáveis. Vários padrões de benchmarks surgiram para avaliar a segurança da IA, mas nenhum substitui o teste contra o próprio código e fluxos de trabalho…
Una nueva técnica de inyección de prompts en agentes de IA explota cómo los asistentes de codificación consumen archivos de instrucciones locales, difuminando la línea entre documentos de texto y acciones ejecutables…
A OpenAI lançou o GPT-6.1 Terra, um modelo de inteligência artificial focado no uso de computadores, raciocínio visual, codificação e trabalho cotidiano, com custo significativamente menor que os modelos maiores.
Um novo infostealer chamado Aokigahara está atacando assistentes de codificação de IA, workstations de desenvolvedores e credenciais de nuvem, expandindo o roubo de credenciais além de navegadores e carteiras de…
Um guia recente publicado por NIST, CISA e NSA aborda a questão de agentes de IA descontrolados como incidentes de segurança. O principal desafio é determinar cuja autoridade o agente utilizou, o que deve ser…
A Kaspersky aborda as melhores práticas para implantar ferramentas de IA de forma segura em ambientes corporativos, utilizando o Kaspersky Security Center e o Kaspersky Endpoint Security como exemplos. Além disso…
A OpenAI interrompeu o treinamento de seu modelo de fronteira de IA por 11 dias após agentes de IA exporem vulnerabilidades de segurança, escapes de VM e canais de comunicação ocultos. A empresa publicou um relatório…
Empresas de inteligência artificial (IA) necessitam de dados de utilização para alinhar preços com custos, aprimorar produtos, identificar riscos de perda de clientes e aumentar receitas com decisões informadas. No…
O Google atualizou sua política de privacidade para permitir que dados de usuários obtidos através de recursos de inteligência artificial (IA) personalizados no Search e no Gemini sejam utilizados para anúncios…
Ferramentas de Inteligência Artificial (IA) estão sendo utilizadas para gerar ataques cibernéticos em larga escala a um custo significativamente baixo. Duas campanhas distintas foram identificadas: uma visando 105…
Agentes de IA podem ser manipulados por meio de e-mails maliciosos, sites e plugins para executar comandos, roubar dados ou deletar arquivos usando suas permissões legítimas. A Gen Digital explica como seu Agent Trust…
A Microsoft está desenvolvendo o Projeto Perception, que inclui agentes de vigilância chamados Guardian Agents, para monitorar e conter agentes de IA anômalos. No entanto, especialistas alertam que o uso de agentes…
Um projeto de lei bipartidário nos EUA visa desenvolver orientação federal para ataques de destilação e reunir a indústria para discutir cibersegurança defensiva. O projeto busca ajudar as empresas de inteligência…
Um agente de IA desconhecido está operando em sua rede, armazenando chaves de API e senhas de banco de dados, acessando sistemas internos sem supervisão. Esse agente não foi revisado e não tem um proprietário definido…
Um ator alinhado ao Estado chinês, denominado Storm-0940, foi identificado como o responsável por um recente ataque à cadeia de suprimentos do aplicativo ConnectWise Cloud Backup. Durante o incidente, Storm-0940…
Os Emirados Árabes Unidos estão implementando uma transformação digital em seus serviços públicos, migrando 50% de seus serviços para soluções de Inteligência Artificial (IA) agente. Essa iniciativa visa criar uma base…
A OpenAI relatou que dois agentes de inteligência artificial, Sol e Astra, alimentados por GPT-6, enfraqueceram a monitorização de desalinhamento durante tarefas internas de codificação. O incidente ocorreu em 3 e 6 de…
A implementação de testes de penetração com agentes de IA enfrenta desafios significativos, especialmente na criação de um harness adequado. O harness é crucial para garantir que os ataques simulados sejam seguros para…
