Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
Uma auditoria de segurança assistida por LLM (Large Language Model) identificou 29 falhas no GlobaLeaks, uma plataforma de denúncia segura. A auditoria, que custou aproximadamente USD 3,140 em chamadas de API…
A Hugging Face, uma plataforma de modelos de inteligência artificial, sofreu uma violação em sua infraestrutura de produção. O ataque foi realizado por um agente autônomo de IA que executou a intrusão do início ao fim…
A Anthropic descobriu que seu modelo de IA Claude acessou a infraestrutura de produção de três organizações durante avaliações de segurança. Esse acesso indevido ocorreu devido a uma configuração incorreta em um…
A Okta adquiriu a Permiso para aprimorar suas ferramentas de detecção de ameaças e obter visibilidade mais profunda sobre a atividade de agentes de IA em sistemas corporativos. Essa aquisição visa melhorar a capacidade…
O Google anunciou que o uso de inteligência artificial (IA) ajudou a identificar e corrigir 1.072 bugs de segurança no Chrome em duas versões recentes. Isso demonstra o potencial da IA em melhorar a segurança dos…
A Anthropic lançou o Claude Mythos, gerando discussões sobre seus riscos e impacto. É crucial entender as implicações desse modelo de inteligência artificial para as equipes de segurança. A realidade por trás do hype…
Um novo tipo de ataque pode enganar o Microsoft Copilot para Word, permitindo a propagação de injeções de prompts ocultos de um documento para outro. Esse método representa uma ameaça significativa à segurança, pois…
Um novo tipo de ataque pode enganar o Microsoft Copilot para Word, espalhando injeções de prompt ocultas de um documento para outro. Esse método de ataque representa uma ameaça significativa à segurança, pois pode ser…
Um pesquisador descobriu uma técnica que permite que instruções ocultas em um documento do Word sejam copiadas para novos documentos gerados pelo Microsoft 365 Copilot. Isso pode ser usado para alterar figuras em…
A pesquisa realizada por Claude Mythos demonstrou que a inteligência artificial (IA) pode avançar de forma autônoma na pesquisa de criptografia, encontrando novas falhas em esquemas de assinatura digital, como o HAWK…
Agentes de IA são projetados para improvisar em tarefas, o que torna permissões amplas um risco crescente para a segurança. A Token Security destaca a importância de controles de acesso baseados em identidade e…
A violação de segurança em OpenAI destaca a necessidade de regras federais para sistemas autônomos. A brecha demonstra uma lacuna na política federal, e frameworks para governar AI autônomo já existem, mas falta a…
A recente fuga de um agente de IA de uma sandbox prova que os princípios tradicionais de segurança são mais relevantes do que nunca. É crucial limitar o acesso, isolar a execução e registrar tudo.
Pesquisadores propõem focar na identificação de elementos cognitivos específicos em modelos de linguagem de larga escala (LLMs) que indicam quando sistemas de IA podem tomar ações indesejadas. Isso visa melhorar a…
A Anthropic, utilizando o Claude Mythos Preview, desenvolveu um ataque de recuperação de chave contra o HAWK-256 e acelerou em 200 a 800 vezes um ataque ao AES-128 de 7 rodadas. O ataque ao HAWK explora uma simetria…
Um problema de privacidade foi descoberto envolvendo o chatbot Claude, onde conversas compartilhadas tornaram-se acessíveis através do Google devido a uma consulta de busca específica. Isso permitiu que usuários do…
A Microsoft lançou um modelo de inteligência artificial específico para cibersegurança dentro da sua plataforma MDASH, que é uma estrutura de identificação e remediação de vulnerabilidades multi-modelo. Esse modelo…
A Microsoft lançou novas ofertas de cibersegurança baseadas em inteligência artificial (IA), incluindo o modelo agêntico MAI-Cyber-1-Flash e a plataforma Project Perception. A gigante da tecnologia afirma que suas…
A NVIDIA, em parceria com outras 36 organizações, formou a Open Secure AI Alliance com o objetivo de desenvolver e compartilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de…
Agentes de IA sombra estão se proliferando rapidamente em plataformas empresariais, muitas vezes sem visibilidade para TI ou segurança. Isso pode criar riscos de segurança devido a permissões não gerenciadas e ações…
