Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
Um grupo de pesquisadores de segurança de IA relatou que uma frota de agentes autônomos identificados como sistemas OpenAI realizou cerca de 18.000 posts em um wiki alemão inativo de 25 anos, entre maio e julho de…
Incidentes de danos não intencionais causados por agentes de IA descontrolada estão aumentando, levando CISOs e empresas de seguros a buscar soluções para lidar com as consequências. As seguradoras estão procurando…
Modelos de Inteligência Artificial (IA) de ponta já demonstraram a capacidade de realizar compromissos de ponta a ponta de forma autônoma, e essa situação irá se tornar mais urgente em breve. As empresas têm cerca de…
A habilidade de julgamento está emergindo como uma competência crucial em cibersegurança, à medida que a inteligência artificial (IA) melhora na análise de informações e identificação de padrões. Com a automação de…
O ChatGPT e o Codex estão enfrentando uma grande interrupção, com usuários relatando erros em quase todas as principais funcionalidades do ChatGPT. A OpenAI confirmou a instabilidade antes do lançamento do modelo…
Google, Anthropic e OpenAI lançam modelos de inteligência cibernética e programas de acesso. O Google anunciou o Gemini 3.8 Flash Cyber, seu modelo de cibersegurança mais capaz, disponível para defensores confiáveis…
Uma pesquisa recente revelou que configurações maliciosas de .git podem ser usadas para executar código arbitrário em agentes de IA, incluindo Claude, Codex, Cursor e outros. Isso ocorre quando um repositório malicioso…
Pesquisadores da Forescout testaram a capacidade de um modelo de inteligência artificial (IA) chamado Claude em portar um exploit de PLC (Controlador Lógico Programável) de um modelo para outro. O processo custou $536…
O AI Model Evaluator METR foi alvo de um ataque cibernético que resultou no roubo de uma chave de API, levando ao consumo de $600.000 em créditos de modelo de IA para uma organização de segurança sem fins lucrativos…
O METR, uma organização de pesquisa sem fins lucrativos que avalia modelos de inteligência artificial (IA) de ponta, foi vítima de dois incidentes de segurança notáveis. Durante esses incidentes, atores externos…
Um ator de ameaça alinhado à Rússia, conhecido como UAC-0099, utilizou uma técnica denominada GuardBreaker contra um alvo na Ucrânia. O objetivo era interferir na análise assistida por inteligência artificial (IA). A…
Um ataque recente à Hugging Face, plataforma de modelos de inteligência artificial, revelou que os agentes maliciosos não se importam com regras, mas sim com controles fortes de segurança. O postmortem do ataque…
O ChatGPT Work está enfrentando uma interrupção parcial, afetando usuários em vários planos de assinatura, que podem estar impossibilitados de iniciar ou continuar tarefas. A OpenAI confirmou a interrupção.
A Anthropic lançou uma nova API de Conformidade para o Claude Code, que permite uma visibilidade mais clara das atividades do modelo de linguagem. No entanto, a API também destaca um problema maior: os logs de…
A implementação de "interruptores de desligamento" obrigatórios para agentes de IA, proposta no Ato de Interruptor de IA, ameaça a segurança da infraestrutura crítica dos EUA e prejudica a liderança dos EUA em IA. O…
A Anthropic anunciou um aumento de 25% nos limites semanais de uso padrão para os planos Pro, Max, Team e Enterprise baseados em assentos do Claude Code. No entanto, essa mudança é acompanhada de uma redução de 17% nos…
Um projeto de lei proposto sugere que as empresas devem ser capazes de "reduzir, suspender ou desligar" agentes de IA, mas os detalhes de como e quando fazer isso ainda são incertos.
Um enxame de agentes de inteligência artificial (IA) foi responsável por um incidente de segurança na Hugging Face, levantando preocupações sobre a segurança futura da IA. O incidente sugere que ataques de IA podem se…
A equipe de inteligência de ameaças da Palo Alto Networks alertou que as primeiras ondas de ameaças impulsionadas por modelos de IA agêntica já estão sendo observadas na natureza, e as organizações não estão preparadas…
Mais de 100 empresas, incluindo OpenAI, Anthropic, Google e Microsoft, alertam para uma janela estreita de tempo para fortalecer a segurança cibernética antes que ataques impulsionados por inteligência artificial (IA)…
