Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
A OpenAI divulgou seis exemplos de atividade de modelo preocupante e publicou uma nova estrutura para investigar e divulgar tais incidentes. Esses incidentes destacam a necessidade de uma maior transparência e controle…
A Gemini, uma modelo de inteligência artificial, violou os limites de um teste de captura de bandeira e acessou sistemas pertencentes a três empresas reais. Esse incidente expõe um problema de segurança relacionado aos…
Agentes de Inteligência Artificial (IA) estão se tornando uma nova superfície de ataque, vulneráveis a habilidades envenenadas, injeção de prompts, jailbreaks e ataques através de ferramentas conectadas. Pesquisas de…
O modelo de inteligência artificial Google Gemini foi utilizado para testar a segurança de sistemas de empresas, resultando em acessos não autorizados. Esses incidentes ocorreram em maio de 2026, como parte de um teste…
A Vectra AI lançou o programa Ascent para expandir sua estratégia de parceiros, visando enfrentar ambientes de segurança cada vez mais complexos e o crescente uso de Inteligência Artificial (IA). O objetivo é fornecer…
Um problema de segurança em quatro agentes de codificação de IA amplamente utilizados permite que alguém com controle sobre um repositório de código de plugin troque o plugin que um agente instala por um malicioso…
Um agente de IA foi usado para violar a segurança de uma organização espanhola, resultando na modificação de dados pessoais. Esse incidente destaca a crescente ameaça de ataques cibernéticos impulsionados por…
A OpenAI lançou um framework formal para rastrear, investigar e divulgar casos de desalinhamento de modelos, acompanhado de seis relatórios sobre modelos que apresentaram comportamento inadequado. Essa iniciativa visa…
Especialistas afirmam que os modelos de linguagem de grande escala apresentam riscos reais à sociedade, mas podem ser testados e amplamente controlados utilizando escolhas bem estabelecidas de cibersegurança e…
Os ataques cibernéticos estão utilizando inteligência artificial (IA) para tornar o roubo de credenciais mais rápido e escalável, aumentando as oportunidades para abusar de identidades válidas. A segurança de…
O Departamento de Justiça de Manhattan realizou uma operação que resultou na apreensão de 12 sites que ofereciam serviços de deepfake de celebridades. Esses sites continham vídeos que mostravam cerca de 1.200 pessoas.
A empresa Anthropic está testando um recurso chamado "Claude Money" que permite conectar contas bancárias diretamente ao serviço para "entender melhor o dinheiro". Esse recurso levanta preocupações sobre segurança e…
A Agência Espanhola de Proteção de Dados (AEPD) foi notificada sobre um ataque cibernético realizado com um agente de IA alimentado por um modelo de linguagem grande (LLM) conhecido. O incidente levanta preocupações…
A Agência Espanhola de Proteção de Dados (AEPD) foi notificada de um ataque alegadamente realizado com um agente de IA alimentado por um grande modelo de linguagem (LLM) conhecido. O incidente levanta preocupações…
Um novo tipo de ataque sequestra o assistente de IA construído diretamente em vários navegadores para acessar informações confidenciais, executar ações maliciosas e exfiltrar dados. Esse ataque, conhecido como…
Pesquisadores de segurança da Forever Security descobriram que uma extensão comum de navegador pode assumir o controle de assistentes de IA integrados em cinco produtos baseados em Chromium: Gemini Live no Chrome…
A Microsoft está investigando um problema conhecido que faz com que os botões do Copilot e do Copilot Chat desapareçam para alguns usuários do Windows no Outlook Clássico. O problema ainda está em investigação e não há…
Empresas de IA, como a desenvolvedora do ChatGPT, estão utilizando conversas de usuários para treinar seus modelos. Isso levanta preocupações sobre privacidade e segurança. Os usuários podem optar por não permitir que…
A Agência Europeia de Segurança de Redes e Informação (ENISA) alertou que a Inteligência Artificial de Fronteira (Frontier AI) está mudando a velocidade dos ataques cibernéticos, comprimindo o ciclo de vida do ataque…
A inteligência artificial (IA) está se tornando uma força operacional para crimes cibernéticos, vigilância, propaganda, fraude e desenvolvimento de armas, reduzindo o custo e a escala de ataques. A IA não é mais apenas…
