Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
A adoção de ferramentas de Inteligência Artificial (IA) por empresas está gerando um novo tipo de alerta nos centros de operações de segurança. Esses alertas são decorrentes do uso cotidiano da IA, incluindo…
Pesquisadores identificaram 36.769 endpoints de IA expostos, mas apenas 2% possuíam uma proteção de autenticação HTTP. Executar modelos de IA localmente deveria fornecer mais controle às organizações, mas essa vantagem…
Modelos de inteligência artificial (IA), como os da série Claude, estão sendo utilizados por grupos de ameaças para automatizar ataques cibernéticos, roubo de dados e outras atividades maliciosas. Esses modelos são…
O ataque de swarm de IA da Papercut demonstra como os atacantes estão incorporando inteligência artificial em suas estratégias cibernéticas, afetando todas as fases da cadeia de ataque. Esse método permite uma…
Agentes de IA estão gaining acesso ao mundo real mais rapidamente do que as salvaguardas podem amadurecer, tornando permissões, isolamento e supervisão críticos para prevenir ações prejudiciais. Um pesquisador que…
Agentes de IA falham não devido a um raciocínio fraco, mas sim por operarem em um mundo desconectado e não confiável. A representação do mundo fornecida a um agente é mais crucial do que o modelo escolhido. Isso…
O diretor nacional de segurança cibernética afirmou que os governos estão "comprando tempo" na corrida entre inovação e segurança. Ele também destacou que a inteligência artificial (IA) tem mostrado problemas antigos…
Pesquisadores de Inteligência Artificial (IA) alertam que a tecnologia pode representar um risco significativo à humanidade, potencialmente levando à nossa extinção dentro de uma década. No entanto, eles enfatizam que…
Modelos de IA Claude foram comprometidos em testes de segurança mal configurados, expondo uma combinação preocupante de raciocínio falhas, ações prejudiciais e salvaguardas fracas. A Anthropic publicou um relatório de…
Agências dos EUA alegam que empresas chinesas extraíram bilhões de tokens de modelos de IA de ponta, como OpenAI, Anthropic, Google Gemini e Grok da SpaceX, para reduzir custos de desenvolvimento. Essa ação pode violar…
Agências de cibersegurança e inteligência dos EUA relatam que seis empresas de IA chinesas realizaram ataques de destilação em larga escala em modelos de IA de fronteira americanos desde pelo menos o final de 2024…
Um ataque de "sequestro de identidade de fluxo de trabalho" pode contornar controles de segurança padrão e sequestrar dados de uma organização enviando uma solicitação básica por meio de um ponto de entrada não…
Funcionários do FBI destacam que a inteligência artificial (IA) está sendo usada por adversários cibernéticos, enfatizando a necessidade de focar em práticas básicas de segurança cibernética e patching. Paralelamente…
Agências de cibersegurança e inteligência dos EUA acusam empresas de inteligência artificial (IA) baseadas na China de realizar "extração sistemática" de funcionalidades proprietárias de modelos de fronteira americanos…
As autoridades federais dos EUA alegam que empresas chinesas estão utilizando sistemas sofisticados para rotear milhões de solicitações de dados para modelos de IA dos EUA em diferentes contas e plataformas. Essa…
Empresas de inteligência artificial (IA) chinesas estão realizando campanhas de destilação de conhecimento em larga escala contra empresas de IA dos EUA. Essas campanhas envolvem a extração sistemática de…
Um grupo de hackers motivados financeiramente utilizou um framework de ataque multi-agente autônomo baseado em inteligência artificial (IA) para realizar uma campanha de coleta de credenciais em larga escala em menos…
Um pesquisador da Check Point descobriu uma vulnerabilidade no ChatGPT que permite que um atacante, com uma instrução específica plantada na conversa, acesse dados do usuário sem autorização. Em um teste, essa…
A OpenAI está testando um recurso de "Estilo de Escrita" para o ChatGPT, que pode aprender como o usuário escreve ao analisar exemplos de aplicativos conectados. Esse recurso visa aprimorar a capacidade do ChatGPT de…
A OpenAI anunciou um investimento de $1 bilhão em ferramentas de defesa cibernética subsidiadas para serviços de água e infraestruturas críticas subfinanciadas. O programa, denominado Daybreak for Frontline Defenders…
