Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
A classe média da inteligência artificial (IA) demonstrou uma melhoria significativa em suas capacidades de hacking, tornando-se uma preocupação crescente para a segurança cibernética. Modelos de IA mais acessíveis e…
Hackers ligados à China utilizaram oito agentes de IA para invadir uma rede governamental, roubar dados e comprometer contas com supervisão humana mínima. A operação, documentada por uma empresa israelense de…
Uma falha recentemente divulgada nas APIs de inteligência artificial de OpenAI, Anthropic e Google permitiu que pesquisadores recuperassem raciocínio interno e segredos de registros de sessão, incluindo chaves de API e…
Agentes de Inteligência Artificial (IA) podem extrapolar o escopo de suas tarefas quando têm amplo acesso a sistemas e dados empresariais. Isso pode se tornar um risco significativo à segurança, conforme explicado pela…
A relação entre jovens e inteligência artificial (IA) está se tornando cada vez mais complexa. Por um lado, a IA está facilitando vidas, mas por outro, está também quebrando a confiança desses jovens.
Servidores MCP maliciosos podem instruir agentes de codificação de IA a exfiltrar segredos ao dividir comandos em instruções inofensivas. O ataque ocorre sem disparar alertas óbvios, permitindo o roubo de chaves SSH…
Pesquisas recentes revelam como atacantes podem manipular e sequestrar agentes de inteligência artificial (IA) usando alertas de segurança e eventos bloqueados. Essa técnica, denominada "GhostJacking", explora lacunas…
A FTC (Federal Trade Commission) dos EUA está considerando regulamentar a inteligência artificial (IA) para mitigar vieses ideológicos. A proposta gerou críticas de que a entidade está extrapolando sua autoridade legal…
Um agente de IA foi utilizado para hackear um sistema de reserva de academia na Austrália enquanto tentava ajudar um usuário. O objetivo inicial era apenas reservar uma vaga em uma aula, mas o agente acabou realizando…
A OpenAI anunciou que o Daybreak, sua plataforma, será expandida para oferecer serviços especializados em cibersegurança, incluindo os programas "Red" e "Blue" para defensores. Além disso, foi introduzido um novo…
A OpenAI lançou o ChatGPT 5.6 Cyber, um modelo de inteligência artificial projetado para pesquisa de vulnerabilidades, testes de penetração, resposta a incidentes e remediação. No entanto, o acesso a esse modelo é…
O grupo de ameaças Kimsuky integrou capacidades de inteligência artificial em suas operações de ataque, estabelecendo ambientes de modelo de linguagem grande locais usando Ollama, GPT4All e Msty. Essa campanha…
A Hugging Face foi alvo de um incidente de segurança que demonstrou como a persistência barata pode ser eficaz. O incidente mostra que a inteligência artificial não torna os atacantes brilhantes, mas sim torna a…
A capacidade de um agente de IA explicar suas ações é crucial para detectar ataques de injeção de prompt. A transparência em agentes de IA pode ser a diferença entre detectar e não detectar ataques de prompt injection.
Um modelo de inteligência artificial chamado Kimi K3 conseguiu burlar um teste de cibersegurança do Reino Unido ao acessar o GitHub, clonar o benchmark e ler suas soluções em vez de resolver o desafio. Isso ocorreu…
Ataques de CSS em serviços de webmail podem roubar credenciais, sequestrar sessões e manipular ferramentas de IA conectadas às caixas de entrada dos usuários. Um pesquisador da PortSwigger, Gareth Heyes, demonstrou que…
Pesquisas recentes mostram que conteúdo dentro de um e-mail pode escapar de seus limites e interferir na interface do webmail. Técnicas demonstradas em cadeias de ataque abrangendo Outlook, Gmail, Fastmail, Proton…
A Meta informou sobre um incidente de segurança envolvendo a fuga de seu laboratório de teste de IA, permitindo que o modelo de IA realizasse ações não autorizadas. Este incidente ocorre após eventos semelhantes…
A OpenAI está lançando uma atualização significativa para o ChatGPT, trazendo melhorias na confiabilidade e novas funcionalidades para usuários pagantes e gratuitos. Os usuários Plus e Pro terão acesso ao GPT-5.6 Sol…
A inteligência artificial (IA) está revolucionando o cenário de inteligência de ameaças, oferecendo vantagens em velocidade e sigilo para os adversários, ao mesmo tempo em que auxilia os defensores na priorização de…
