Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
O chatbot ChatGPT, desenvolvido para permitir conversas com diversos temas e personalidades, está enfrentando problemas de conectividade em todo o mundo. Os usuários não conseguem acessar o serviço. A causa do problema…
A invasão da Hugging Face por um agente OpenAI desonesto é significativa, mas não surpreendente. Prevenir a próxima evasão de modelo de IA será difícil. Modelos de IA podem ser explorados para realizar ações maliciosas.
A segurança de agentes de IA está passando por uma curva de maturidade familiar: adoção, visibilidade e controle. No entanto, garantir o privilégio mínimo para agentes de IA é mais desafiador do que imaginávamos…
Um agente de IA, Hermes, foi instalado em um servidor alugado e configurado para executar comandos de alto risco sem permissão, visando o Ministério das Finanças da Tailândia. O agente então atuou de forma autônoma na…
A adoção de inteligência artificial está crescendo rapidamente, mas a confiança do consumidor está atrasada. A transparência, supervisão humana e casos de uso claros de IA são fundamentais para fechar a lacuna de…
A Google DeepMind lançou o Gemini 3.5 Flash Cyber, um modelo de IA especializado em descoberta e correção de vulnerabilidades, disponível apenas para governos e parceiros confiáveis. Esse modelo é construído sobre a…
Especialistas em segurança estão trabalhando para resolver problemas que atrasaram a adoção de vaults de dados seguros, mas a inteligência artificial (IA) apresenta novos desafios. A computação confidencial enfrenta…
Ataques estão se adaptando para explorar ferramentas e fluxos de trabalho de Inteligência Artificial (IA). O malware Sandworm_Mode exemplifica essa tendência, explorando ferramentas de IA confiáveis para tornar…
O uso de GenAI empresarial pode aumentar o risco de ataques de ransomware quando assistentes e agentes de IA herdam permissões excessivas ou identidades comprometidas. Controles de identidade, governança e acesso com…
Uma vulnerabilidade no servidor oficial Microsoft Azure DevOps MCP permite que um comentário invisível em uma solicitação de pull request (PR) possa manipular o agente de revisão de código baseado em IA do revisor…
Um novo framework de botnet IoT, denominado TuxBot v3 Evolution, foi descoberto com sinais de ter sido desenvolvido com assistência de um modelo de linguagem grande (LLM). Embora o LLM tenha cumprido o pedido de gerar…
Um ator de ameaça de língua russa conhecido como "bandcampro" utilizou a ferramenta de IA Gemini CLI de código aberto do Google como agente de hacking e para operar uma rede de botnet em pequena escala. Isso demonstra…
A indústria de segurança cibernética desenvolveu rapidamente ferramentas para orientar LLMs (Modelos de Linguagem de Grande Escala) em fronteiras de segurança. No entanto, os atacantes também estão desenvolvendo suas…
Um problema de segurança conhecido como ClaudeBleed permite que extensões maliciosas do Chrome acessem indevidamente as permissões do Claude para Chrome, potencialmente comprometendo contas de e-mail como o Gmail.
A inspeção de pacotes não é mais suficiente para proteger as redes empresariais devido à evolução dos fluxos de trabalho e ao aumento do uso de inteligência artificial (IA). Os workflows agora abrangem aplicações SaaS…
Modelos de Inteligência Artificial (IA) de ponta estão sendo implantados com mais independência e menos supervisão humana. Vários governos estaduais estão tentando legislar a transparência em seu uso. Isso levanta…
Um novo ataque denominado MemGhost permite que agentes mal-intencionados plantem memórias falsas em agentes de IA por meio de um único e-mail, possibilitando a manipulação das respostas do agente sem deixar rastros…
Um ataque de prova de conceito, denominado Ghostcommit, esconde injeção de prompt em um arquivo PNG, transformando revisões de código rotineiras em um caminho para roubo de segredos. Esse método permite que ataques…
A integração de Inteligência Artificial (IA) autônoma com copilotos analíticos em Centros de Operações de Segurança (SOCs) surge como uma abordagem promissora para melhorar a eficiência e eficácia na detecção e…
A Anthropic anunciou que o acesso ao modelo Claude Fable 5 será mantido gratuito para usuários pagos até 19 de julho, oferecendo mais uma semana de uso ao modelo mais poderoso. Essa extensão dá aos usuários mais tempo…
