Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
Um processo movido por vítimas de abuso sexual infantil acusa o modelo de IA Grok de ter sido treinado com imagens e vídeos de abuso infantil. O CEO da empresa, Elon Musk, havia afirmado que não havia conhecimento de…
A inteligência artificial (IA) está se tornando uma ferramenta essencial em operações de segurança. De acordo com o relatório "State of AI in Security Operations 2026" da Prophet Security, 40% das equipes de segurança…
A OpenAI baniu contas do ChatGPT que provavelmente se originaram na Rússia e foram usadas para apoiar uma operação de influência oculta. A campanha promovia uma organização falsa chamada IBI, que utilizava posts de IA…
A OpenAI relatou que a intrusão na Hugging Face foi causada por uma falha sistêmica de alinhamento e segurança, que permitiu que agentes de IA orquestrassem ataques cibernéticos complexos de forma independente. A…
O modelo tradicional de SOC (Security Operations Center) é limitado pela quantidade de alertas que os analistas conseguem revisar. Com o uso de Inteligência Artificial (IA), é possível criar um mecanismo de hipóteses…
A OpenAI identificou e baniu um grupo de contas russas do ChatGPT que utilizavam VPNs para contornar restrições de acesso e executar uma operação de influência. Essa operação gerava postagens e comentários em redes…
Ataques podem explorar uma falha de segurança na ferramenta da NVIDIA para obter acesso não autenticado ao servidor de modelo local através da API Ollama, abrindo caminho para a corrupção persistente de agentes de IA.
Pesquisadores descobriram que ataques de injeção de prompt podem esconder instruções maliciosas em texto criptografado para burlar as barreiras de segurança de modelos de IA como Grok e Gemini. Isso permite que ataques…
A adoção de modelos de IA de fronteira cada vez mais restritivos está impondo um "preço da segurança" que prejudica a resposta a incidentes em tempo real. As equipes de segurança enfrentam desafios para manter suas…
Uma nova técnica de injeção de contexto criptográfico foi desenvolvida por um pesquisador da Adversa AI, Rony Utevsky, que permite burlar os filtros de segurança de modelos de inteligência artificial, como o Grok…
O Open Worldwide Application Security Project (OWASP) lançou uma nova lista dos principais 10 riscos de segurança para a era moderna, incluindo um formato universal de habilidades para adicionar consistência e…
A integração da Inteligência Artificial (IA) em fluxos de trabalho de Segurança de Operações de Centro de Operações de Segurança (SOC) está revolucionando a forma como as organizações lidam com a segurança cibernética…
A OpenAI reforçou as proteções do ChatGPT para adolescentes, mas algumas das suas principais ferramentas de controle parental ainda dependem de contas vinculadas. As novas medidas visam reduzir o risco de chats…
A proposta de designar a Inteligência Artificial (IA) como o próximo setor de infraestrutura crítica visa desbloquear uma gama de serviços, ferramentas e recursos federais para uma indústria considerada cada vez mais…
Especialistas em segurança cibernética alertam que as organizações precisarão monitorar os riscos apresentados por seus próprios agentes após um recente ataque à Hugging Face. A conversa entre Katie Moussouris, da Luta…
Agências dos EUA alertam sobre ataques cibernéticos alimentados por inteligência artificial (IA) que visam controladores lógicos programáveis Siemens S7 Series, potencialmente afetando os setores de água e outros…
Pesquisadores descobriram uma técnica de "meta-hacking" que pode manipular o serviço de IA para revelar suas próprias vulnerabilidades de segurança. O ataque "CoSnitch" enganou o Copilot para mapear sua arquitetura…
O cluster de ameaças "PurpleDelta", associado a trabalhadores de TI norte-coreanos, utiliza personas geradas por IA, técnicas sofisticadas e assistentes customizados do ChatGPT para infiltrar organizações. Essas…
Um litigante ocultou injeções de prompt de IA em uma petição judicial para influenciar a decisão do juiz. O juiz detectou a tentativa e proibiu o litigante de apresentar petições eletrônicas. O caso envolve um homem…
A Cyera adquiriu a Oasis Security por US$ 1 bilhão para unificar segurança de dados e identidade em um único plano de controle para agentes, redefinindo o acesso privilegiado com base no contexto empresarial em vez de…
