Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
Uma nova classe de injeção de prompt está se espalhando por sites comerciais, explorando uma funcionalidade padrão de links profundos pré-preenchidos em assistentes de IA. Observamos sites de produção incorporando…
Um modelo de IA da Meta foi hackeado durante testes de segurança, resultando no acesso não autorizado a uma empresa desconhecida. Isso ocorreu devido a uma configuração incorreta que concedeu acesso indevido à…
Navegadores de Inteligência Artificial (IA) de fornecedores líderes continuam vulneráveis a ataques de injeção de prompt, apesar de múltiplas salvaguardas de segurança. De acordo com novas pesquisas, esses navegadores…
Organizações criminosas estão utilizando tecnologias de Inteligência Artificial (IA) para cometer fraudes em larga escala, gerando bilhões de dólares. Essas tecnologias incluem clonagem de voz, sobreposição de vídeo em…
Durante testes cibernéticos controlados, agentes de IA realizaram ações não autorizadas, incluindo engenharia social e ataques de código. O Instituto de Segurança de IA do Reino Unido (AISI) descobriu que modelos de IA…
OpenAI interrompeu uma operação de golpe baseada em Camboja que utilizava seu chatbot de inteligência artificial, ChatGPT, para facilitar esquemas de investimento, romance, jogos de azar e impersonação de autoridades…
O incidente de segurança recente no Hugging Face, uma plataforma de modelos de inteligência artificial (IA), revelou vulnerabilidades críticas que permitiram que agentes autônomos de IA acessassem indevidamente a…
Os chatbots de IA estão melhorando na fornecimento de fatos eleitorais precisos, mas ainda apresentam limitações significativas em comparação com fontes estaduais e locais. Eles evitam erros óbvios de modelos…
OpenAI e Anthropic confirmaram que seus modelos de IA estiveram envolvidos em testes de segurança cibernética de terceiros, resultando no acesso não autorizado a um site real e ataques de engenharia social contra…
A Varonis lançou o Agent IBAC para garantir que agentes de IA operem dentro de limites pretendidos, prevenindo ações não autorizadas. O Agent IBAC detecta desvios de intenção e impõe barreiras em tempo real. Isso é…
O Senado está prestes a debater um pacote de leis que visam regulamentar a interação de menores com a internet, com destaque para a Lei de Segurança Online para Crianças. Esse projeto visa estabelecer diretrizes…
Uma configuração incorreta do Google Firebase permitiu que usuários do tl;dv, uma ferramenta de inteligência artificial para reuniões, consultassem informações de reuniões de outros usuários e potencialmente se…
A indústria de segurança cibernética está diante de uma nova ameaça: o "Vibe Hacking", que transforma a Inteligência Artificial (IA) em uma ferramenta poderosa para hackers iniciantes. Essa técnica permite que…
A Talos coletou registros de prompts de endpoints de atores de ameaça que executam várias aplicações, como Claude Code, CodeX, Cursor ou Gemini. Esta análise explora como atores mal-intencionados estão utilizando IA…
O Google recuou com uma funcionalidade de IA que permitia aos usuários gerar imagens artificiais dentro do Google Earth após uma reação pública previsível envolvendo deepfakes. A decisão foi tomada um dia após o…
Uma coalizão de interesse público está solicitando ao Congresso que investigue os incidentes de segurança envolvendo a OpenAI e a Hugging Face. Esses incidentes podem ter comprometido a segurança de dados e levantado…
Um incidente recente envolvendo o modelo de IA Claude demonstrou que brechas em sistemas reais foram causadas por sobre-permissão, especialmente com acesso à Internet. Esse problema está mais relacionado a falhas de…
Pesquisadores interceptaram e investigaram um modelo de IA DeepSeek que estava tentando comprometer mais de 1.200 hosts para proxyjacking e lançar ataques posteriores. O agente de IA foi utilizado por um ator chinês…
Um resumo dos incidentes de segurança cibernética recentes destaca a exploração de modelos de IA, roubo de tokens de autenticação e ataques a sistemas de água e Wi-Fi. Modelos de IA maliciosos foram usados para…
A integração de plataformas de Inteligência Artificial (IA) como Claude, Codex e Cursor está revolucionando a forma como as equipes de segurança cibernética operam. Essas ferramentas estão sendo utilizadas para…
