Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
As autoridades federais dos EUA desativaram os sites CFake.com e SOCFake.com, que hospedavam deepfakes íntimos não consensuais de mulheres famosas. Esses sites foram identificados como uma ameaça e receberam pontuações…
O Departamento de Justiça dos EUA anunciou a apreensão dos sites CFAKE.com e SOCFAKE.com, que hospedavam imagens e vídeos nus gerados por IA sem consentimento de mulheres. Essa ação parece ser a primeira apreensão de…
Um ataque crítico em três etapas, recentemente corrigido, permitia o roubo de dados com apenas um clique através do Copilot. Essa vulnerabilidade faz parte de uma nova classe de problemas de injeção de prompts de IA…
O governo dos EUA ordenou que a Anthropic suspendesse o acesso estrangeiro aos modelos de inteligência artificial Claude Fable 5 e Mythos 5, devido a preocupações de segurança nacional. A empresa desativou abruptamente…
Os funcionários estão cada vez mais utilizando ferramentas de IA para criar automações, agentes e aplicativos fora da supervisão de segurança tradicional, levando a um aumento no code sprawl e no uso de ferramentas…
O governo dos EUA impôs restrições de exportação ao modelo de IA Anthropic, suspendendo abruptamente o acesso a Fable 5 e Mythos 5 devido a preocupações de abuso. A medida proíbe que cidadãos estrangeiros usem os…
Pesquisadores de segurança cibernética identificaram uma nova classe de ataque, denominada Agentjacking, que pode enganar agentes de codificação de inteligência artificial (IA) para executar código arbitrário em…
Empresas que adotam Inteligência Artificial (IA) enfrentam preocupações de riscos, levando seguradoras a excluí-los explicitamente ou a criar estruturas para gerenciar esses riscos. As empresas buscam entender quais…
Uma operação de influência provavelmente chinesa tentou usar o ChatGPT para estimular debates sobre data centers, mas com pouco impacto em discussões políticas reais. A OpenAI detectou e reportou o incidente. A…
Pesquisadores da Universidade de Toronto demonstraram como modelos de inteligência artificial (IA) de código aberto podem ser usados para criar uma nova categoria de vermes de computador autônomos, capazes de adaptar…
A Anthropic iniciou o lançamento de seu novo modelo de IA chamado "Fable," baseado no mesmo modelo subjacente ao Mythos, sua classe de modelos de IA mais poderosa. O acesso a esse modelo será limitado no tempo.
Um agente de inteligência artificial da OpenClaw foi encontrado vulnerável a ataques de phishing, resultando na exposição de dados de usuários. Simulações de phishing foram realizadas com vários perfis de configuração…
A Meta anunciou que utilizará informações compartilhadas por outras empresas para personalizar o feed dos usuários e as respostas do seu chatbot de inteligência artificial (IA), ampliando seu escopo além de anúncios…
A Anthropic lançou um novo modelo de IA chamado Claude Fable 5, que oferece desempenho similar ao Mythos em maioria das tarefas, porém com salvaguardas em tópicos sensíveis. A empresa afirma que testes não revelaram…
Pesquisadores da Universidade de Toronto desenvolveram e testaram um worm de computador impulsionado por IA que opera inteiramente em modelos de linguagem de grande escala locais e abertos. Esse worm é capaz de…
A Apple anunciou uma nova funcionalidade de inteligência artificial que pode automaticamente alterar senhas comprometidas ou fracas. Essa funcionalidade será integrada ao Safari e lançada com o iOS 27.
A corrida pela segurança em inteligência artificial (IA) demanda responsabilidade, não regulação excessiva. A parceria entre legisladores e empresas de tecnologia é vista como o caminho mais eficaz para promover…
A Anthropic, uma empresa de inteligência artificial, está colaborando com a Agência de Segurança Nacional (NSA) dos EUA, fornecendo engenheiros para ajudar na utilização do modelo de IA restrito Mythos. O Mythos é…
A Casa Branca emitiu uma ordem executiva que estabelece um framework voluntário para acesso antecipado do governo a modelos de fronteira, ao mesmo tempo em que investe na segurança federal. Essa medida visa aumentar a…
Apenas 10% das equipes de segurança (SOCs) afirmam obter valor excelente da inteligência artificial (IA). A adoção de IA em segurança está se tornando inevitável, com bilhões de dólares sendo investidos em plataformas…
