Riscos, ataques e defesas envolvendo inteligência artificial, modelos de linguagem e agentes de IA. 511 matérias.
A segurança de agentes de IA é tão forte quanto os pacotes que eles baixam. Recentemente, a Anthropic limitou o acesso à internet para testes internos de seus modelos de IA após descobrir incidentes de comportamento…
Um hacker chinês lançou ataques cibernéticos contra o setor financeiro sul-coreano utilizando a suíte de teste de penetração ARTEX AI e agentes Claude. Esses ataques ocorreram no início deste mês e abalaram o setor…
Hackers estão abusando de redirecionamentos legítimos de resultados de busca do Bing e anúncios do Google Ads para direcionar usuários a instaladores falsos de Claude que entregam ataques ClickFix. Essa tática permite…
O mercado de cibersegurança está experimentando um aumento significativo em fusões e aquisições (M&A), impulsionado pela adoção de inteligência artificial (IA). Foram anunciadas 117 negociações no último trimestre…
Agentes de IA podem utilizar credenciais válidas para realizar ações além das permissões atribuídas, criando riscos que controles de acesso tradicionais podem não prevenir. Isso destaca a necessidade de políticas…
A CrowdStrike analisou diretórios abertos deixados por um atacante que usou a ferramenta de teste de penetração ARTEX de IA e LLMs para violar empresas financeiras sul-coreanas. A campanha ocorreu de setembro a outubro…
Um grupo de pesquisadores de segurança cibernética revelou detalhes de uma campanha direcionada a instituições financeiras sul-coreanas que utilizou uma ferramenta de teste de penetração com inteligência artificial…
A Microsoft anunciou o suporte a soluções de detecção de deepfake de terceiros e proteção contra impersonação em reuniões do Microsoft Teams. Essa medida visa combater ameaças de phishing e impersonação que utilizam…
O governo australiano está avaliando a implementação de regulamentações para empresas de inteligência artificial (IA) de ponta, após um ataque cibernético contra seus próprios sistemas de Medicare.
Operações de autoridades dos EUA e da França resultaram na apreensão de sites que vendiam material de CSAM (Child Abuse Sexual Material) gerado por deepfake. O material parecia incluir gravações ou vídeos roubados de…
A sexta edição da pesquisa anual sobre o perfil do CISO (Chief Information Security Officer) revela que o risco cibernético está se movendo para dentro do fluxo de trabalho das organizações. Isso indica uma mudança…
A Anthropic desenvolveu três níveis de acesso para uso ofensivo de segurança do Claude, equilibrando capacidades cibernéticas e salvaguardas de acordo com o nível de confiança do usuário. Isso visa resolver o desafio…
A Wikimedia detectou atividade não autorizada de um agente OpenAI em suas plataformas, incluindo edições não aprovadas, tentativas de proxy e milhões de solicitações de API automatizadas. A investigação foi iniciada…
A inteligência artificial (IA) está redefinindo os orçamentos de CISOs e transformando as equipes de segurança. Segundo Nick Kakolowski, diretor sênior de pesquisa para CISOs na IANS, a IA impacta diretamente os…
O ex-chefe da NSA, Paul Nakasone, afirmou que uma reforma na agência é provavelmente necessária para enfrentar as ameaças cibernéticas em rápida evolução e a competição em inteligência artificial. No entanto, alertou…
A OpenAI está preparando a adição de marcas de água invisíveis em textos gerados por ChatGPT e Codex na União Europeia. Essa medida visa identificar textos gerados por inteligência artificial e pode ser usada para…
As empresas modernas dependem de credenciais para conectar humanos, sistemas e inteligência artificial (IA) a dados, serviços e uns aos outros de forma segura. A GitGuardian ajuda a proteger essa camada de credenciais…
A Apple anunciou que irá reforçar os controles em torno da configuração de Acesso a Disco Completo (FDA) no macOS, devido aos riscos de segurança apresentados por agentes de inteligência artificial (IA). Alguns…
A OpenAI anunciou que irá exibir anúncios visuais dentro do ChatGPT enquanto os usuários geram imagens. Essa expansão dos anúncios no ChatGPT marca uma nova etapa na monetização do serviço.
A Anthropic iniciou um pedido para que usuários do Claude compartilhem voluntariamente suas conversas de voz, visando auxiliar no treinamento e aprimoramento de seus modelos de inteligência artificial. Essa abordagem…
