Agências de cibersegurança e inteligência dos EUA relatam que seis empresas de IA chinesas realizaram ataques de destilação em larga escala em modelos de IA de fronteira americanos desde pelo menos o final de 2024. Esses ataques permitiram que as empresas chinesas extraíssem bilhões de tokens desses modelos. A técnica utilizada é conhecida como distilação, que envolve a extração de conhecimento de modelos de IA avançados.
Detalhes Técnicos
Técnica de Distilação: As empresas chinesas utilizaram uma técnica de distilação para extrair bilhões de tokens dos modelos de IA de fronteira americanos. Isso permitiu que elas obtivessem acesso a grandes quantidades de dados valiosos.
Modelos de IA de Fronteira: Os modelos de IA de fronteira são sistemas de inteligência artificial avançados que estão na vanguarda do desenvolvimento tecnológico. Eles são capazes de realizar tarefas complexas e aprender com grandes conjuntos de dados.
Extração de Tokens: A extração de tokens é um processo que envolve a obtenção de unidades de informação (tokens) de um modelo de IA. Esses tokens podem ser utilizados para treinar novos modelos ou realizar outras tarefas de inteligência artificial.
Impacto: A extração de bilhões de tokens dos modelos de IA de fronteira americanos pode ter implicações significativas para a segurança nacional e a economia dos EUA. Isso pode permitir que as empresas chinesas desenvolvam capacidades de IA avançadas que sejam comparáveis ou superiores às dos EUA.
Recomendações
Monitoramento: As agências de cibersegurança e inteligência devem monitorar de perto as atividades das empresas de IA chinesas para evitar futuros ataques de distilação.
Proteção de Modelos de IA: As empresas americanas que desenvolvem modelos de IA de fronteira devem implementar medidas de segurança robustas para proteger seus modelos contra ataques de distilação.
Cooperação Internacional: É fundamental que os EUA e outros países trabalhem juntos para desenvolver normas e regulamentações que previnam a extração não autorizada de dados de modelos de IA.