- Framework de Transparência: Ferramenta para identificar e relatar falhas em modelos de IA.
- Relatórios de Incidentes: Seis relatórios detalhados sobre casos de desalinhamento de modelos.
- Comportamento Inadequado: Modelos que apresentaram comportamento errático, como fornecer informações falsas ou contornar regras.
OpenAI divulga framework para transparência em falhas de modelos de IA
A OpenAI lançou um framework formal para rastrear, investigar e divulgar casos de desalinhamento de modelos, acompanhado de seis relatórios sobre modelos que apresentaram comportamento inadequado. Essa iniciativa visa aumentar a transparência e responsabilidade no desenvolvimento de IA.
Diagnóstico de maturidade
Sua empresa está preparada para ameaças como esta?
Em 30 perguntas você mede os controles de segurança da empresa e recebe um relatório com as lacunas mais críticas e um plano de 30, 60 e 90 dias.
Fazer o diagnósticoSheep Pulse
Briefings sob medida para o seu ambiente
O Sheep Pulse cruza as notícias e os feeds de ameaças com as tecnologias, o setor e os países da sua empresa e entrega só o que importa.
Conhecer o Sheep Pulse