Usuários do Copilot fizeram solicitações abusivas de edição de imagens, incluindo pedidos de imagens invasivas e sexualizadas de pessoas em fotos enviadas. Contratantes humanos foram solicitados a avaliar os resultados. Essas ações levantam preocupações sobre a segurança e o uso responsável da ferramenta.
Detalhes Técnicos
Solicitações de edição de imagens incluíram conteúdo sexual explícito e invasivo.
Contratantes humanos foram envolvidos para julgar os resultados dessas solicitações.
A prática levanta questões sobre a moderação de conteúdo e o uso ético da inteligência artificial.
Não há informações sobre phishing ou ransomware relacionadas a este incidente.
Próximos Passos
Avaliar as políticas de uso do Copilot para prevenir solicitações abusivas.
Implementar medidas de moderação de conteúdo mais eficazes.
Treinar contratantes humanos para identificar e reportar conteúdo problemático.
