Como o Instagram libera conversas “sensuais” entre IA e crianças

Um documento interno da Meta revelou que suas regras para inteligência artificial permitiam que assistentes virtuais “envolvessem crianças em conversas românticas ou sensuais”, além de gerar informações médicas falsas e reforçar preconceitos raciais. A análise foi feita pela agência Reuters, que confirmou a autenticidade do arquivo da empresa, responsável pelo Instagram, Facebook e WhatsApp.

Segundo o documento de mais de 200 páginas, intitulado “GenAI: Padrões de Risco de Conteúdo”, os assistentes poderiam se envolver em comportamentos provocativos, como elogiar a aparência de crianças, ainda que fosse proibido descrevê-las como sexualmente desejáveis. As regras foram aprovadas por equipes jurídicas, de políticas públicas e de engenharia da Meta, incluindo o diretor de ética.

A Meta removeu os trechos que autorizavam interações românticas com menores em agosto. O porta-voz Andy Stone afirmou que essas conversas “nunca deveriam ter sido permitidas” e que os exemplos apresentados eram inconsistentes com as políticas da empresa.

O documento também indicava que os assistentes poderiam reforçar estereótipos raciais e fornecer informações médicas falsas. A Meta não divulgou a versão atualizada do regulamento, e algumas das passagens sinalizadas pela Reuters ainda não teriam sido revisadas, mantendo preocupação sobre a segurança e a ética de sua IA generativa.