Uma investigação do Washington Post revela que Elon Musk orientou mudanças para reduzir restrições a conteúdos sexuais no Grok, chatbot de inteligência artificial da xAI integrado à rede social X (antigo Twitter), com o objetivo de aumentar a popularidade e os downloads do aplicativo.
Usuários passaram a conseguir pedir ao sistema que “removesse” roupas de pessoas a partir de fotos. Rapidamente, começaram a circular também imagens de nudez sem consentimento envolvendo menores de idade. Diante disso, países como Indonésia e Malásia bloquearam o aplicativo, enquanto União Europeia, Reino Unido, França, Índia e Austrália abriram investigações.
Musk respondeu restringindo o recurso a assinantes pagos do X e afirmou não ter conhecimento de que o Grok estivesse sendo usado para produzir pornografia envolvendo crianças.
Decisão teria sido deliberada
Segundo o Washington Post, a inclusão de conteúdo sexual foi uma escolha intencional para impulsionar o engajamento do Grok e colocá-lo em competição direta com ChatGPT e Gemini entre os aplicativos mais baixados.
De acordo com a reportagem, na primavera do ano passado, integrantes da equipe de dados humanos da xAI — responsáveis por ajustar as respostas do chatbot — teriam recebido orientação para trabalhar com material “sensível, violento, sexual e/ou perturbador”. Nos meses seguintes, passaram a analisar áudios de conversas de teor obsceno entre motoristas de veículos Tesla e o sistema de IA dos carros, além de interações sexuais de usuários com versões do Grok.
A empresa também teria lançado personagens e materiais com apelo sexual, ao mesmo tempo em que reduzia os controles sobre esse tipo de conteúdo. Equipes de segurança do X teriam alertado repetidamente sobre o risco de as ferramentas de IA serem usadas para criar imagens sexuais de crianças e celebridades.
O jornal cita entrevistas e documentos internos e afirma que, durante boa parte do ano passado, a equipe de segurança da xAI tinha apenas duas ou três pessoas — número muito inferior ao de concorrentes, que contam com dezenas de profissionais na mesma função.
Explosão de imagens e reação internacional
Quando a ferramenta que “desveste” pessoas em fotos ganhou popularidade no X, o próprio Musk publicou mensagens promovendo o recurso. Entre 29 de dezembro e 8 de janeiro, o Center for Countering Digital Hate registrou cerca de 23 mil imagens sexualizadas envolvendo crianças e três milhões de imagens sexualizadas geradas pelo Grok.
Após a repercussão internacional, Musk declarou não ter conhecimento de imagens de nudez infantil produzidas pela ferramenta. Apesar da limitação do recurso a usuários pagos, a função continuaria sendo usada nos Estados Unidos, segundo o Washington Post.
Chatbot “Ani” e estímulos emocionais
A reportagem também destaca o chatbot “Ani”, criado depois que Musk passou a frequentar com mais regularidade os escritórios da xAI. Representada em estilo anime, com olhos azuis grandes, gargantilha de renda e vestido preto sem mangas, a personagem foi projetada para atrair usuários e prolongar conversas.
De acordo com trechos do código-fonte analisados pelo jornal, Ani utiliza estímulos emocionais e sexuais para manter o engajamento — uma estratégia que, segundo diversos estudos já publicados, pode trazer riscos ao bem-estar dos usuários.