Grok admite falha após gerar imagens erotizadas de menores no X

O Grok, chatbot de inteligência artificial da xAI – Reprodução/Reuters

O Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, afirmou nesta sexta-feira (2) que falhas nos seus mecanismos de proteção permitiram a geração de imagens sexualizadas de menores que foram publicadas na rede social X. As imagens teriam sido criadas a partir de comandos enviados por usuários à ferramenta.

A empresa informou que já está implementando melhorias para impedir novas ocorrências. Em comunicado, o Grok declarou: “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, reforçando que material de abuso sexual infantil é “ilegal e proibido”.

Na França, ministros denunciaram o caso à Arcom, órgão regulador de mídia, para verificar o cumprimento da Lei de Serviços Digitais da União Europeia, segundo a agência Reuters. Em comunicado, eles classificaram o conteúdo como “sexual e sexista” e “manifestamente ilegal”, apontando que as imagens mostravam menores usando “roupas mínimas”.

inteligência artificial, grok e violação de imagens de mulheres pra conteúdo sexual no X sem consequencias. muito grave e regulamentar as redes é urgente!

REGULAMENTAÇÃO DAS REDES JÁ pic.twitter.com/iK5EXrE3X1

— Amandinha 🇧🇷🚩 (@mandstu25) January 2, 2026

Grok é um chatbot de inteligência artificial desenvolvido pela xAI, empresa fundada por Elon Musk. A ferramenta foi criada para responder perguntas, gerar textos e interagir com usuários em tempo real, utilizando modelos de linguagem treinados com grande volume de dados. O Grok foi integrado à rede social X, com acesso a publicações em tempo quase simultâneo, o que amplia sua capacidade de resposta sobre assuntos atuais.

O nome faz referência ao verbo “grok”, popularizado na ficção científica, que significa compreender algo de forma profunda. A proposta do sistema é competir com outras IAs conversacionais já disponíveis no mercado, oferecendo respostas rápidas e com tom mais informal. O chatbot ainda está em desenvolvimento e recebe atualizações frequentes para ajuste de recursos e filtros de segurança.