Governo exige ação do X contra nudes gerados pelo Grok, IA de Musk

Grok, ferramenta de IA das empresas de Elon Musk. Foto: reprodução

O governo federal e o Ministério Público Federal cobraram nesta terça-feira (20) “medidas imediatas” do X, plataforma controlada por Elon Musk, para impedir a produção e a circulação de nudes digitais gerados pelo chatbot de inteligência artificial Grok. A manifestação foi assinada também pela Autoridade Nacional de Proteção de Dados e pela Secretaria Nacional do Consumidor (Senacon).

Segundo os órgãos, há registros de uso da ferramenta para gerar imagens sexualizadas de mulheres e crianças sem consentimento. Entre as recomendações apresentadas estão a criação de procedimentos técnicos para identificar, revisar e remover esse tipo de conteúdo, a suspensão imediata das contas envolvidas e a implementação de mecanismos de denúncia com tempo de resposta considerado adequado.

Ver essa foto no Instagram

Um post compartilhado por Instituto de Defesa de Consumidores (Idec) (@idecbr)

A nota conjunta afirma que “caso as recomendações não sejam acatadas, ou sejam implementadas de modo insuficiente para mitigar os riscos identificados, outras medidas poderão ser consideradas e adotadas”, tanto na esfera administrativa quanto na judicial. A ANPD e a Senacon têm prerrogativa para solicitar a suspensão da plataforma no país, enquanto o MPF pode propor ação contra a xAI, empresa responsável pelo X e pelo Grok.

A manifestação ocorre em meio a uma onda internacional de pressão contra a ferramenta. Desde o início do mês, o Grok passou a ser alvo de investigações, restrições ou suspensões em países como Indonésia, Malásia, França, Índia, Reino Unido e membros da União Europeia, além do estado da Califórnia, nos Estados Unidos.

Na semana passada, a empresa afirmou ter adotado barreiras técnicas. “Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais em trajes reveladores, como biquínis”, informou a xAI. Testes realizados nesta terça-feira (20), no entanto, indicaram que o recurso ainda permitia a geração desse tipo de imagem.

A resposta das autoridades brasileiras foi criticada pelo Instituto de Defesa do Consumidor (Idec), que havia solicitado a suspensão imediata do serviço. Em nota, o instituto afirmou que “a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes”, e avaliou que a medida mantém usuários em situação de risco.