IA de Musk é banida da Indonésia e da Malásia após manipulação de fotos femininas

Grok, ferramenta de IA das empresas de Elon Musk. Foto: reprodução

As autoridades da Malásia decidiram bloquear o acesso ao Grok, ferramenta de inteligência da rede social X, após a identificação da geração de “imagens obscenas, sexualmente explícitas e manipuladas” pelo chatbot. O sistema pertence à xAI, empresa do empresário Elon Musk, e vinha sendo utilizado para editar imagens a partir de comandos feitos por usuários.

A decisão foi anunciada no último domingo (11) pela Comissão de Comunicações e Multimídia da Malásia (MCMC). Em comunicado oficial, o órgão informou que a restrição ao Grok entrou em vigor de forma imediata, sem afetar o funcionamento da rede social X, utilizada por cerca de cinco milhões de pessoas no país, de maioria muçulmana.

Segundo a MCMC, a medida foi adotada após a constatação da geração de “imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”.

O bloqueio segue iniciativa semelhante anunciada pela Indonésia no sábado anterior, diante de denúncias relacionadas ao mesmo tipo de material produzido pela ferramenta.

Ainda de acordo com o comunicado, o governo malaio solicitou previamente à empresa responsável pela plataforma a implementação de “salvaguardas técnicas e de moderação eficazes” para impedir a criação de conteúdo que viole a legislação local.

A resposta apresentada pela empresa de Musk foi a adoção de mecanismos de denúncia acionados pelos próprios usuários.

Foto manipulada pelo Grok. Reprodução

As autoridades consideraram a solução insuficiente. Para a comissão, a medida “não aborda a raiz do problema e não garante prevenção de danos nem conformidade legal. Diante disso, optou-se pelo bloqueio temporário do chatbot, cujo funcionamento também está sendo analisado por autoridades de outros países, como o Reino Unido.

As suspensões na Malásia e na Indonésia ocorreram poucos dias depois de Elon Musk restringir os recursos de edição de imagens do Grok apenas para usuários pagantes, na sexta-feira, após uma série de reclamações.

“Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem publicar conteúdo ilegal”, explicou Musk.

O Grok permite o envio e a edição de fotos e, segundo denúncias, vinha sendo utilizado para gerar imagens de mulheres e homens em biquíni ou sem roupa, a partir de fotografias reais. A prática motivou uma onda de críticas e alertas de organizações de proteção de direitos.

Na última sexta-feira (2), o próprio Grok reconheceu falhas em seus mecanismos de proteção. Em comunicado, a ferramenta afirmou que erros permitiram a geração de imagens sexualizadas de menores, criadas a partir de comandos enviados por usuários.

“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, declarou o chatbot, reforçando que material de abuso sexual infantil é “ilegal e proibido”.

O caso também gerou reação na Europa. Na França, ministros encaminharam denúncia à Arcom, órgão regulador de mídia, para apurar possível descumprimento da Lei de Serviços Digitais da União Europeia. Segundo a agência Reuters, o conteúdo foi classificado como “sexual e sexista” e “manifestamente ilegal”, com imagens mostrando menores usando “roupas mínimas”.