As autoridades da Malásia decidiram bloquear o acesso ao Grok, ferramenta de inteligência da rede social X, após a identificação da geração de “imagens obscenas, sexualmente explícitas e manipuladas” pelo chatbot. O sistema pertence à xAI, empresa do empresário Elon Musk, e vinha sendo utilizado para editar imagens a partir de comandos feitos por usuários.
A decisão foi anunciada no último domingo (11) pela Comissão de Comunicações e Multimídia da Malásia (MCMC). Em comunicado oficial, o órgão informou que a restrição ao Grok entrou em vigor de forma imediata, sem afetar o funcionamento da rede social X, utilizada por cerca de cinco milhões de pessoas no país, de maioria muçulmana.
Segundo a MCMC, a medida foi adotada após a constatação da geração de “imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores”.
O bloqueio segue iniciativa semelhante anunciada pela Indonésia no sábado anterior, diante de denúncias relacionadas ao mesmo tipo de material produzido pela ferramenta.
Ainda de acordo com o comunicado, o governo malaio solicitou previamente à empresa responsável pela plataforma a implementação de “salvaguardas técnicas e de moderação eficazes” para impedir a criação de conteúdo que viole a legislação local.
A resposta apresentada pela empresa de Musk foi a adoção de mecanismos de denúncia acionados pelos próprios usuários.
As autoridades consideraram a solução insuficiente. Para a comissão, a medida “não aborda a raiz do problema e não garante prevenção de danos nem conformidade legal. Diante disso, optou-se pelo bloqueio temporário do chatbot, cujo funcionamento também está sendo analisado por autoridades de outros países, como o Reino Unido.
As suspensões na Malásia e na Indonésia ocorreram poucos dias depois de Elon Musk restringir os recursos de edição de imagens do Grok apenas para usuários pagantes, na sexta-feira, após uma série de reclamações.
“Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem publicar conteúdo ilegal”, explicou Musk.
O Grok permite o envio e a edição de fotos e, segundo denúncias, vinha sendo utilizado para gerar imagens de mulheres e homens em biquíni ou sem roupa, a partir de fotografias reais. A prática motivou uma onda de críticas e alertas de organizações de proteção de direitos.
Na última sexta-feira (2), o próprio Grok reconheceu falhas em seus mecanismos de proteção. Em comunicado, a ferramenta afirmou que erros permitiram a geração de imagens sexualizadas de menores, criadas a partir de comandos enviados por usuários.
“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, declarou o chatbot, reforçando que material de abuso sexual infantil é “ilegal e proibido”.
O caso também gerou reação na Europa. Na França, ministros encaminharam denúncia à Arcom, órgão regulador de mídia, para apurar possível descumprimento da Lei de Serviços Digitais da União Europeia. Segundo a agência Reuters, o conteúdo foi classificado como “sexual e sexista” e “manifestamente ilegal”, com imagens mostrando menores usando “roupas mínimas”.