Como grupos nazistas usam códigos e “trends” para espalhar discurso de ódio no TikTok sem detecção

Grupos nazistas e supremacistas têm usado códigos, símbolos disfarçados e linguagem ambígua para espalhar discurso de ódio no TikTok sem serem detectados pelos sistemas de moderação, segundo reportagem do G1.

A estratégia permite que conteúdos de exaltação ao nazismo circulem de forma menos explícita, dificultando a responsabilização dos autores, apesar de a apologia ao regime ser crime no Brasil. Os códigos não serão citados para evitar sua propagação e promoção.

De acordo com as pesquisadoras Liriam Sponholz e Yasmin Curzi, especialistas em discurso de ódio, os extremistas recorrem a sinais de duplo sentido — conhecidos como “dog whistle” — para se comunicar entre si sem chamar atenção.

Esse material evita símbolos proibidos e termos diretos, substituídos por hashtags, emojis e referências indiretas.

“A apologia está presente nesses posts, mas, do ponto de vista jurídico, nem sempre é interpretada como tal justamente por não ser explícita”, explica Liriam. Ela acrescenta que comprovar a intenção nas redes é complexo, mas isso não pode servir de justificativa para permitir a circulação desse tipo de conteúdo.

As pesquisadoras também destacam que muitas publicações evitam citar diretamente palavras como “Hitler” ou usar a suástica, justamente para escapar das legislações que proíbem esses símbolos. Em vez disso, utilizam imagens, datas históricas, frases ambíguas e referências culturais reconhecidas apenas por quem já está inserido nesses círculos.

Algoritmo e efeito cascata nas recomendações

A investigação identificou ao menos 62 contas que publicaram conteúdos de exaltação ao nazismo ao longo de quatro semanas, a partir de denúncia enviada por um leitor que pediu anonimato por segurança.

Ele relatou que encontrou os perfis após assistir a vídeos de denúncia feitos por outros usuários e que, depois de acessar um deles, passou a receber cada vez mais recomendações semelhantes na plataforma.

Em menos de três dias de monitoramento, o feed passou a exibir com frequência vídeos, fotos e memes com essas referências na aba “For You” (“Para você”). À medida que o acompanhamento avançava, novos perfis surgiam com mais frequência, além de grande volume de comentários favoráveis à ideologia.

Essa dinâmica sugere que o algoritmo pode amplificar conteúdos extremistas ao identificar padrões de engajamento, mesmo quando eles surgem a partir de denúncias.

Perfis espalhados por vários países

As postagens foram feitas em diversos idiomas, incluindo português, inglês e espanhol, sem revelar claramente a localização dos criadores.

Ainda assim, uma plataforma de análise estimou que parte significativa das contas poderia estar no Brasil, enquanto outras seriam atribuídas a países como Estados Unidos, Alemanha, Reino Unido, Polônia, Belarus e Arábia Saudita.

A ausência de dados públicos sobre o país de origem dos perfis dificulta a responsabilização e a cooperação internacional para combater esse tipo de conteúdo.

Conteúdos explícitos também circulam

Embora a maioria dos perfis utilize disfarces, conteúdos abertamente nazistas também foram encontrados com facilidade. Entre eles, vídeos com símbolos como a suástica, referências diretas a Adolf Hitler e expressões associadas ao supremacismo branco.

Em um caso, um vídeo mostrava um homem dançando com a suástica ao fundo. Em outro, aparecia a águia imperial nazista acompanhada da frase em inglês sugerindo que o líder nazista estaria certo. Alguns desses conteúdos acumulam dezenas de milhares de visualizações, curtidas e comentários.

Também foram identificadas publicações que tratam a morte de Hitler, em 30 de abril de 1945, como motivo de celebração simbólica entre simpatizantes. Em certos perfis, comentários elogiosos convivem com críticas de outros usuários, evidenciando a disputa narrativa dentro da própria plataforma.

Além disso, memes e imagens aparentemente neutras são utilizados para disseminar a ideologia, como fotos históricas manipuladas, frases ambíguas e símbolos associados a organizações paramilitares nazistas, incluindo caveiras e insígnias.

Em muitos casos, essas referências aparecem nos comentários, ampliando o alcance sem necessariamente aparecer no conteúdo principal.

Resposta do TikTok e limitações da moderação

O TikTok afirmou que remove conteúdos que violam suas diretrizes e que não permite apoiar ou disseminar ideologias de ódio, incluindo supremacismo e antissemitismo.

A empresa declarou ainda que treina regularmente suas equipes para aprimorar a detecção de símbolos, termos e comportamentos ofensivos e para proteger o contradiscurso. Mesmo assim, a reportagem encontrou material que permaneceu visível, indicando limitações na filtragem e na aplicação das regras.

A plataforma também exibe avisos quando determinados termos associados a grupos extremistas são pesquisados, mas isso não impede totalmente que símbolos e códigos apareçam em perfis, comentários ou biografias, permitindo que a rede continue sendo usada como espaço de circulação dessas mensagens.

O que diz a lei brasileira

No Brasil, exaltar o nazismo, usar símbolos, distribuir emblemas ou fazer propaganda da ideologia é crime previsto na Lei 7.716/1989, com pena de reclusão e multa. A legislação também classifica o racismo como crime inafiançável e imprescritível, o que significa que pode ser punido a qualquer momento.

As referências diretas ao nazismo foram incluídas na lei na década de 1990 para ampliar o combate a ideologias racistas.

Segundo especialistas, a estratégia de ambiguidade busca justamente evitar enquadramento legal direto, mantendo o conteúdo abaixo do radar da Justiça. Ainda assim, a apologia ao nazismo é considerada uma forma de racismo e viola tratados internacionais ratificados pelo Brasil.