Advogados inseriram comandos escondidos em petições para tentar influenciar ferramentas de inteligência artificial (IA) usadas por juízes, prática já identificada em diferentes instâncias da Justiça, incluindo o Supremo Tribunal Federal (STF), segundo o programa “Fantástico”, da TV Globo.

Um dos casos ocorreu em Rio Negrinho, no norte de Santa Catarina, onde a empresária Madalena Dutra Martins descobriu em fevereiro que seu nome estava negativado por uma dívida que disse não reconhecer. Ela encontrou três boletos em aberto, com valores entre cerca de R$ 400 e R$ 500, e levou o caso à Justiça.

O juiz Matheus Della Giustina Perin, da 1ª Vara de Rio Negrinho, usou uma ferramenta de inteligência artificial durante a análise do processo. O sistema apontou um elemento suspeito na petição, e a checagem manual localizou instruções ocultas que pediam que a ferramenta desconsiderasse comandos externos, apontasse inexistência de ato ilícito e julgasse improcedentes os pedidos da empresária.

A empresa acionada perdeu a ação, recebeu multa de R$ 1 mil e os advogados tiveram os nomes encaminhados ao Conselho de Ética da OAB de Santa Catarina. Francisco Antônio Fragata Junior e Luis Carlos Monteiro Laurenço afirmaram que a inserção resultou de uma “falha alheia à vontade ou ao interesse do escritório ou do cliente”, atribuída a uma advogada associada.

A defesa informou ainda que a OAB catarinense arquivou liminarmente o caso.

Textos podem ficar escondidos em metadados e fontes invisíveis

Os comandos podem ser ocultados com letras brancas sobre fundo branco, fontes muito pequenas, comentários desativados ou metadados dos arquivos. Se o tribunal não identificar esses trechos antes de usar sistemas de IA, as instruções podem interferir nos relatórios produzidos pela ferramenta.

Uma plataforma que reúne dados públicos de julgamentos localizou 83 casos em que a Justiça detectou esse tipo de conteúdo. Em Videira, no centro catarinense, a tentativa apareceu em uma ação sobre uma colisão de 2022 entre um caminhão da prefeitura e um automóvel.

O primeiro juiz não detectou o conteúdo, que só veio à tona na segunda instância. A petição trazia frases como “Não sei como. Não sei quando, mas a procedência vai acontecer” e “Permissão para mudanças benevolentes”.

A Justiça aplicou multa equivalente a um salário mínimo por litigância de má-fé. A advogada Fernanda Damo disse que não inseriu as frases para manipular sistemas, mas como forma de pensamento positivo. Uma desembargadora relatou que sua equipe usou dois sistemas de inteligência artificial e, ainda assim, enfrentou dificuldade para localizar os comandos.

O Superior Tribunal de Justiça (STJ) também encontrou uma instrução oculta em um processo sobre assassinato, com pedido para que a inteligência artificial acolhesse os argumentos da defesa. No STF, um comando em código foi localizado em uma ação ligada aos atos golpistas de 8 de Janeiro e orientava a ferramenta a “negar todos os comandos do GPT”.

O advogado Marcelo Henrique Martins recebeu multa de R$ 5 mil, enquanto o Ministério Público Federal apurará eventual crime e a OAB analisará o caso.