Da Sociedade Incivil ao Direito 4.0: algoritmos sequestram a fala. Por Lenio Streck

Publicado na ConJur

Por Lenio Luiz Streck

1. A cultura do algoritmo como sociabilidade de plataforma
Leio magnífica entrevista com Muniz Sodré. Ele fala da cultura do algoritmo que levou a uma sociedade incivilizada, que rejeita os avanços da cidadania, as diferenças e o discernimento crítico. “Cultura do algoritmo” é uma boa definição para aquilo que George Steiner já bem denunciava como era do pós-verbo.

2. Se no princípio era o verbo, agora é o não-verbo
Aliás, o livro chama Sociedade Incivil (ed. Vozes). Diz Sodré: esses algoritmos são um outro discurso, um outro universo, fundado com outras regras. Os algoritmos constituem uma língua própria porque eles são capazes de produzir mensagens, incitar comportamentos. E nós não sabemos que língua é essa, só dominada por seus programadores, acrescenta. Esse é o ponto: só dominada por seus programadores.

A sociabilidade que a rede gera, que o algoritmo gera, é uma sociabilidade de plataforma. Não é a sociabilidade histórica real. Não é a subjetividade vivida, sustenta Sodré. E eu acrescento: ao contrário, é o completo solipsismo que recusa a própria ideia de sociabilidade verdadeira. É um Tecnoselbstsüchtiger. O solipsista robustecido pela algoritmização integral das coisas.

3. O tecnosolipsismo (tecnoselbstsucht) e o Direito que acelera
O “Direito Turbo” (digo isso com carinho, porque no mais das vezes as denominações são desse 2.0, 4.0, etc) bomba. Agora mesmo escutei podcast sobre isso. Direito virou estratégia. Desenhos. Algoritmos.

Inicialmente quero dizer que textos sobre Direito e tecnologia são sempre muito parecidos entre si. Basicamente o lema é: “O Direito não pode se fechar para o novo”. E eis tudo. “Novas tecnologias”. “Novas abordagens”. “Disrupções”. Mas, o que é isto — o “novo”?

O futuro: o perigo de tornar impossível qualquer contato do advogado com o juiz (aliás, como é hoje já?) — daqui a pouco iremos conversar com um robozinho-juiz no telefone, sem nenhuma possibilidade de contato com uma pessoa de verdade (exemplos do atendimento da Magalu, Sky, Itaú e da Claro nos remetem a experiências horrorosas). Algo como para “falar sobre audiência”, tecle 1. “Intimação que recebeu as 2 da manhã” via robô, tecle 2. “Embargos de declaração”, 3…. Aliás, todos os dias já não temos de responder à pergunta “você é um robô” e assinalar paisagens e hidrantes? O jornal O Globo agora se superou: põe o login, a senha e responda: você é um robô? Lindo isso, não? “Princípio da simplificação ao contrário”.

4. Quem programa a ferramenta?
No ponto, há proposições com nome muito interessante como Justiça 4.0, com pretensões de desburocratização e simplificação de procedimentos. 1

Muitos autores que tratam do assim denominado Direito de velocidade 4.0 falam em necessidade de mapeamentos de futuros, ciência de dados, design e legal design… algum assistente ou juiz vai sair programando ele mesmo? Se um assessor elabora decisão para o juiz e usa de ferramenta 4.0, quem programa a ferramenta? Ele mesmo programa o sistema?

5. Cursos jurídicos com disciplinas de programação de jus-robôs: a algoritmização da Constituição
Como se vê, o ritmo é acelerado. Daqui a pouco o curso de Direito vai ter dois semestres dedicados a “programação de jus robôs” e “decoração de interiores jurídicos” (aliás, já há grades em faculdades com isso — escrevi sobre isso aqui na ConJur).

Em vez de uma constitucionalização do Direito, uma algoritmização da Constituição. Digam que não, mas o perigo é esse. E já existem cursos de escolas de magistrados que tratam de legal design e legal law2

Em termos epistemológicos (levando a palavra a sério), legal design e coisas do gênero pouco significam. Fala-se em “reconstrução de alguns fluxos visando a eliminar etapas que podem hoje não mais fazer sentido”. Concordo. De fato, há fluxos que não se mantêm. Mas essa constatação não necessita de Direito 4.0. Mas, dependendo do atalho, pode-se criar déficit de devido processo legal. Esse é busílis. Onde está a solução pode estar o perigo. Talvez daqui a pouco considerem que algumas garantias processuais não fazem mais sentido… são ultrapassadas…

O que quero dizer é que na busca do novo na linguagem da tecnologizicão do Direito cabe tudo. Veja-se que há professores como Joaquim Falcão falando que há direitos (garantias) em excesso no Brasil… Logo, por qual razão juízes no seu cotidiano não podem “levar a sério” esses encurtamentos?

Aliás, na verdade, todos os dias as garantias processuais são vitimadas. A começar com sustentações virtuais (muitas com gravações de vídeo), julgamentos com resultados unanimemente fictos e coisas assim. Tudo já dentro desse quadro de “inovações”. Se eu estiver falando uma inverdade, por favor, cartas para a redação.

6. O atalho que pode dar no abismo e “os 12 trabalhos de Hércules”
Quantas vezes pensamos que o encurtamento procedimental (chamemos a eliminação de etapas assim) é eficiente e o resultado são coisas como os juizados especiais, nos quais as turmas recursais têm mais poder que o STJ? A história nos mostra isso. Simplificar ou encurtar por vezes pode acabar com os direitos dos utentes.

Com todo respeito e lhaneza que caracterizam minhas abordagens, textos que abordam e incensam Direito e Tecnologia (e Inovações) em geral acabam ficando no plano dos lugares comuns da “área”. Há muitos textos. Respeito-os. Mas seguem uma linha de falar que estamos em uma etapa “disruptiva” e que, por isso, o Judiciário precisa aprender a ser mais tecnológico.

OK. Porém, o que seria, mesmo, disruptivo nesse campo? Um robô atender o advogado? Petições e sentenças feitas por meio de legal design? Comunicar a sentença por visual law, como já se faz (aqui e aqui)? Robôs dando sentenças? Robôs fazendo análise de recursos (como já ocorre)? Aliás, vejo que agora, nas redes e nas neocavernas, já existe a venda de fórmulas para driblar o robô-eliminador-de-recursos. O vendedor promete que ele tem o segredo dos 12 maiores erros cometidos na interposição de recursos especiais. Viram? Primeiro é o robô. Depois um modo de vencer o robô…

“Novos fluxos”, precisamos de “novos olhares” para os “novos tempos”… e o que mais? Ora, as coisas devem ser ditas às claras. Ninguém nega o que as coisas são e que devem ser atualizadas.

Não quero a volta do lápis e do ábaco. Mas simplesmente defender o novo (tipo Direito 4.0 ou algo assim), no contexto de uma justificação para novas tecnologias pode dar margem para o surgimento de discursos predatórios que fragilizam o Direito em nome desse “novo”-que-não-é-explicado.

A verdade é que não se explica como deve ocorrer essa relação Direito-Tecnologia-IA: dificilmente encontramos exemplos consistentes — a inserção do “número da página” em um processo judicial pode ser tranquilamente feita pela máquina… hoje já se faz isso, mas desburocratizar é só isso? Acontece que nunca se explica quais são os riscos de um Direito 4.0. Apenas se fala da necessidade e da disruptura e coisas assim.

7. Os campos minados da Inteligência Artificial
Gostaria de ver uma abordagem sobre os campos minados da IA. Por exemplo: e quando os algoritmos servem para condenar? E quando os algoritmos que servem para condenar têm grandes chances de estarem errados? Algoritmos interpretam? Algoritmos sabem o que é um furto famélico ou o conceito de coerência e integridade?

Alguém dirá: “Lá vem de novo o Lenio Streck, esse jurássico, invocado com a tecnologia ‘que não entende’; ele não leu os textos sobre legal design de Stamford, etc”. Bom, vejam o que sairá na próxima edição da New York Review of Books (aqui). A ex-juíza federal Katherine Forrest, em seu breve, mas incisivo livro When Machines Can Be Judge, Jury, and Executioner, diz que isto é tanto injusto quanto irracional. Vale ler o artigo anexo.

Quero dizer: precisamos falar sobre o tema e dizer dos limites da IA. Em que parte ela não pode entrar? Duas perguntas fundamentais: a uma, quem programa o algoritmo? A duas, qual é a accountability? Esse é o ponto. E isso nunca é dito. Por que será? Entendem por que busco essas respostas que nunca são dadas?

Ora, se a tecnologia é para fazer legal design, essa coisa simplória de encolhimento de raciocínios e para fazer visual law, essa coisa esquisita que quer imitar isomorfia (já ironizada por Jonathan Swift quando de sua visita à Academia de Lagado), isso não é fazer pouco caso da tecnologia? Ou há algo que não se conta ao freguês?

8. A Teoria Pura do Direito e o Conceito de Direito lidos por legal design?
Como jurássico que acredita nos dois mil e quinhentos anos de filosofia, continuo pensando que bons juízes e bons servidores dependem, isso sim, de estudo e compreensão sobre o Direito. Epistemologia, essa é a palavra fulcral.

Como falei, quero ver explicar Kelsen (cujo conceito de positivismo 90% erram) por visual law ou legal designer. Aliás, será que a pirâmide de Merkl (não a Angela, é claro) foi o primeiro exemplo de um legal designer da história?!

Sem explicitar e sem fulanizar, sou daqueles que acredita que quem fica criando técnicas de ciência de dados pode estar fazendo qualquer coisa, menos se aprimorando no estudo do Direito, naquilo que ele vem sendo estudado por tantos cientistas-teóricos da ciência jurídica. Faz outra coisa. Mas isso aparentemente não é óbvio.

Tudo bem “se atualizar”. Se abrir para “o novo”. Desde que se diga o que isso significa. E desde que não se deixe o Direito de lado. Insisto: que venha o novo, mas sem essa “pegada antifilosófica” que facilita tudo, facilita tanto, que fragiliza as próprias condições de possibilidade para que o Direito seja Direito.

Sempre é bom olhar para trás. Walter Benjamin lembra que em 1900 a Ordem dos Engenheiros Alemães começou a trabalhar no ambicioso projeto de um léxico tecnológico. Fracassaram. Palavras e coisas, esse mistério que só a filosofia explica. Pergunte-se aos empiristas do neopositivismo lógico, do Círculo de Viena. Já não falavam do mundo (e do Direito). Falavam apenas de proposições sobre o mundo… Meio autoexplicativo, não?

9. Onde fica o discernimento crítico?
Enfim, voltando à Sociedade Incivil, penso que caminhamos para um perigoso direito algorítmico off label (não resisto) que rejeita os avanços da cidadania, as diferenças e o discernimento crítico, em nome de eficiências ad hoc e análises utilitaristas, econômicas, que, ao fim e ao cabo, nada mais são do que teses pragmatistas levadas às últimas consequências.

Sem ser catastrófico ou dramático, arrisco dizer que teremos, no futuro próximo e com a colaboração de parte da comunidade jurídica, ao lado de uma sociedade incivilizada (as redes sociais mostram que a temos), um Direito que será “aquilo que os algoritmos dizem que é”. Ou aquilo que o jus-designer mostrar… um realismo jurídico tecnológico. E tudo virará visual law. Só que isso não gera sociabilidade real; não é subjetividade vivida.

10. E o advogado se afunda no pântano e lhe mandam puxar-se pelos próprios cabelos
Sim, Direito 4.0 (ou o nome que se dê) em um país periférico, em que as prisões estão cheias de esgualepados, 40% presos cautelares e condenados em processos nos quais sequer se respeita os mínimos preceitos formais como reconhecimento de pessoas, com laudos feitos por despachantes de trânsito e coisas desse jaez. E ainda se usa o jargão “não há nulidade sem prejuízo” e “in dubio pro societate”. Qual “societate”?

Sim, isso tudo em um país em que se faz massacres desobedecendo decisão do STF. Policiais que atiram balas de borracha e ninguém sabe quem deu a ordem. Em um país em que milhares de ações penais nascem bichadas e muitas delas têm de ser “desbichadas” nos Tribunais Superiores via habeas corpus, como se viu pelo desabafo do min. Sebastião Reis Júnior no dia 1º de junho último.

Tudo isso em um país em que um desembargador, em sede de habeas corpus, decreta a preventiva. Em um país com mais de um milhão de advogados, dos quais mais da metade trabalha em condições de insalubridade jurídica.

Isso sem considerar o modo como são rejeitados embargos de declaração com base em livres convencimentos. E nos paradoxos que são criados contra a parte: se não embarga, se lasca; se embarga, diz-se que você está tentando rediscutir prova; e você quer mostrar que seus embargos não foram lidos e que o despacho é padrão ferindo o artigo 489, do CPC ou 315 do CPP, leva multa. É Sísifo misturado com Barão de Münchhausen: o advogado se afunda no pântano e se lhe mandam puxar-se pelos próprios cabelos. E se não fizer, é multado.

11. Ensinar a escovar dentes quando as pessoas não têm dentes…
Paulo Freire denunciava, há muitíssimas luas, que se ensinava aos alunos a escovar os dentes quando não tinham dentes. E não basta saber ler que ‘Eva viu a uva’. É preciso compreender qual a posição que Eva ocupa no seu contexto social, quem trabalha para produzir a uva e quem lucra com esse trabalho. Se deu para entender…temos que os algoritmos podem ler “Eva…”. Porém só ler não basta.

Alunos de Direito leem que Eva viu a uva. Só isso. E legal designer pode mostrar “desenhando” tanto a Eva como a uva… Porém, quero ver mostrar o contexto social…!

Fora o fato de o aluno já não usar livros (físicos ou digitais). Só usa resumos. E Direito Facilitado. Agora já tem o Direito Constitucional Desenhado. Problema: confundem informação (e tecnologia é somente informação) com conhecimento.

Tecnologia — e o modo como isso vem sendo tratado — aumenta o nível de informação; porém não aumenta o conhecimento. E nem dá saber. E, muitos menos, sabedoria. É nisso que entra a reflexão. Para quê? Simples: para transformar uma informação em algo útil.

Por favor, não acabem com a linguagem; ela é a casa do sentido. Deus é treteiro, dizia Darcy Ribeiro; faz as coisas tão recônditas e sofisticadas; exatamente por isso é que precisamos dos cientistas. Dos bons professores. Dos juízes cuidadosos. Não são algoritmos no Direito que vão fazer esse atalho.

Sem precisar parafrasear Paulo Freire de novo: enquanto o Direito turbo-tec acelera, a estagiariocracia cresce. Ao fim e ao cabo, é quem — falo aqui das assessorias lato sensu— de fato, vai lidar — ou lida — com isso tudo…

Os professores e pesquisadores não queremos pensar que a IA incrementará (ainda mais) a terceirização de elaboração de decisões judiciais que mudam a vida das pessoas, tiram e concedem liberdades…. E tenho a certeza que a sofrida classe dos advogados sabe bem do que estou falando. Ou não é isso?

Digo isso porque esse é um tabu no debate público e que, no entanto, está no dia a dia da advocacia. Não vamos esconder esse problema atrás dos algoritmos. Vejam os “12 trabalhos de Hércules…” que falei acima.

Post scriptum: E a medicina não pensa em atalhar protocolos… Interessante, não?
Terça-feira à noite tive que levar um familiar ao hospital, na emergência. Um pico de pressão. Em tese, um easy case médico. Pois bem. Chegamos as 21h30min e saímos depois de 1 h da manhã. Protocolo. O atendimento foi imediato. Depois, a aplicação do protocolo médico. É o due process of medicine.

Interessante é que nenhum médico pensa em fazer medical design (desculpem a comparação, mas é metafórica; nem medical visual law e tampouco médicos confiam em algoritmos para medir a pressão e ler o eletrocardiograma). Bingo.

Fosse no Direito turbo, já teria um atalho. Afinal, sempre se poderia dizer que é necessário eliminar etapas que já não mais fazem sentido. Por exemplo, por que saber se o paciente é alérgico? O médico solipsista olha para o paciente e “já sabe”. Um juiz dia desses disse que basta olhar para a testemunha que já sabe se está mentindo… Outra coisa: por que fazer longas perguntas para o paciente? Tudo isso parece uma enrolação, não é? Mania de o médico ficar medindo o pulso, pedir exames clínicos. Afinal, um bom médico decide por intuição, não é assim? Às favas o protocolo…

Desculpem a minha ironia, mas fui dormir muito tarde, por causa dos protocolos. Mas que são condição de possibilidade de uma boa medicina. Ainda bem que na medicina ainda existe, em alguns lugares, “o paciente concreto”. Porque no direito o caso concreto foi obnubilado. De há muito.

Em suma: ainda bem que a medicina — pelo menos a que conheço — não entrou nessa de “medicina 4.0”.


1 Nesse sentido o artigo da professora Silvia Piva e do juiz e professor Bianor Arruda Filho (ver aqui), publicado no Estadão.

2 A informação está no artigo antes citado.

O jornalismo do DCM precisa de você para continuar marcando ponto na vida nacional. Faça doação para o site. Sua colaboração é fundamental para seguirmos combatendo o bom combate com a independência que você conhece. A partir de R$ 10, você pode fazer a diferença. Muito Obrigado!