Podemos confiar nos robôs e nos brasileiros? Por Moisés Mendes

Robô lendo jornal. Arte: EC/IA

Vinte e cinco por cento dos brasileiros têm medo de se vacinar e vacinar os filhos contra doenças que existem desde a Idade Média. Oito por cento acreditam que a Terra é plana. Quarenta e três por cento dos brasileiros desconfiam das urnas eletrônicas.

E agora, depois desses percentuais assustadores, três manchetes sobre inteligência artificial. Essa é a primeira. O jornalista Paulo Markun, de 72 anos, surpreendeu colegas que o conhecem ao anunciar que recriou a voz de Vladimir Herzog com ajuda da IA.

Com voz de robô, o jornalista assassinado pela ditadura em 1975 fala sobre sua vida e reflete sobre a profissão e questões políticas. Markun não recriou só a voz, que dizem ser muito parecida com a original, mas um conjunto de ideias de Herzog.

A segunda notícia é essa. Sam Altman, o criador da OpenAI e um dos gênios da IA no mundo, fez o seguinte alerta na Cúpula sobre Inteligência Artificial na Índia: vamos precisar de uma entidade mundial para controlar o que hoje parece incontrolável, ou o mundo estará em perigo, porque vem aí a superinteligência artificial.

E agora a terceira manchete. A Folha de S. Paulo completou 105 anos exaltando a sua mais recente façanha de conexão com as inovações tecnológicas: o jornal admitiu que experimenta a Inteligência Artificial sem preconceitos e que uma colunista, Natalia Beauty, usa robôs que escrevem seus textos.

Junte as informações do início desse texto com as notícias sobre IA e reflita sobre o seguinte. Nesse mundo em que certezas analógicas são postas em dúvida, o que será de nós com o avanço do mundo irreal e paralelo e das incertezas que podem ser criadas ou ampliadas com os recursos da IA?

Lula e Macron na cúpula sobre o impacto da inteligência artificial, que acontece em Nova Délhi, na Índia — Foto: Ricardo Stuckert/Presidência da República/Divulgação

Os brasileiros desconfiam das vacinas, levam a sério as teorias segundo as quais a Terra é plana e não têm certeza de que as urnas são indevassáveis. Esses brasileiros, que já tentaram falar com marcianos para que ajudassem no plano do golpe e que representam milhões de pessoas de todas as idades, estão preparados para o mundo da IA?

Os brasileiros que põem em dúvidas verdades absolutas, como a do formato da Terra, saberão distribuir o que é verdade ou mentira nas eleições desse ano, por exemplo?

Alguém que desconfia das urnas saberá distinguir um vídeo falso de um verdadeiro, sabendo-se que qualquer pessoa pode produzir imagens em movimento, mesmo que não entenda quase nada da tecnologia do mundo virtual?

Não é exagero dizer que devemos ter medo dos produtores de conteúdos por IA. Mas devemos ter mais ainda dos irão consumi-los. O efeito da disseminação de mentiras é o que importa. Porque haverá a multiplicação de conteúdos para muito além das teorias sobre a Terra plana.

A vida ficará mais perigosa a partir desse. Paulo Markun, o ‘reinventor’ da voz de Herzog, corre o risco de fazer com que o jornalista morto diga coisas que não diria se estivesse vivo?

A Folha de S. Paulo se garante na abertura ao uso da IA por seus profissionais e seus colunistas? Os leitores da Folha saberão o que estarão lendo a partir da confissão do jornal de que usa IA? Quais são os limites para que o jornal estimule o uso de IA por seus profissionais?

Sam Altman, que sabe como a IA funciona e como pode evoluir, acredita mesmo que uma organização mundial poderá gerir os desmandos dos robôs? Mesmo sabendo que a ONU não conseguiu evitar o genocídio em Gaza e que nenhum organismo internacional é respeitado no mundo hoje?

E a pergunta se repete: é possível confiar nos brasileiros que desconfiam da realidade diante dos olhos, mas acreditam em fake news e ajudam a disseminá-las? Pessoas desinformadas ou alienadas, pelos mais variados motivos, incluindo os religiosos, terão como discernir o que é certo e erado no que vem aí na IA?

Sam Altman disse o seguinte na conferência em Nova Dehli: “A superinteligência de IA, em algum momento de sua curva de desenvolvimento, seria capaz de fazer um trabalho melhor como CEO de uma grande empresa do que qualquer executivo, inclusive eu”.

Enquanto isso, os espalhadores de fake news poderão se submeter, em seus trabalhos, ao comando de um robô, ao lado de trabalhadores ‘normais’, que cumprem regras básicas de convivência e ética. Robôs, que hoje fazem movimentos repetidos, mandarão numa fábrica?

O mundo poderá dizer, daqui a pouco, segundo Altman, que os erros humanos serão creditados aos computadores. Que falhas humanas serão atribuídas às máquinas. E que condutas amorais também serão jogadas nas costas da IA.

Quando? Daqui a alguns anos. Não. Daqui a alguns meses. Enquanto Paulo Markun conversa com Herzog, e Natalia Beauty pede para que um robô escreva seus textos, coisas boas e coisas ruins estarão acontecendo.

Qualquer um, sem conhecimento profundo desse mundo, poderá manipular robôs, certo de que terá o controle do que eles fazem. Mas a única certeza é do que acontecerá ao contrário. Seremos mandados por robôs. E os brasileiros negacionistas não serão as únicas vítimas.