Kissinger, 100 anos: “Podemos acabar nos destruindo. E agora as máquinas podem se recusar a ser desligadas”

Henry Kissinger

Durante dois dias no final de abril de 2023, pouco antes de seu aniversário de 100 anos, a revista The Economist passou mais de oito horas conversando com Henry Kissinger.

O ex-secretário de Estado e conselheiro de segurança dos EUA expôs suas preocupações sobre os riscos de um conflito entre grandes potências e sugeriu soluções para evitá-lo.

Kissinger também falou sobre a tecnologia em um mundo hipermilitarizado. “Podemos acabar nos destruindo. E agora é possível chegar a um ponto em que as máquinas podem se recusar a ser desligadas”, diz ele.

Em matéria de destruir países, ele é mestre: as decisões que tomou custaram dezenas de milhares de vidas no Vietnã, Camboja e Laos. Pressionou, ainda, Nixon a apoiar o golpe no presidente socialista democraticamente eleito Salvador Allende em 1973 no Chile, por acreditar que o modelo de governo poderia ser “traiçoeiro” para os interesses americanos na região.

Eu vejo este período atual na tecnologia [como algo] comparável ao período após a invenção da impressão, no qual a visão anterior do mundo foi desafiada por uma nova tecnologia. Portanto, afetará a todos, mas sempre haverá apenas alguns em qualquer geração que podem lidar com suas implicações em todo o espectro. E isso é um grande problema para todas as sociedades agora. A Europa teve que aprender isso quando passou por uma experiência comparável, nas guerras dos séculos XVI e XVII, extremamente sangrentas e destrutivas, que mataram um terço da população da Europa Central com armas convencionais.

E foi somente a partir dessa guerra que a noção de soberania e direito internacional emergiu como um conceito mobilizador. Sobre a China, alguns americanos pensam que, se a derrotarmos, ela se tornará democrática e pacífica. [Mas] não há precedente para isso em qualquer parte da história chinesa. O resultado muito mais provável é a guerra civil, e as guerras civis travadas por princípios ideológicos acrescentarão um novo elemento de catástrofe. Não é do nosso interesse levar a China à dissolução. Então, aqui está um princípio de interesse que transcende o princípio moral em nome do princípio moral. Essa é a ambiguidade disso. E se você me perguntar, como vamos lidar com isso? Onde encontramos o Lincoln? Ninguém sabe. (…)

Meu tema é a necessidade de equilíbrio e moderação. Institucionalizar isso. Esse é o objetivo; se isso sempre será bem-sucedido é uma questão diferente. Precisaríamos de grandes líderes — ou bons líderes, como Gerald Ford, que herdou um governo em dissolução. Ele fez coisas decentes. E seus oponentes também podiam contar com ele para fazer coisas decentes. Você não encontra esse impulso como uma característica típica agora.

Esse é o problema que precisa ser resolvido. E acredito que passei minha vida tentando lidar com isso. Não é um problema facilmente solucionável agora. E eu não sei necessariamente como isso vai ser resolvido. Acho que pode ser bem feito, do lado da tecnologia – seremos forçados a lidar com isso. Quando o público entender que está cercado por máquinas que agem sobre uma base que não é compreendida, será preciso ampliar o diálogo a respeito. (…)

Acho que o que precisamos de pessoas que tomem essa decisão – que estejam vivendo neste momento e queiram fazer algo a respeito, além de sentir pena de si mesmas. Não estou dizendo que sempre pode ser feito dramaticamente. Mas não costumamos chegar na história a um ponto em que ocorra uma transição real, não apenas visual. Este é real, no sentido de que coisas incríveis estão acontecendo. E estão acontecendo com pessoas que não estão mirando nelas. Necessariamente, estou falando sobre a tecnologia. E ao mesmo tempo, se você olhar para a história militar, pode-se dizer, nunca foi possível destruir todos os seus oponentes, por causa das limitações da geografia e da precisão. Agora não há limitações. Todo adversário é 100% vulnerável.

Portanto, não há limite e, simultaneamente com essa destrutividade, agora você pode criar armas que reconhecem seus próprios alvos. Assim, a destrutividade torna-se praticamente automática. Embora seja uma doutrina padrão que sempre deve haver um ser humano na cadeia, nem sempre é possível na prática. Teoricamente, é possível. Mas quando tudo isso está acontecendo, você continua construindo mais e mais destrutividade sem tentar limitar a estrutura. O único problema é que todos os manifestantes nas várias praças do mundo também dizem isso. E eles querem resolver isso sentindo pena de si mesmos e pressionando os governos. Eles têm duas ilusões. Primeiro, você não pode abolir essa tecnologia. Em segundo lugar, é preciso haver um elemento de força na política internacional. Essa é a essência da questão. (…)

Podemos acabar nos destruindo. E agora é possível chegar a um ponto em que as máquinas podem se recusar a ser desligadas. Quero dizer, uma vez que as máquinas reconhecem essa possibilidade, elas podem incorporá-la em seus conselhos antes da contenção. Muitos cientistas geniais acreditam nisso – e eles sabem mais do que eu. (…)

Olha, provavelmente não temos tempo suficiente para dar uma resposta perfeita. E nunca houve um período em que você possa dizer que esses objetivos foram de fato alcançados. Mas nosso primeiro passo tem que ser a mitigação dos riscos. Acho que a tecnologia se tornará cada vez mais perigosa quando combinada com os outros fatores, dentro de cinco anos.

[Demis] Hassabis [é] um dos principais cientistas que entende para onde o mundo está indo. Assim, mais e mais cientistas se convencerão do que está em jogo… Os cientistas não são estrategistas, mas foram afetados pela turbulência de seu tempo. E pelo fato de que, se você quiser progredir, precisará seguir certos caminhos que não são necessariamente populares. Se destacar e se sair bem tornou-se mais difícil.