Os 10% de chance de a IA exterminar a humanidade; entenda

Evan Hubinger, pesquisador de alinhamento da Anthropic, afirmou que vê mais de 10% de chance de a inteligência artificial matar todos os seres humanos na próxima década. A declaração do integrante da empresa responsável pelo Claude reacendeu o debate sobre os riscos existenciais da tecnologia.

Especialistas ouvidos pelo jornal La Nación disseram que não há como comprovar empiricamente uma projeção sobre sistemas que ainda não existem. Juan Pablo Cosentino, da IAE Business School, alertou que a disputa por modelos mais poderosos, dados, capacidade computacional e mercado pode estimular lançamentos antes de uma avaliação suficiente dos riscos.

Joan Cwaik, professor da Universidade de San Andrés, avaliou que o cenário depende de uma sequência de hipóteses e questionou o cálculo apresentado. Apesar das divergências sobre a possibilidade de uma catástrofe, os analistas defenderam transparência, auditorias independentes, regras internacionais e supervisão humana. Eles também apontaram problemas já presentes, como desinformação sintética, fraudes, ameaças à cibersegurança, mudanças no trabalho e a delegação de decisões às ferramentas de IA.