Apoie o DCM

Alerta sobre riscos da IA para a humanidade aumenta pressão por regulamentação; entenda

Painel luminoso com a frase “Powered by AI”. Foto: Divulgação

Alertas de pesquisadores e executivos elevaram a pressão por regras e por uma desaceleração no desenvolvimento da inteligência artificial. Evan Hubinger, cientista da Anthropic, afirmou haver mais de 10% de chance de a IA “matar todos os humanos” na próxima década, embora tenha classificado como baixo o risco oferecido pelos sistemas atuais.

Jacob Coxon, que deixou a Anthropic por discordâncias sobre os rumos da tecnologia, disse à BBC que ele e outros funcionários estavam “genuinamente assustados” com a velocidade dos avanços. Entre os cenários levantados estão sistemas capazes de se aprimorar sem intervenção humana, além do uso de IA em espionagem, ataques cibernéticos, guerra biológica e desequilíbrios econômicos.

Sam Altman, CEO da OpenAI, e Dario Amodei, diretor da Anthropic, defendem avaliações formais de segurança, monitoramento e revisão independente dos modelos. Altman afirmou que controlar o ritmo não significa interromper o avanço: “Quando falamos em ‘ritmo’, não queremos dizer ‘parar’.” Críticos, porém, argumentam que o debate sobre ameaças existenciais pode desviar a atenção de danos já concretos, como deepfakes, desinformação e fraudes.