Apoie o DCM

“Pode matar todos nós”: ex-pesquisador da OpenAI abandona setor de IA

Logotipos da OpenAI e da Anthropic em tela
OpenAI e Anthropic – Foto: Reuters/Dado Ruvic/Illustration

Jacob Coxon, pesquisador britânico de inteligência artificial que trabalhou na OpenAI e depois na Anthropic, decidiu deixar o setor e acusou as duas empresas de avançarem sem segurança suficiente na disputa por modelos cada vez mais poderosos. Aos 27 anos, ele atuou por três anos no pré-treinamento de sistemas, fase em que as ferramentas absorvem grandes volumes de dados. Com informações do g1.

Em postagem no X, Coxon afirmou que profissionais responsáveis pelo desenvolvimento da tecnologia acreditam que ela “pode matar a todos nós até o final da década”. Ao The Wall Street Journal, ele disse que, nos cenários mais agressivos, a situação poderia escapar ao controle no fim do próximo ano. “Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou.

Evan Hubinger, executivo de segurança da Anthropic, apoiou a preocupação e afirmou que a chance de a IA matar todos os humanos na próxima década supera 10%, embora o risco com os modelos atuais seja baixo. A Anthropic retirou em fevereiro o compromisso de interromper o desenvolvimento se não conseguisse controlar os riscos. Nos Estados Unidos, ainda não há uma lei federal para regular modelos de IA; em setembro, parlamentares democratas apresentaram um projeto para suspender o avanço da tecnologia até a criação de um órgão regulador federal.