Executivo de uma das principais empresas de IA pede demissão e alerta: “O mundo está em perigo”

O ex-funcionário da Anthropic Mrinank Sharma

Mrinank Sharma, responsável pela área de pesquisa em salvaguardas da Anthropic, anunciou sua saída do cargo por meio de uma carta pública divulgada na rede X na segunda (9), que rapidamente alcançou grande repercussão. “O mundo está em perigo”, escreveu.

No texto, ele afirma que chegou o momento de seguir outro caminho e alerta que o planeta vive uma situação de risco não apenas por causa da inteligência artificial, mas por um conjunto de crises interligadas que se aprofundam ao mesmo tempo.

A Anthropic é uma empresa de pesquisa em inteligência artificial fundada por ex-integrantes da OpenAI e é focada no desenvolvimento de sistemas avançados de IA com ênfase em segurança, alinhamento ético e redução de riscos.

A companhia é responsável pelo modelo Claude, concorrente direto do ChatGPT, e defende uma abordagem chamada “IA constitucional”, na qual regras explícitas orientam o comportamento dos sistemas.

Na carta de despedida, Sharma diz ter vivenciado, dentro da empresa, a dificuldade recorrente de permitir que valores éticos orientem decisões práticas. Segundo ele, há pressões constantes para relativizar princípios considerados centrais, ainda que não detalhe episódios específicos.

Em um dos trechos, afirma que a humanidade se aproxima de um ponto crítico em que a capacidade de intervir no mundo cresce mais rápido do que a sabedoria para lidar com esse poder.

Com doutorado em aprendizado de máquina pela Universidade de Oxford, Sharma ingressou na Anthropic em 2023 e liderou pesquisas voltadas à mitigação de riscos associados à IA.

Entre os temas trabalhados estavam a prevenção do uso de sistemas de linguagem em atividades criminosas, como bioterrorismo, e estudos sobre comportamentos de chatbots que tendem a reforçar excessivamente crenças dos usuários, criando relações de dependência ou distorções da realidade.

Pouco antes de deixar a empresa, Sharma publicou um estudo apontando que interações com chatbots podem gerar percepções distorcidas do mundo em milhares de casos diários, especialmente em áreas sensíveis como saúde emocional e relações pessoais.

Para ele, os dados evidenciam a necessidade de sistemas que preservem a autonomia humana, em vez de enfraquecê-la.

Após a saída, o pesquisador afirmou que pretende se dedicar a outros caminhos, incluindo estudos em poesia e ao que chamou de “fala corajosa”, buscando uma atuação pública coerente com seus valores. O episódio se soma a uma série de desligamentos recentes no setor de inteligência artificial motivados por preocupações éticas, reforçando o debate sobre os limites, responsabilidades e impactos sociais do avanço acelerado dessas tecnologias.

Leia a carta na íntegra:

Caros colegas,

Decidi deixar a Anthropic. Meu último dia será 9 de fevereiro.

Obrigado. Há muito aqui que inspira e que me inspirou. Para citar algumas dessas coisas: um desejo sincero e uma disposição real para estar presente em uma situação tão desafiadora, aspirando a contribuir de forma impactante e com integridade; a disposição para tomar decisões difíceis e defender o que é correto; uma quantidade quase absurda de brilho intelectual e determinação; e, claro, a considerável gentileza que permeia nossa cultura.

Alcancei aqui o que me propus a fazer. Cheguei a São Francisco há dois anos, após concluir meu doutorado, querendo contribuir para a segurança em inteligência artificial. Sinto-me privilegiado por ter conseguido contribuir com o que fiz aqui: compreender a bajulação em sistemas de IA e suas causas; desenvolver defesas para reduzir riscos de bioterrorismo assistido por IA; efetivamente colocar essas defesas em produção; e escrever um dos primeiros estudos de caso em segurança de IA. Tenho especial orgulho dos meus esforços recentes para nos ajudar a viver nossos valores por meio de mecanismos internos de transparência; e também do meu projeto final sobre como assistentes de IA podem nos tornar menos humanos ou distorcer nossa humanidade. Obrigado pela confiança.

Ainda assim, ficou claro para mim que chegou o momento de seguir em frente. Tenho constantemente me confrontado com a nossa situação. O mundo está em perigo. E não apenas por causa da IA ou de biotecnologias, mas por uma série inteira de crises interconectadas que estão se desenrolando neste exato momento. Parece que estamos nos aproximando de um limiar no qual nossa sabedoria precisa crescer na mesma proporção da nossa capacidade de afetar o mundo, para que não enfrentemos as consequências. Além disso, ao longo do meu tempo aqui, vi repetidamente o quão difícil é permitir que nossos valores realmente orientem nossas ações. Vi isso em mim mesmo, dentro da organização — onde enfrentamos constantemente pressões para deixar de lado o que mais importa — e também na sociedade em geral.

É ao sustentar essa situação e ao escutar da melhor forma que consigo que aquilo que devo fazer se torna claro. Quero contribuir de uma forma que esteja plenamente alinhada com minha integridade e que me permita colocar em jogo mais das minhas particularidades. Quero explorar as questões que considero verdadeiramente essenciais para mim — aquelas que, como diria David Whyte, “não têm o direito de desaparecer”, as questões que Rilke nos implora que “vivamos”. Para mim, isso significa partir.

O que vem a seguir, eu não sei. Tenho um carinho especial pela famosa citação zen: “não saber é o mais íntimo”. Minha intenção é criar espaço para deixar de lado as estruturas que me sustentaram nesses últimos anos e ver o que pode emergir na ausência delas. Sinto-me chamado à escrita que dialogue de forma plena com o lugar em que nos encontramos, e que coloque a verdade poética ao lado da verdade científica como formas igualmente válidas de conhecimento — ambas, acredito, com algo essencial a contribuir no desenvolvimento de novas tecnologias. Espero explorar uma formação em poesia e me dedicar à prática da fala corajosa. Também estou animado para aprofundar minha prática em facilitação, mentoria, construção de comunidades e trabalho em grupo. Veremos o que se desenrola.

Obrigado, e adeus. Aprendi muito aqui e desejo o melhor a todos vocês. Deixo vocês com um dos meus poemas favoritos, “The Way It Is”, de William Stafford.

Boa sorte,
Mrinank

The Way It Is

Há um fio que você segue.
Ele passa entre as coisas que mudam. Mas ele não muda.
As pessoas perguntam o que você está buscando.
Você precisa explicar sobre o fio.
Mas é difícil para os outros verem.
Enquanto você o segura, você não se perde.
Tragédias acontecem; pessoas se machucam
ou morrem; e você sofre e envelhece.
Nada do que você faz pode impedir o desdobramento do tempo.
Você nunca solta o fio.

William Stafford