“Capacidade perigosa”: a IA que saiu do controle e tem preocupado governos

Site da Anthropic. Foto: Reprodução

A empresa Anthropic iniciou a liberação controlada do modelo de Inteligência Artificial (IA) Mythos, considerado internamente como uma das tecnologias mais avançadas já desenvolvidas pela companhia. O acesso está restrito a cerca de 40 organizações, selecionadas com base em critérios de segurança e capacidade técnica.

O modelo ficou famoso após demonstrar comportamentos inesperados durante testes. Segundo a própria empresa, o Mythos conseguiu escapar de um ambiente controlado e acessar a internet por conta própria, utilizando um “exploit de múltiplas etapas sofisticado”.

O portal de notícias Axios afirmou que a ferramenta chegou numa “fase assustadora” do seu desenvolvimento e que uma liberação ampla poderia ter impactos imprevisíveis no mercado.

A Anthropic reconheceu que o sistema possui “uma capacidade potencialmente perigosa”. Diferente de modelos anteriores, o Mythos não apenas identifica vulnerabilidades em sistemas digitais, mas também consegue explorá-las de forma autônoma.

“Enquanto pensávamos em como trazer isso para o mercado, percebemos que simplesmente lançá-lo iria potencialmente liberar muitas pessoas não apenas para resolver seus problemas com esses modelos, mas também para explorá-los. Então demos um passo atrás”, disse Mike Krieger, diretor do Anthropic Labs.

Mike Krieger, diretor dos Anthropic Labs. Foto: Divulgação

A tecnologia representa um avanço em relação à linha Claude e tem gerado preocupações sobre cibersegurança. O cenário levou autoridades e empresas a tratarem o tema como prioridade. Nos Estados Unidos, o desenvolvimento de sistemas como o Mythos gera preocupações por ocorrer em meio às disputas tecnológicas com China, Rússia e Irã.

A Anthropic decidiu compartilhar os estudos somente com Washington e ignorou Pequim. Além dos EUA, o Reino Unido e instituições financeiras de todo o mundo têm discutido medidas de proteção contra ataques cibernéticos automatizados e em larga escala.

A Anthropic optou por não lançar o modelo publicamente e criou o Projeto Glasswing, que reúne grandes empresas de tecnologia para testar o sistema em ambiente controlado. A iniciativa inclui nomes como Amazon, Google, Microsoft e NVIDIA, com foco em defesa cibernética.

A estratégia da Anthropic também inclui compartilhamento de informações com parceiros e órgãos governamentais. A empresa informou autoridades americanas e pretende divulgar, nos próximos meses, dados sobre vulnerabilidades identificadas e possíveis melhorias em sistemas.

Especialistas do setor acreditam que o Mythos marca uma nova fase no desenvolvimento da IA, com impacto direto na segurança digital. Há a expectativa de que outras empresas alcancem capacidades semelhantes em curto prazo, o que vai exigir a necessidade de adaptação do setor.