A IA que saiu do ar três dias após o lançamento por ser “super avançada”
O Claude Fable 5, modelo de inteligência artificial da Anthropic, saiu do ar três dias depois do lançamento global. A suspensão teria ocorrido após uma ordem do Departamento de Comércio dos Estados Unidos, que determinou a retirada imediata do sistema por preocupações ligadas à cibersegurança.
De acordo com o relato, o modelo funcionava como uma versão limitada do Claude Mythos 5 e usava classificadores independentes para identificar pedidos sensíveis em áreas como cibersegurança, biologia e química. Quando detectava risco, o sistema redirecionava a resposta para um modelo mais fraco. Esse bloqueio ocorria em menos de 5% dos casos.
A Anthropic atribuiu ao Fable 5 capacidades incomuns para ferramentas públicas de IA. O texto cita uma migração completa de uma base de 50 milhões de linhas de código em Ruby em um único dia, além de ganhos em tarefas de design de proteínas e modelos genômicos. Antes do lançamento, no chamado Project Glasswing, a empresa teria dado acesso antecipado a 50 parceiros estratégicos.
O caso ganhou escala quando o programa, ainda segundo a coluna, passou a envolver 150 organizações em setores como energia e telecomunicações e identificou mais de 10 mil falhas graves em códigos estratégicos. O governo americano alegou que usuários poderiam contornar as travas com comandos simples para pedir análise de código e identificação de vulnerabilidades. Como a Anthropic não conseguiria filtrar a nacionalidade de usuários em tempo real, a empresa tirou o modelo do ar globalmente.
Ver essa foto no Instagram