Apoie o DCM

Anthropic bloqueia tentativas de uso de IA em pesquisas sobre armas biológicas

Mãos robóticas sobre teclado ao lado de celular com o nome Anthropic
Mãos robóticas sobre teclado iluminado e celular com o nome Anthropic. Foto: Reprodução

A Anthropic afirmou ter bloqueado neste ano várias tentativas de cientistas de usar sua tecnologia em pesquisas que poderiam contribuir para o desenvolvimento de armas biológicas. A empresa disse ter banido as contas envolvidas depois de identificar esforços para contornar controles e ocultar a finalidade dos estudos.

Em relatório sobre usos maliciosos de seus modelos, o laboratório apresentou cinco casos, incluindo acessos ligados a regiões e países onde o serviço é proibido, como Rússia, China e Irã. Um dos exemplos envolveu um pesquisador de uma “região não atendida” que passou semanas planejando, com o Claude, experimentos sobre gripe aviária. Os filtros restringiram o trabalho a modelos menos avançados.

A companhia declarou não ter certeza de que os pesquisadores pretendiam causar danos, já que informações aplicáveis à criação de armas biológicas também podem servir ao desenvolvimento de vacinas. A Anthropic defendeu uma discussão entre empresas de IA e governos sobre riscos biológicos emergentes. O relatório também citou fraudes com aplicativos falsos de relacionamento, sistemas de vigilância contra dissidentes e tentativas de extrair recursos de seus modelos.