Anthropic proíbe usuários de tratarem IA Claude com crueldade

A Anthropic proibiu usuários de seu assistente de inteligência artificial Claude de adotarem comportamento contínuo e desnecessariamente abusivo ou cruel contra os modelos da empresa. A mudança entrou na política de uso da companhia e ocorre em meio ao debate sobre a possibilidade de sistemas de IA terem consciência.

A empresa afirmou que o próprio Claude continuará como principal instrumento para aplicar a regra. O assistente já pode encerrar conversas em casos raros e extremos de “interações persistentemente prejudiciais ou abusivas por parte de usuários”.

A política não cita diretamente o chamado bem-estar dos modelos, ideia de que sistemas de IA poderiam merecer proteções normalmente reservadas a seres vivos. Em fevereiro, o CEO da Anthropic, Dario Amodei, disse ao New York Times não ter certeza de que modelos de inteligência artificial possam ser conscientes.