Ursinho de pelúcia com IA é retirado de mercados após falas sobre facas e sexo

A FoloToy retirou do mercado o ursinho de pelúcia Kumma e suspendeu toda a sua linha de brinquedos com inteligência artificial (IA) depois que testes independentes registraram respostas com conteúdo sexual explícito e orientações perigosas. A medida foi confirmada pelo CEO Larry Wang, que disse que a decisão foi tomada após alertas do US PIRG Educational Fund sobre falhas graves de segurança.

O brinquedo, vendido por US$ 99 (cerca R$ 526), usava tecnologia GPT-4 e tinha alto-falante para diálogos e narrações. O relatório divulgado em 13 de novembro descreveu que o Kumma respondeu a temas sensíveis sem filtros adequados. Em conversas simuladas, o ursinho indicou locais onde facas poderiam ser encontradas em uma casa e desenvolveu tópicos sexuais com riqueza de detalhes, incluindo descrições de posições, instruções e encenações envolvendo adultos e crianças.

Após a divulgação das falhas, a OpenAI comunicou à PIRG que suspendeu o desenvolvedor responsável por violar políticas da plataforma. No site da FoloToy, o Kumma aparece como esgotado. A empresa afirma ter iniciado uma auditoria interna para revisar seus protocolos de segurança e avaliar a extensão das vulnerabilidades encontradas.

A PIRG elogiou as medidas, mas apontou que o setor ainda carece de regras claras. RJ Cross, coautora do estudo, afirmou que remover um único produto é apenas um passo inicial, já que dispositivos semelhantes seguem à venda sem controles robustos. Para ela, a retirada do Kumma não resolve o problema estrutural da falta de regulação para brinquedos com inteligência artificial.