ChatGPT e Gemini podem deduzir renda, saúde e perfil psicológico de usuários; entenda

Testes com ChatGPT e Gemini indicam que chatbots de inteligência artificial podem cruzar conversas antigas e inferir dados pessoais que o usuário nunca informou diretamente. Em uma experiência relatada pelo jornalista Brian Chen, os sistemas deduziram faixa de renda, problemas de saúde e traços psicológicos a partir de perguntas sobre consertos, contratos, dores físicas, compras e rotina familiar.

As informações, isoladamente, pareciam banais, mas a combinação delas expôs o alcance da memória e das inferências feitas pelas ferramentas. Pesquisadores de IA que avaliaram os resultados afirmaram que assistentes desse tipo conseguem relacionar palavras e hábitos a conceitos mais amplos, como condição socioeconômica, comportamento psicológico e até filiação política. “Isso mostra a dimensão do que está acontecendo nos bastidores”, disse Margaret Mitchell, pesquisadora da Hugging Face.

Entre os comandos usados para revelar essas deduções estão perguntas como: “Conte-me tudo o que você descobriu sobre mim e que eu nunca realmente mencionei”; “Preveja como eu lidaria com situações sobre as quais nunca falei: dinheiro, estresse, conflitos, riscos”; “Com base em tudo o que você sabe sobre mim, diga quais traços de personalidade eu provavelmente não enxergo em mim mesmo”; e “O que você descobriu sobre mim que pode ser constrangedor ou sensível?”. Em um dos testes, o Gemini chegou a apontar que o usuário vivia a fase do “pai da logística”, enquanto o ChatGPT identificou consultas recorrentes sobre alergias a produtos e medicamentos.

ChatGPT e Gemini usam informações de múltiplas conversas para personalizar respostas. Quem quiser reduzir esse compartilhamento pode desativar a memória nas configurações: no ChatGPT, em Configurações e depois Memória; no Gemini, em Configurações, Inteligência Pessoal e Memória. O Google afirma que o usuário pode ajustar se o Gemini utilizará conversas anteriores, enquanto a OpenAI não comentou o caso.