“Rendição cognitiva”: entenda o novo problema causado pela IA

Pesquisadores da Universidade da Pensilvânia usam o termo “rendição cognitiva” para definir o comportamento de quem transfere o raciocínio para ferramentas de inteligência artificial (IA) e aceita respostas sem checagem suficiente. Em um estudo publicado no primeiro semestre deste ano, voluntários responderam a testes com acesso opcional a um chatbot programado para errar cerca de metade das vezes.

Mesmo diante das respostas incorretas, os participantes aceitaram o raciocínio da IA em 80% dos casos. Quando o chatbot acertava, a taxa subia para 93%. O levantamento reuniu 1.372 participantes e mais de 9.500 tentativas, com aceitação de raciocínios falhos em 73,2% das situações e correção humana em apenas 19,7%. Usuários da ferramenta também ficaram 11,7% mais confiantes em suas próprias respostas, apesar dos erros do sistema.

Um relatório produzido por professores e estudantes do MIT alertou que a presença da IA dificulta avaliar o que os alunos realmente sabem em tarefas, trabalhos e provas feitas em casa. A instituição registrou menor procura por grupos de estudo e horários de atendimento com docentes.

Entre graduandos entrevistados, 46% afirmaram usar modelos de linguagem diariamente e 90% disseram temer uma dependência excessiva dessas ferramentas. O MIT defende mais interação humana e avaliações como provas orais, projetos de longo prazo e portfólios.