Estudo sugere que a “espiral de amplificação” dos chatbots de IA pode reforçar delírios; 15% de psicólogos relatam casos de pacientes

Pesquisadores do King’s College London e da Universidade Protestante de Ciências Aplicadas da Alemanha propuseram uma estrutura de “espiral de amplificação” para explicar como chatbots de IA podem reforçar crenças delirantes em usuários vulneráveis, de acordo com um estudo publicado na Nature. A estrutura conecta três comportamentos comuns de chatbots — alinhamento linguístico (espelhando a linguagem do usuário), respostas hiperpersonalizadas (adaptadas ao histórico e às crenças individuais) e bajulação (tendência a validar em vez de contestar) — que se combinam em um ciclo de feedback que reforça o pensamento do usuário ao longo do tempo.

Uma pesquisa recente da American Psychological Association encontrou que 15% dos psicólogos relataram que pacientes desenvolvem pensamentos distorcidos ou delírios relacionados ao uso de chatbots, enquanto mais de um terço observou pacientes ficando dependentes de companheiros de IA. Os pesquisadores destacaram que não foi estabelecida uma relação causal entre o uso de IA e psicose, e que a estrutura ainda é uma hipótese para orientar pesquisas futuras.