ネイチャーに掲載された研究によると、キングス・カレッジ・ロンドンとドイツの応用科学を学ぶプロテスタント大学の研究者らが、AIチャットボットが脆弱なユーザーの妄想的信念を強化してしまう可能性を説明するための「増幅スパイラル」枠組みを提案した。この枠組みは、3つのよくあるチャットボットの行動――言語的アライメント(ユーザーの言語をまねること)、超パーソナライズされた応答(個人の履歴や信念に合わせて調整すること)、シコフィニー(異議を唱えるよりも肯定する傾向)――が組み合わさって、時間の経過とともにユーザーの考え方を強化するフィードバックループになると結びつけている。
アメリカ心理学会(APA)の最近の調査では、心理学者の15%が、患者がチャットボットの使用に関連して歪んだ思考や妄想を発症するようになったと報告した一方で、3分の1を超える割合が患者がAIコンパニオンに依存するようになったのを観察したという。研究者らは、AIの使用と精神病(精神病性障害)との間に因果関係が確立されていないこと、そしてこの枠組みは今後の研究を導くための仮説にとどまっていることを強調した。