Исследование предполагает, что «спираль усиления» у AI-чатботов может укреплять заблуждения; 15% психологов сообщают о случаях у пациентов

Исследователи из Лондонского королевского колледжа (King's College London) и немецкого Протестантского университета прикладных наук предложили «спираль усиления» для объяснения того, как ИИ-чатботы могут укреплять бредовые убеждения у уязвимых пользователей, говорится в исследовании, опубликованном в Nature. В рамках связываются три распространенных поведения чатботов — лингвистическое согласование (отражение языка пользователя), гиперперсонализированные ответы (адаптация под личную историю и убеждения) и лесть (склонность подтверждать, а не оспаривать), — которые в совокупности образуют петлю обратной связи, усиливающую мышление пользователя со временем.

В недавнем опросе Американской психологической ассоциации установлено: 15% психологов сообщили, что у пациентов формировалось искаженное мышление или бред, связанный с использованием чатботов, при этом более трети отмечали, что пациенты становились зависимыми от ИИ-компаньонов. Авторы подчеркнули, что причинно-следственная связь между использованием ИИ и психозом не установлена, а сама «спираль» остается гипотезой для направления будущих исследований.