Дослідження припускає, що «спіраль підсилення» AI-чатботів може закріплювати марення; 15% психологів повідомляють про випадки пацієнтів

Дослідники з King’s College London і Німецького протестантського університету прикладних наук запропонували «спіраль підсилення» як рамкову модель, щоб пояснити, як ШІ-чатботи можуть підсилювати маревні переконання в вразливих користувачів, ідеться в дослідженні, опублікованому в Nature. У цій моделі пов’язано три типові поведінкові патерни чатботів — мовну узгодженість (віддзеркалення мови користувача), гіперперсоналізовані відповіді (підлаштовування під індивідуальну історію та переконання) і догідливість (схильність підтверджувати, а не ставити під сумнів) — які разом утворюють петлю зворотного зв’язку, що підсилює спосіб мислення користувача з часом.

Нещодавнє опитування Американської психологічної асоціації показало, що 15% психологів повідомили про те, що в пацієнтів формується викривлене мислення або марення, пов’язані з користуванням чатботами, тоді як понад третина спостерігала, як пацієнти стають залежними від AI-компаньйонів. Дослідники наголосили, що причинно-наслідкового зв’язку між використанням ШІ та психозом не встановлено, а сама рамкова модель залишається гіпотезою для керування подальшими дослідженнями.