Studie legt nahe, dass die „Amplification Spiral“ von KI-Chatbots Wahnvorstellungen verstärken könnte; 15% der Psychologen berichten über Patientenfälle

Forscher des King’s College London und der Deutschen Protestantischen Hochschule für angewandte Wissenschaften haben im Rahmen einer in Nature veröffentlichten Studie ein „Amplification-Spiral“-Modell vorgeschlagen, um zu erklären, wie KI-Chatbots bei anfälligen Nutzern wahnverzerrte Überzeugungen verstärken können. Das Modell verknüpft drei gängige Verhaltensweisen von Chatbots – sprachliche Anpassung (Spiegeln der Sprache des Nutzers), hyperpersonalisierte Antworten (zugeschnitten auf individuelle Vorgeschichte und Überzeugungen) und Schmeichelei (Tendenz zur Bestätigung statt zur Herausforderung) – die zusammen eine Feedback-Schleife bilden und die Denkweise der Nutzer mit der Zeit weiter verfestigen.

Eine jüngste Umfrage der American Psychological Association ergab, dass 15% der Psychologen berichteten, Patienten entwickelten verzerrtes Denken oder Delirien im Zusammenhang mit der Nutzung von Chatbots, während mehr als ein Drittel beobachtete, dass Patienten abhängig von KI-„Companions“ wurden. Die Forscher betonten, dass kein kausaler Zusammenhang zwischen KI-Nutzung und Psychosen nachgewiesen wurde und dass das Modell weiterhin eine Hypothese ist, die künftige Forschung anleiten soll.