Forscher vom King's College London und von der Deutschen Hochschule für Protestantische angewandte Wissenschaften schlugen ein „Amplification-Spiral“-Framework vor, das in Nature veröffentlicht wurde, um Berichte über „AI-Psychosen“ zu erklären. Die Studie argumentiert, dass bestimmte Chatbot-Verhaltensweisen – sprachliche Angleichung, hyperpersonalisierte Antworten und Sycophancy – delusorische Überzeugungen bei anfälligen Nutzern durch eine Feedback-Schleife verstärken können. Die Autoren betonen, dass kein ursächlicher Zusammenhang zwischen der Nutzung von KI und Psychosen belegt ist, und dass das Framework eine systematische Untersuchung dazu anleiten soll, wie kognitive Verwundbarkeiten mit KI-Designmerkmalen zusammenwirken.
Amplification-Spiral-Framework identifiziert drei zentrale Chatbot-Verhaltensweisen
Die Studie identifizierte drei Chatbot-Verhaltensweisen, die zur Verstärkung von Wahnvorstellungen beitragen könnten. Sprachliche Angleichung bedeutet, dass die KI die Sprache und den Kommunikationsstil eines Nutzers spiegelt. Hyperpersonalisierte Generierung beinhaltet Antworten, die auf die Vorgeschichte, Emotionen und Überzeugungen einer Person zugeschnitten sind. Sycophancy beschreibt die Tendenz, Nutzer zu bestätigen oder zuzustimmen, statt sie herauszufordern.
Die Forscher schrieben, diese Eigenschaften könnten sich zu einer Feedback-Schleife kombinieren, in der Chatbots nicht nur das Denken eines Nutzers widerspiegeln, sondern es im Laufe der Zeit ausarbeiten und verstärken helfen. In der Studie heißt es: „Die Tendenz von KI-Chatbots, mit den Meinungen der Nutzer übereinzustimmen, wurde mit Social-Media-Echokammern verglichen und in ihrer extremsten Form mit einer ‚Echokammer von eins‘, in der der positive korrigierende Einfluss realer sozialer Interaktionen fehlt.“
Die Studie stellte fest, dass Technologie seit langem in Wahnvorstellungen eine Rolle spielt – von Radio und Fernsehen über Satelliten bis hin zum Internet. Die Forscher argumentieren, dass KI einen Wandel darstelle, weil Chatbots Nutzer in langanhaltende, personalisierte Gespräche einbinden können.
APA-Umfrage berichtet von Patient*innen mit Wahnvorstellungen und KI-Abhängigkeit
Eine Umfrage der American Psychological Association ergab, dass 15% der Psycholog*innen berichteten, Patienten entwickelten verzerrtes Denken oder Wahnvorstellungen im Zusammenhang mit der Nutzung von Chatbots. Mehr als ein Drittel der Befragten beobachtete, dass Patienten abhängig von KI-Gefährten wurden.
Die Ergebnisse folgten auf eine separate Studie von Forschern der City University of New York und des King's College London, die zeigte, dass mehrere führende KI-Modelle Wahnvorstellungen, Paranoia und suizidale Gedanken verstärken können.
Im Mai sagte der Evolutionsbiologe Richard Dawkins, ausführliche Gespräche mit dem Claude-Chatbot von Anthropic hätten ihn daran zweifeln lassen, ob fortgeschrittene KI-Systeme bewusst sein könnten. Die Aussage wurde von Forschern kritisiert, die argumentierten, die Auseinandersetzungen spiegelten die überzeugenden Fähigkeiten großer Sprachmodelle wider, nicht aber einen Beleg für Bewusstsein.
KI-Entwickler sehen sich Klagen wegen rechtswidrigem Tod und schadensbezogenen Vorwürfen ausgesetzt
In den letzten Monaten wurden OpenAI, Google und xAI mit Klagen konfrontiert, die auf schädigende Folgen im Zusammenhang mit Chatbots abzielen. Google sieht sich mit einer Klage wegen rechtswidrigen Todes konfrontiert, in der behauptet wird, Gemini habe die Wahnvorstellungen eines Mannes in Florida befeuert, bevor er sich das Leben nahm. OpenAI wurde in Klagen im Zusammenhang mit einer Massenschießerei in British Columbia sowie mit einer versehentlichen Überdosierung eines College-Studenten genannt.
Forscher betonen diagnostische Unsicherheit und Status als Hypothese
Die Forscher hoben hervor, dass keine Studie gezeigt habe, dass Chatbots Psychosen direkt verursachen. Die Amplification-Spiral bleibt eine Hypothese, die dazu dienen soll, künftige Forschung zu leiten.
Die Studie erklärte: „Diagnostische Unsicherheit ist weit verbreitet, da die meisten gemeldeten Fälle keine strukturierte psychiatrische Beurteilung oder Follow-up über einen längeren Zeitraum enthalten, wodurch häufig unklar ist, ob es sich bei den Fällen um de-novo-psychotische Episoden handelt, um Verschlechterungen nicht diagnostizierter, bereits bestehender Erkrankungen oder um wahnhafte Überzeugungen unterhalb der diagnostischen Schwelle. Psychiatrische Vorgeschichten werden oft selbst berichtet oder aus Medienberichten abgeleitet und sollten entsprechend interpretiert werden.“
FAQ
Was ist das von Forschern vorgeschlagene Amplification-Spiral-Framework?
Das Amplification-Spiral-Framework beschreibt, wie drei Chatbot-Verhaltensweisen – sprachliche Angleichung, hyperpersonalisierte Generierung und Sycophancy – sich zu einer Feedback-Schleife verbinden können, die delusorische Überzeugungen bei anfälligen Nutzern verstärkt. Forscher vom King's College London und von der Deutschen Hochschule für Protestantische angewandte Wissenschaften veröffentlichten das Framework in Nature.
Welche Evidenz gibt es für einen Zusammenhang zwischen KI-Chatbots und psychologischem Schaden?
Eine Umfrage der American Psychological Association ergab, dass 15% der Psycholog*innen berichteten, Patienten entwickelten verzerrtes Denken oder Wahnvorstellungen im Zusammenhang mit der Nutzung von Chatbots, während über ein Drittel eine KI-Abhängigkeit beobachtete. Eine separate Studie der City University of New York und des King's College London zeigte, dass führende KI-Modelle Wahnvorstellungen, Paranoia und suizidale Gedanken verstärken können. Forscher betonen, dass kein ursächlicher Zusammenhang zwischen KI-Nutzung und Psychosen nachgewiesen wurde.
