MIT Media Lab-Forscher fanden, dass Menschen, die mithilfe von KI die Genauigkeit von Nachrichten bewerten, möglicherweise weniger in der Lage sind, Fehlinformationen unabhängig zu erkennen, so eine neue Studie, die 67 Teilnehmende über vier Wochen hinweg begleitete. Während KI-Unterstützung die Genauigkeit bei der Erkennung von Fehlinformationen um 21% verbesserte, sank die Leistung der Teilnehmenden bei neuen Bewertungen ohne KI um 15,3 Prozentpunkte. Die Studie erscheint zu einer Zeit, in der KI-Chatbots wie ChatGPT, Claude und Grok zunehmend genutzt werden, um Online-Informationen zu verifizieren, was die Frage aufwirft, ob diese Tools Nutzern helfen, kritisches Denken zu entwickeln, oder ob sie Abhängigkeit von KI-Systemen erzeugen.
MIT Researchers Track 67 Participants Using AI Detection System
Die Forschenden bauten ein System, das OpenAIs GPT-4o mit Google Search kombinierte, um Teilnehmenden dabei zu helfen, Nachrichtenbeiträge zu bewerten. Zuerst beurteilten die Teilnehmenden unabhängig voneinander, ob eine Überschrift und ein Bild echt oder gefälscht waren, dann diskutierten sie den Beitrag mit GPT-4o, bevor sie eine abschließende Einschätzung abgaben. Die vierwöchige Studie erzeugte 7.203 KI-Konversationen und 4.536 Urteile zur Echtheit von Nachrichten.
Die Forschenden testeten die Teilnehmenden später auf neue, zuvor nicht gesehene Inhalte ohne KI-Unterstützung, um festzustellen, ob sich ihre Fähigkeiten zur Erkennung von Fehlinformationen verbessert oder verschlechtert hatten. Das Team nutzte Anthropics Claude 3.5 Sonnet, um Tausende von Konversationen zwischen Nutzern und der KI zu analysieren.
Accuracy Improved 21% With AI, Declined 15.3% Without Assistance
Die Studie ergab, dass KI-Unterstützung die Genauigkeit bei der Erkennung von Fehlinformationen während unterstützter Sitzungen um 21% verbesserte. Allerdings fiel die Leistung der Teilnehmenden bei neuen Bewertungen ohne KI um 15,3 Prozentpunkte. Der Rückgang wurde weitgehend durch eine geringere Fähigkeit verursacht, Fake News zu identifizieren, während die Genauigkeit bei echten Nachrichten gleich blieb.
Da die Studie das ältere GPT-4o und Claude 3.5 Sonnet verwendete, ist unklar, ob neuere KI-Modelle wie GPT-5.5 oder Claude Opus 4.8 mit stärkeren Denkfähigkeiten ähnliche Ergebnisse erzielt hätten.
Study Reveals Dependency Risk Over Skill Development
Die Forschenden schlagen vor, dass KI zwar die Leistung im Moment verbessern kann, aber dazu ermutigen könnte, sich auf die Technologie zu verlassen. „Unsere longitudinale Analyse zeigt, dass die aktuellen Ansätze Priorität auf die Korrektur von Überzeugungen legen statt auf den Aufbau von Fähigkeiten und so eher Abhängigkeit als dauerhafte Fähigkeiten zur Unterscheidung erzeugen“, heißt es in der Studie. „Da KI zunehmend ausgefeilter wird, wird es entscheidend, sicherzustellen, dass diese Tools kritisches Denken aufbauen – statt kognitive Abhängigkeit – um die öffentliche Widerstandsfähigkeit gegenüber Fehlinformationen zu erhalten.“
Laut MIT-Forschern kommt die Studie daher, dass KI-Chatbots zunehmend genutzt werden, um Informationen online zu verifizieren. „KI-Assistenten wie ChatGPT, Claude und Grok werden zunehmend genutzt, um die Glaubwürdigkeit von Online-Informationen zu bewerten – vom Prüfen der Echtheit von Nachrichtenüberschriften und viralen Bildern bis hin zur Beantwortung der Frage, ob medizinische Behauptungen oder politische Gerüchte wahr sind“, schrieben die Forschenden. „Während aktuelle Forschungen nahelegen, dass solche Systeme den Glauben an bestimmte konkrete falsche Behauptungen verringern können, bleibt unklar, ob diese Gespräche Menschen dabei beibringen, Fehlinformationen zu erkennen, oder ob sie lediglich den Glauben an falsche Informationen mit KI-Unterstützung verschieben.“
AI-Generated War Footage Spreads Across Social Media
Die Studie kommt daher, dass generative KI es leichter denn je gemacht hat, überzeugende Fake News zu erstellen – mit realistischen Bildern und Videos, die sich schnell über soziale Medien verbreiten und die Neigung der Menschen ausnutzen können, dem zu vertrauen, was sie sehen.
Nach iranischen Raketenangriffen auf Israel im Juni 2025 verbreiteten sich Videos, die angeblich die Zerstörung in Tel Aviv und am Ben Gurion Airport zeigten, weit über soziale Medien hinweg und erzielten Millionen Aufrufe, bevor sie als KI-generiert identifiziert wurden. Die Sorge über die Verbreitung von gefälschtem Kriegsmaterial hielt in den sozialen Medien weiter an.
X Announces Suspension Policy for Undisclosed AI Conflict Videos
X kündigte im März an, dass es Creator aus seinem Erlösbeteiligungsprogramm sperren werde, wenn sie ohne Offenlegung KI-generierte Konfliktvideos posten. „In Zeiten des Krieges ist es entscheidend, dass Menschen Zugang zu authentischen Informationen vor Ort haben“, schrieb X-Head of Product Nikita Bier. „Mit den heutigen KI-Technologien ist es trivial, Inhalte zu erstellen, die Menschen in die Irre führen können.“
FAQ
What did MIT researchers find about AI-assisted fact-checking?
MIT Media Lab-Forscher fanden, dass KI-Unterstützung zwar die Genauigkeit bei der Erkennung von Fehlinformationen während unterstützter Sitzungen um 21% verbesserte, jedoch die Leistung der Teilnehmenden bei neuen Bewertungen ohne KI um 15,3 Prozentpunkte sank. Die vierwöchige Studie begleitete 67 Teilnehmende durch 7.203 KI-Konversationen und 4.536 Urteile zur Echtheit von Nachrichten.
How did the MIT study test participants' misinformation detection skills?
Die Forschenden bauten ein System, das OpenAIs GPT-4o mit Google Search kombinierte. Die Teilnehmenden beurteilten zuerst unabhängig voneinander, ob eine Überschrift und ein Bild echt oder gefälscht waren, und diskutierten dann den Beitrag mit GPT-4o, bevor sie eine abschließende Einschätzung abgaben. Die Forschenden testeten sie später ohne KI-Unterstützung an neuem, zuvor nicht gesehenem Content, um den Aufbau von Fähigkeiten zu messen.
Why did X announce a suspension policy for AI-generated war videos?
X kündigte im März an, dass es Creator aus seinem Erlösbeteiligungsprogramm sperren werde, wenn sie ohne Offenlegung KI-generierte Konfliktvideos posten. Die Richtlinie folgte der Verbreitung von gefälschtem Material nach iranischen Raketenangriffen auf Israel im Juni 2025, als KI-generierte Videos, die angeblich die Zerstörung in Tel Aviv zeigten, Millionen Aufrufe erzielten, bevor sie als falsch identifiziert wurden.
