Исследователи из MIT Media Lab выяснили, что люди, использующие ИИ для проверки точности новостей, могут стать менее эффективными в самостоятельном выявлении дезинформации — говорится в новом исследовании, где отслеживались 67 участников в течение четырех недель. Хотя ИИ-помощь повышала точность выявления дезинформации на 21%, результаты участников на новых оценках без ИИ снизились на 15,3 процентного пункта. Исследование выходит на фоне того, что ИИ-чатботы вроде ChatGPT, Claude и Grok все чаще используются для верификации информации в интернете, что поднимает вопрос: помогают ли эти инструменты развивать критическое мышление или создают зависимость от ИИ-систем.
Исследователи MIT отслеживали 67 участников, использующих систему ИИ для обнаружения
Исследователи создали систему, объединяющую GPT-4o от OpenAI и Google Search, чтобы помочь участникам оценивать новости. Сначала участники самостоятельно определяли, настоящими или фейковыми являются заголовок и изображение, затем обсуждали этот материал с GPT-4o перед тем, как вынести итоговое суждение. Четырехнедельное исследование сгенерировало 7 203 AI-разговора и 4 536 оценок достоверности новостей.
Позже исследователи протестировали участников на новом, ранее не увиденном контенте без помощи ИИ, чтобы определить, улучшились или ухудшились их навыки выявления дезинформации. Команда использовала Claude 3.5 Sonnet от Anthropic, чтобы проанализировать тысячи разговоров между пользователями и ИИ.
Точность улучшилась на 21% с ИИ, снизилась на 15,3% без помощи
Исследование показало, что помощь ИИ улучшала точность выявления дезинформации на 21% во время сессий с поддержкой. Однако результаты участников на новых оценках без ИИ упали на 15,3 процентного пункта. Снижение было вызвано главным образом уменьшением способности распознавать фейковые новости, при этом точность по реальным новостям осталась на прежнем уровне.
Поскольку исследование использовало более старые версии GPT-4o и Claude 3.5 Sonnet, неясно, привели бы ли сопоставимые результаты к использованию более новых моделей ИИ вроде GPT-5.5 или Claude Opus 4.8 с более сильными возможностями рассуждения.
Исследование выявляет риск зависимости вместо развития навыков
Исследователи предполагают, что хотя ИИ может улучшить результат здесь и сейчас, он может поощрять зависимость от технологии. «Наша лонгитюдная аналитика показывает, что текущие подходы в первую очередь нацелены на исправление убеждений, а не на развитие навыков, создавая зависимость вместо устойчивых возможностей для различения», — говорится в исследовании. «По мере того как ИИ становится все более продвинутым, обеспечить, чтобы эти инструменты развивали критическое мышление, а не когнитивную зависимость, становится принципиально важно для поддержания общественной устойчивости к дезинформации».
По данным исследователей MIT, исследование выходит на фоне того, что ИИ-боты все чаще применяются для проверки информации в интернете. «ИИ-ассистенты вроде ChatGPT, Claude и Grok все чаще используются для оценки достоверности онлайн-информации — от оценки подлинности новостных заголовков и вирусных изображений до ответа на вопрос, верны ли медицинские утверждения или политические слухи», — написали исследователи. «Хотя недавние исследования предполагают, что такие системы могут снижать веру в конкретные ложные утверждения, остается неясным, учат ли эти разговоры людей обнаруживать дезинформацию или лишь смещают убеждения о ложной информации при помощи ИИ».
Распространение военных кадров, сгенерированных ИИ, на социальных платформах
Исследование выходит на фоне того, что генеративный ИИ сделал создание убедительных фейковых новостей проще, чем когда-либо: с реалистичными изображениями и видео, которые могут быстро распространяться в соцсетях и использовать склонность людей доверять тому, что они видят.
После ракетных ударов Ирана по Израилю в июне 2025 года видеоролики, которые якобы показывали разрушения в Тель-Авиве и в аэропорту Бен-Гурион, широко разошлись в социальных сетях, набрав миллионы просмотров, прежде чем выяснилось, что они сгенерированы ИИ. Опасения из-за распространения фейковых военных материалов продолжали сохраняться на разных платформах.
X объявляет о политике приостановки для видео о конфликтах с ИИ без раскрытия
В марте X объявила, что будет приостанавливать создателей из программы распределения доходов за публикации видео о конфликтах, сгенерированных ИИ, без раскрытия. «Во времена войны критически важно, чтобы у людей был доступ к подлинной информации на месте», — написал глава продуктового направления X Никита Бир. «С сегодняшними технологиями ИИ создать контент, способный ввести людей в заблуждение, — это тривиально».
FAQ
Что выяснили исследователи MIT о фактчекинге с помощью ИИ?
Исследователи MIT Media Lab выяснили, что хотя помощь ИИ повышала точность выявления дезинформации на 21% во время сессий с поддержкой, результаты участников на новых оценках без ИИ снижались на 15,3 процентного пункта. В четырехнедельном исследовании 67 участников проходили через 7 203 AI-разговора и 4 536 оценок достоверности новостей.
Как MIT проверяли навыки участников по выявлению дезинформации?
Исследователи создали систему, объединяющую GPT-4o от OpenAI и Google Search. Сначала участники самостоятельно определяли, настоящими или фейковыми являются заголовок и изображение, затем обсуждали этот материал с GPT-4o перед тем, как вынести итоговое суждение. Позже исследователи протестировали их на новом, ранее не увиденном контенте без помощи ИИ, чтобы измерить развитие навыков.
Почему X объявила политику приостановки для военных видео, сгенерированных ИИ?
X объявила в марте, что будет приостанавливать создателей из программы распределения доходов за публикации видео о конфликтах, сгенерированных ИИ, без раскрытия. Политика последовала за распространением фейковых материалов после ракетных ударов Ирана по Израилю в июне 2025 года, когда видео, сгенерированные ИИ и якобы показывающие разрушения в Тель-Авиве, набрали миллионы просмотров, прежде чем выяснилось, что они фейковые.
