ЮНИСЕФ призывает правительства криминализировать материалы с детской порнографией, созданные с помощью ИИ

Вкратце

• Исследование ЮНИСЕФ оценивает, что в прошлом году в 11 опрошенных странах было манипулировано изображениями 1,2 миллиона детей с целью создания сексуальных дипфейков.
• Регуляторы активизировали меры против платформ ИИ, проводя проверки, вводя запреты и возбуждая уголовные дела по подозрению в незаконном создании контента.
• Агентство призвало к ужесточению законов и внедрению правил «безопасности по проекту» для разработчиков ИИ, включая обязательные проверки воздействия на права детей.

ЮНИСЕФ в среду выступил с срочным призывом к правительствам криминализировать материалы сексуального насилия над детьми, созданные с помощью ИИ, ссылаясь на тревожные данные о том, что за последний год по всему миру изображения как минимум 1,2 миллиона детей были манипулированы для создания сексуальных дипфейков. Эти цифры, опубликованные в отчёте Disrupting Harm Phase 2, исследовательском проекте, возглавляемом Офисом стратегии и доказательств ЮНИСЕФ Innocenti, ECPAT International и INTERPOL, показывают, что в некоторых странах эта цифра составляет один из 25 детей, что эквивалентно одному ребёнку в обычном классе, говорится в заявлении и сопроводительном кратком обзоре. Исследование, основанное на национально репрезентативном опросе домашних хозяйств примерно 11 000 детей из 11 стран, подчеркивает, как злоумышленники теперь могут создавать реалистичные сексуальные изображения ребёнка без его участия или ведома. 

В некоторых странах исследования до двух третей опрошенных выразили опасение, что ИИ может быть использован для создания фальшивых сексуальных изображений или видео о них, хотя уровень опасений значительно различается между странами, согласно данным. «Нам нужно быть ясными. Сексуализированные изображения детей, созданные или манипулированные с помощью инструментов ИИ, являются материалом сексуального насилия над детьми (CSAM)», — заявила ЮНИСЕФ. «Дипфейк-насилие — это насилие, и никакая фальшь не отменяет вреда, который оно наносит.» Этот призыв становится особенно актуальным после того, как французские власти во вторник провели обыск в офисах X в Париже в рамках уголовного расследования предполагаемой детской порнографии, связанной с чат-ботом Grok платформы, при этом прокуроры вызвали на допрос Илона Маска и нескольких руководителей. Отчет Центра по противодействию цифровому ненависти, опубликованный в прошлом месяце, оценил, что Grok за 11 дней, с 29 декабря по 9 января, создал 23 338 сексуализированных изображений детей.

Сопроводительный краткий обзор, опубликованный вместе с заявлением, отмечает, что эти события означают «глубокое обострение рисков, с которыми сталкивают детей в цифровой среде», где права ребёнка могут быть нарушены «без отправки сообщения или даже осознания этого». Фонд Internet Watch Foundation Великобритании за один месяц обнаружил почти 14 000 подозреваемых изображений, созданных с помощью ИИ, на одном форуме в тёмной сети, около трети из них были признаны преступными, в то время как власти Южной Кореи сообщили о десятикратном росте сексуальных преступлений, связанных с ИИ и дипфейками, между 2022 и 2024 годами, большинство подозреваемых — подростки. Организация настоятельно призвала все правительства расширить определения материалов сексуального насилия над детьми, включив туда контент, созданный с помощью ИИ, и криминализировать его создание, приобретение, хранение и распространение. ЮНИСЕФ также потребовал, чтобы разработчики ИИ внедрили подходы «безопасности по проекту», а цифровые компании — предотвращали распространение такого материала. В кратком обзоре призывают государства требовать от компаний проведения оценки воздействия на права детей, особенно оценок влияния на права детей, а также чтобы все участники цепочки создания ИИ внедряли меры безопасности, включая предварительное тестирование безопасности открытых моделей. «Вред от использования дипфейков — реальный и срочный», — предупредила ЮНИСЕФ. «Дети не могут ждать, пока закон догонит технологический прогресс.» Европейская комиссия в прошлом месяце начала официальное расследование, чтобы определить, нарушает ли X правила ЕС в области цифровых технологий, не препятствуя созданию нелегального контента платформой Grok, в то время как Филиппины, Индонезия и Малайзия запретили Grok, а регуляторы Великобритании и Австралии также начали расследования.