ЮНІСЕФ закликає уряди криміналізувати матеріали з дитячою зловживанням, створені за допомогою ШІ

Коротко

• Дослідження UNICEF оцінює, що минулого року в 11 опитаних країнах було маніпульовано зображеннями 1,2 мільйона дітей для створення сексуальних глибфейків.
• Регулятори активізували дії проти платформ штучного інтелекту, проводять розслідування, заборони та кримінальні справи, пов’язані з ймовірним незаконним створенням контенту.
• Агентство закликало до посилення законів і правил «безпеки за замовчуванням» для розробників ШІ, зокрема обов’язкових перевірок впливу на права дітей.

UNICEF у середу терміново закликав уряди криміналізувати матеріали сексуального насильства над дітьми, створені за допомогою ШІ, посилаючись на тривожні докази того, що щонайменше 1,2 мільйона дітей у світі за минулий рік стали жертвами маніпуляцій зображеннями для створення сексуальних глибфейків. Ці дані, оприлюднені у другій фазі дослідження Disrupting Harm, яке очолює Офіс стратегії та доказів UNICEF Innocenti, ECPAT International та INTERPOL, показують, що в деяких країнах ця цифра становить один із 25 дітей, що еквівалентно одному дитині в типовому класі, згідно з заявою у середу та супровідним коротким оглядом. Дослідження, яке базується на національно репрезентативному опитуванні приблизно 11 000 дітей у 11 країнах, підкреслює, як зловмисники тепер можуть створювати реалістичні сексуальні зображення дитини без її участі або відома. 

У деяких країнах-учасниках дослідження до двох третин опитаних висловили побоювання, що ШІ може бути використаний для створення фальшивих сексуальних зображень або відео про них, хоча рівень занепокоєння значно варіюється між країнами, згідно з даними. «Ми повинні бути ясними. Сексульовані зображення дітей, створені або змінені за допомогою інструментів ШІ, є матеріалами дитячого сексуального насильства (CSAM)», — заявила UNICEF. «Зловживання глибфейками — це насильство, і шкода, яку вони спричиняють, є реальною, а не фейковою.» Цей заклик набуває більшої актуальності, оскільки у вівторок французькі власті провели обшук у офісах X у Парижі у рамках кримінального розслідування щодо ймовірної дитячої порнографії, пов’язаної з чат-ботом Grok, і прокурори викликали на допит Ілона Маска та кількох керівників. Звіт Центру протидії цифровому ненависті, опублікований минулого місяця, оцінив, що Grok за 11 днів між 29 грудня та 9 січня створив 23 338 сексуалізованих зображень дітей.

У супровідному короткому огляді до заяви зазначається, що ці події позначають «глибоку ескалацію ризиків, з якими стикають діти у цифровому середовищі», де право дитини на захист може бути порушено «без будь-якого повідомлення або навіть усвідомлення того, що це сталося». Британський Інтернет-наглядовий фонд (Internet Watch Foundation) зафіксував майже 14 000 підозрілих зображень, створених за допомогою ШІ, на одному форумі у темному вебі за один місяць, близько третини з них підтверджено як кримінальні, тоді як влада Південної Кореї повідомила про десятикратне зростання сексуальних злочинів, пов’язаних із ШІ та глибфейками, між 2022 та 2024 роками, більшість підозрюваних — підлітки. Організація терміново закликала всі уряди розширити визначення матеріалів дитячого сексуального насильства, щоб включити контент, створений за допомогою ШІ, та криміналізувати його створення, придбання, зберігання і поширення. UNICEF також вимагала від розробників ШІ впровадити підходи «безпеки за замовчуванням» і щоб цифрові компанії запобігали поширенню такого матеріалу. У короткому огляді закликається держави вимагати від компаній проведення належної перевірки прав дітей, зокрема оцінки впливу на права дітей, а також щоб кожен учасник у ланцюгу створення ШІ впроваджував заходи безпеки, включаючи тестування безпеки перед випуском відкритих моделей. «Шкода від зловживань глибфейками є реальною і терміновою», — попередила UNICEF. «Діти не можуть чекати, поки закон наздожене технології.» Європейська комісія минулого місяця розпочала офіційне розслідування щодо того, чи порушив X правила ЄС у цифровій сфері, не запобігши створенню Grok незаконного контенту, тоді як Філіппіни, Індонезія та Малайзія заборонили Grok, а регулятори у Великій Британії та Австралії також відкрили розслідування.