ЕС расследует X по обвинениям в неспособности бороться с незаконным контентом Grok AI

Вкратце

• ЕС начал расследование по поводу того, правильно ли X оценил риски перед внедрением функций ИИ Grok.
• Расследование проверит соблюдение X требований Регламента о цифровых услугах региона.
• Это очередная волна давления Европы на создание дипфейков с помощью ИИ, при этом несколько стран запретили Grok из-за опасений за безопасность детей.

Европейская комиссия в понедельник начала официальное расследование по поводу возможного нарушения X правил ЕС в области цифровых технологий, предполагая, что компания не предотвратила создание и распространение нелегального контента с помощью чатбота Grok, включая сексуально откровенные изображения детей. Расследование оценит, правильно ли компания оценивала и минимизировала риски перед запуском функций генерации изображений Grok, сообщили в Комиссии в заявлении в понедельник. Также в Комиссии отметили, что риски реализовались через фактическое создание и распространение нелегального сексуального контента, что подвергло граждан ЕС серьезной опасности. 

Это происходит на фоне растущего международного внимания к роли Grok в создании несанкционированных дипфейков. Две недели назад X ввел ограничения, ограничив генерацию изображений платными подписчиками, а также добавил технические барьеры, чтобы помешать пользователям цифровым способом манипулировать людьми, заставляя их раздеваться. Компания также заблокировала функцию в юрисдикциях, где такой контент запрещен. Несмотря на эти меры, исследователи обнаружили, что около трети сексуализированных изображений детей, выявленных в образце CCDH, оставались доступными на платформе X. «С этим расследованием мы определим, выполнила ли X свои юридические обязательства в соответствии с DSA, или же она рассматривала права граждан Европы — включая женщин и детей — как побочный ущерб своего сервиса», — сказала Хенна Вирккунен, исполнительный вице-президент по технологическому суверенитету, безопасности и демократии, в заявлении.

Ранее в этом месяце представитель ЕС Томас Регнье осудил функцию «Spicy Mode» на конференции в Брюсселе. «Это не острое. Это незаконно. Это ужасно. Это отвратительно. Это не место в Европе», — заявил Регнье. Фаерзер Эдвардс, соучредитель и генеральный директор cheqd, сообщил Decrypt, что «каждый создатель должен иметь возможность контролировать, как его изображение используется в медиа, созданных ИИ.» Он отмечает, что «обратная реакция на злоупотребление дипфейками подчеркивает базовую неспособность интернета саморегулироваться.» «До сих пор нет нативного способа проверить, кто создал синтетический контент или было ли его использование когда-либо разрешено», — добавил Эдвардс, оставляя ответственность за это на посредниках вроде X, а не на тех, кто создает злоупотребления. Если обвинения подтвердятся, нарушения, выявленные в ходе расследования, будут нарушением статей 34(1) и (2), 35(1) и 42(2) Регламента о цифровых услугах, которые требуют от платформ оценивать и минимизировать системные риски, включая распространение нелегального контента и негативные последствия, связанные с насилием по признакам пола. Расследование ЕС продолжает дело, начатое в конце 2023 года, по которому в декабре против X было наложено штраф в размере 140 миллионов долларов (120 миллионов евро) за обманный дизайн, недостаточную прозрачность рекламы и ограниченный доступ исследователей. С тех пор Комиссия расширила проверку и на Grok, включая ранее выраженные опасения по поводу антисемитского контента, созданного чатботом.

Decrypt обратился к xAI за дополнительными комментариями.