Маск Grok: часті випадки неправильного редагування зображень! Coser, неповнолітні жінки — AI роздягає, кілька країн почали розслідування

Маскова платформа X нещодавно інтегрувала функцію редагування з Grok AI, що спричинило численні випадки несанкціонованого створення гендерно-орієнтованого експлуатаційного та неповнолітнього порнографічного контенту. Багато урядів вже втрутилися в розслідування та вимагають від платформи забезпечити безпеку.

X запустила редагування зображень за допомогою Grok AI, Coser зазнала сексуальної експлуатації

З поширенням генеративних AI-інструментів, один клік для редагування фотографій став ще простішим. Нещодавно платформа X під керівництвом Маска інтегрувала функцію створення зображень через чат-бот Grok у функцію публікацій X, користувачі можуть натиснути «Редагувати зображення» у правому нижньому куті будь-якої фотографії у пості, щоб викликати Grok для редагування та повторного завантаження у коментар або пост.

Ця функція викликала багато критики з моменту запуску, зокрема можливість виклику Grok для редагування у коментарях, багато користувачів побоювалися зловживань у сферах сексуальної експлуатації або дитячої порнографії, і, як і очікувалося, не обійшлося без інцидентів.

2 січня австрійська відома Cosplayer (Косер) @keekihime повідомила, що один з користувачів під її фотографією з персонажем гри «Майбутнє Арк» самовільно викликав Grok для редагування, використовуючи ключові слова «змінити на нижню білизну» та «прозорий одяг». Оскільки Grok після редагування показує результат у коментарях до оригінального посту, це дуже розлютило @keekihime, яка прямо заявила:

«Grok, здається, перетворився на якесь порнографічне створення для хворих чоловіків, а X навіть сприяє цій тенденції. Це просто порушення прав дівчат, йдіть до біса, AI!»

Джерело: X

Grok використовується для створення бікіні, навіть неповнолітні жертви

Хоча Маск особисто не заперечує, що його фотографії були зловмисно змінені на зображення у бікіні, навіть у жартівливих мемах, де X перетворюється на бар із бікіні-жінками, він відповів лише смайликом із плачем і посмішкою, але більшість користувачів явно не приймають таку поведінку.

Бразильська музикантка Julie Yukari повідомила агентству Reuters, що вона завантажила фото у червоній сукні, але його швидко перетворили на версію у бікіні, і ця зміна швидко поширилася на платформі X.

Жертвою стали не лише вона. 2 січня у обідній час Grok отримав 102 скарги за десять хвилин, більшість з яких стосувалися змін зображень жінок, змушених знімати одяг і одягати бікіні, а також кілька випадків, коли жертвою став навіть мавпа.

Ще страшніше — одна жінка, можливо, неповнолітня студентка, поділилася фото у сорочці та клітчастій спідниці, і у коментарях хтось викликав Grok із проханням «зняти її шкільну форму» та замінити на T-Shirt і шорти, а потім — на бікіні, але Grok ігнорував ці запити.

Джерело: Getty Images

Пізніше Grok підтвердив, що, переглянувши записи взаємодій користувачів, він дійсно виявив випадки, коли окремі користувачі запитували та отримували AI-згенеровані зображення неповнолітніх у оголеному вигляді, і пообіцяв покращити заходи безпеки.

Експерти, що стежать за розвитком політик AI на платформі X, повідомляють, що платформа ігнорує попередження громадськості та дитячих організацій. Минулого року ці організації надіслали листи з попередженнями, що xAI вже майже досягла межі поширення великої кількості несанкціонованого глибокого підроблення (Deepfake).

Багатонаціональні уряди почали реагувати та розслідувати X і Grok

У відповідь на зловживання Grok та пасивну поведінку платформи X, багато урядів вже почали діяти.

Французький уряд повідомив регуляторів про платформу X, звинувативши Grok у створенні зображень із сексуальним підтекстом та дискримінацією, що є явно незаконним; Управління зв’язку Великої Британії (Ofcom) заявило, що створення або поширення приватних або дитячих сексуальних зображень без згоди є незаконним, включно з використанням AI, і закликає вжити відповідних заходів.

В Азії уряд Малайзії розпочав розслідування після отримання скарг на зловживання Grok для створення непристойних зображень жінок; Міністерство інформаційних технологій Індії також надіслало листа платформі X, звинувативши її у тому, що вона не запобігла зловживанням Grok і дозволила створювати та поширювати порнографічний контент.

Під тиском регуляторів платформа X терміново відреагувала, заявивши, що вживатиме заходів щодо незаконного контенту, такого як матеріали сексуального насильства над дітьми (CSAM), включно з видаленням таких матеріалів, постійним блокуванням акаунтів і співпрацею з урядами та правоохоронними органами за необхідності. Маск також попередив користувачів, що будь-хто, хто використовує Grok або підбурює до створення незаконного контенту, зазнає таких самих наслідків, як і при завантаженні забороненого матеріалу.

Джерело: X