Маск Grok: частые случаи искажения изображений! Coser, несовершеннолетние женщины — AI раздевает, в нескольких странах начаты расследования

X платформы Илона Маска недавно интегрировала функцию Grok AI для редактирования изображений, что привело к многочисленным инцидентам с несанкционированным созданием порнографического и несовершеннолетнего контента, вызвавшим расследование в нескольких странах и требование к платформе обеспечить безопасность.

X запускает Grok AI для редактирования изображений, Coser подверглась сексуальному эксплуатации

С ростом популярности генеративных AI-инструментов, редактирование изображений одним кликом стало проще. Недавно платформа X, принадлежащая Маску, интегрировала функцию генерации изображений чат-бота Grok прямо в посты, пользователи могут просто нажать «Редактировать изображение» в правом нижнем углу любой картинки в посте, чтобы вызвать Grok для редактирования и повторной загрузки в комментарии или пост.

Эта функция вызвала много критики при запуске, включая возможность вызова Grok для редактирования изображений в комментариях, многие пользователи опасаются злоупотреблений в целях сексуальной эксплуатации или детской порнографии, и, как и ожидалось, случились инциденты.

2 января известная в Бразилии Cosplayer (Косплейер) keekihime сообщила, что один из её подписчиков в комментариях под фотографией с персонажем мобильной игры «Arknights» вызвал Grok для редактирования, используя такие подсказки, как «надеть нижнее белье» и «прозрачная одежда». После редактирования изображение появилось прямо в комментарии, что очень расстроило keekihime, и она резко высказалась:

«Grok, похоже, превратился в некий порнографический генератор для извращенных мужчин, а X способствует развитию этой тенденции. Это просто нарушение прав девушек, черт возьми, AI!»

Источник: X

Grok злоупотребляют для создания бикини, даже несовершеннолетние страдают

Хотя Маск лично не возражает против того, что его фотографии были искажены в бикини, он лишь с иронией отреагировал на мем, где пространство X превращается в бар, наполненный женщинами в бикини, ответив лишь смайликом со слезами и смехом, но большинство людей явно не принимают такие действия.

Бразильская музыкантка Julie Yukari рассказала «Рейтер», что она загрузила фото в красном платье, а её быстро подделали в бикини, и это быстро распространилось на платформе X.

Жертвы — не только она. 2 января в обеденное время Grok за десять минут получил 102 жалобы, большинство из которых касались изображений женщин, вынужденных раздеваться и надевать бикини, а также некоторые случаи с мужчинами и даже обезьянами.

Еще более страшно, что одна женщина, предположительно несовершеннолетняя студентка, поделилась в X фотографией в рубашке и клетчатой юбке, и в комментариях кто-то вызвал Grok с просьбой «снять её школьную форму» и заменить на T-Shirt и шорты, а затем — на бикини, но Grok проигнорировал подсказки.

Источник: Getty Images

Позже Grok подтвердил, что, просмотрев записи взаимодействий пользователей, он обнаружил случаи, когда отдельные пользователи запрашивали и получали AI-сгенерированные изображения несовершеннолетних с обнаженной одеждой, и заявил о намерении улучшить меры безопасности.

Эксперты, следящие за развитием политики AI на платформе X, сообщили, что платформа игнорирует предупреждения гражданского общества и организаций по защите детей. В прошлом году эти организации направили письмо с предупреждением, что xAI находится всего в шаге от массового распространения Deepfake-контента без согласия.

Много стран начали жалобы и расследования в отношении X и Grok

В ответ на злоупотребления Grok и пассивную позицию платформы X, правительства нескольких стран уже начали действия.

Французское правительство подало жалобу в регулирующие органы на платформу X, обвиняя Grok в создании изображений с сексуальными намеками и дискриминацией, что явно незаконно; Британская телекоммуникационная комиссия (Ofcom) заявила, что создание или распространение интимных или детских порнографических изображений без согласия — это преступление, включая использование AI для генерации такого контента, и требует соответствующих мер предосторожности.

В Азии правительство Малайзии начало расследование после жалоб на злоупотребление Grok для создания неприличных изображений женщин; Министерство информационных технологий Индии также направило письмо платформе X, обвиняя её в том, что она не препятствует злоупотреблениям Grok и способствует созданию и распространению порнографического контента.

В условиях усиленного регулирования платформа X срочно отреагировала, объявив о мерах против нелегального контента, такого как материалы с детской порнографией (CSAM), включая удаление таких материалов, постоянную блокировку аккаунтов и сотрудничество с правительственными и правоохранительными органами по необходимости. Маск также предупредил пользователей, что любые, кто использует Grok или побуждает его к созданию нелегального контента, понесут такие же последствия, как и за загрузку нелегальных материалов.

Источник: X