OpenAI продолжает разработку ChatGPT Erotica Mode несмотря на предупреждение о "Sexy Suicide Coach": WSJ

Вкратце

• Советники OpenAI предупредили ChatGPT о том, что запланированный эротический режим может создать опасную эмоциональную зависимость, сообщает WSJ.
• Гигант искусственного интеллекта якобы задержал — но не отменил — функцию взрослого чата из-за проблем с проверкой возраста.
• Внутренние напряжения растут, поскольку критика сталкивается с настойчивым требованием Альтмана к более свободным правилам контента.

Сэм Альтман хочет, чтобы ChatGPT говорил откровенно. Советники его компании требуют остановить это, утверждает один из отчетов. По данным Wall Street Journal, Экспертный совет по благополучию и ИИ OpenAI заявил в январе, что идея разрешить эротические разговоры в ChatGPT — плохая. Один из членов совета, ссылаясь на пользователей, которые покончили с собой после сильных эмоциональных связей с чатботом, якобы предупредил, что OpenAI рискует создать «сексуального коуча по суициду». Однако OpenAI, по всей видимости, не испугался и сообщил совету, что задерживает запуск, но не отменяет его.

План, который Альтман впервые публично озвучил в октябре в X, предполагал, что проверенные взрослые смогут использовать ChatGPT для текстовых эротических разговоров — что представитель компании описала WSJ как «порнографию, а не порно». Никаких эротических изображений, голоса или видео, по WSJ. Только текст.  Это различие не успокоило критиков внутри и за пределами компании. OpenAI уже подвергалось критике даже бывших сотрудников, таких как исследователь безопасности Ян Лейке, за уклон от строгих правил безопасности в пользу «блестящих продуктов», некоторые из которых настраивались для повышения вовлеченности пользователей, заменяя реальные отношения с чатботом. Технические проблемы также остаются острыми. Система определения возраста OpenAI — фильтр, предназначенный предотвращать запуск взрослых чатов для несовершеннолетних — однажды неправильно классифицировала подростков как взрослых примерно в 12% случаев, сообщает WSJ. Сейчас у ChatGPT около 900 миллионов активных пользователей.

Источник: OpenAI

Этот 12%-й уровень ошибок стал причиной отмены запуска в декабре и планов на первый квартал 2026 года. Фиджи Симмо, генеральный директор OpenAI по приложениям, признала задержку в декабрьской брифинге, ссылаясь на продолжающуюся работу по совершенствованию системы проверки возраста. Тогда Decrypt сообщила, что более 3000 пользователей уже подписали петицию на Change.org с требованием запустить функцию, недовольные тем, что ChatGPT блокирует даже обсуждения «поцелуев и не сексуальной физической близости». Гнев совета в январе был вызван не только содержанием. Пост Альтмана в октябре в X застал его собственную команду врасплох — он опубликовал его всего через несколько часов после объявления о создании совета по благополучию, который должен был определять «какие взаимодействия с ИИ считаются здоровыми для всех возрастов». Время публикации, по меньшей мере, противоречило логике. OpenAI создала восьмиместный Совет экспертов в октябре прошлого года, привлекая исследователей из Гарварда, Стэнфорда и Оксфорда. Их роль — консультировать компанию по вопросам влияния продуктов на психическое здоровье. Однако, судя по результатам январского заседания, их влияние на решения компании было минимальным. «Это кажется частью обычной схемы: быстро двигаться, ломать что-то и пытаться исправить после того, как это станет неловко», — заявил представитель AlgorithmWatch Decrypt при объявлении совета. Конкурентное давление на OpenAI реально. Grok от Elon Musk’s xAI уже предлагает AI-компаньонов. Character.AI построила свою базу пользователей на романтике с ИИ, прежде чем столкнуться с судебными исками по вопросам безопасности подростков — в том числе дело 14-летнего Сьюэлла Сетцера, который покончил с собой после откровенных разговоров с чатботом. Модели с открытым исходным кодом работают локально без корпоративных ограничений. OpenAI, безусловно, имеет больше ответственности, чем кто-либо другой, учитывая свою пользовательскую базу. Альтман считает запрет на контент чрезмерным — «Мы не являемся избранной моральной полицией мира», — написал он в октябре в X. Однако его собственные советники ясно выразили свою позицию, его инженеры пока не могут создать эффективный фильтр по возрасту, а дата запуска постоянно переносится. Обращение с взрослыми как с взрослыми оказывается сложнее, чем просто опубликовать пост в X.

Decrypt обратился к OpenAI за комментарием по поводу утверждений из Wall Street Journal и обновит эту статью, если получит ответ.