根據一份報導，OpenAI 已擱置其先前宣布的情色聊天機器人計劃，顯然是為了避免擴展 ChatGPT 的爭議性功能，該擴展本可讓成人用戶生成色情內容。 這一逆轉最早由《金融時報》於週四報導，原因是內部對性化人工智能對社會影響的擔憂。在一月，OpenAI 的幸福與人工智能專家委員會成員曾警告，情色聊天功能可能促使用戶產生不健康的情感依賴，甚至有風險將聊天機器人變成一個“性感的自殺教練”，一位成員如此描述。 OpenAI 拒絕 Decrypt 就情色模式的狀況發表評論，該公司尚未就其命運發表任何聲明。
取消原本計劃稱為“Citron 模式”的決定，距離 OpenAI 取消其 Sora 文本轉視頻模型僅兩天，該公司正轉向專注於開發一個統一的人工智能平台，而非一系列專門工具。 此舉標誌著與 CEO Sam Altman 在十月時所描述的方向有所偏離。當時，Altman 表示，OpenAI 計劃在建立完善的年齡驗證系統後，允許驗證過的成人用戶訪問浪漫和情色內容。 Altman 將此想法描述為一項更廣泛的努力，旨在賦予成人用戶更大的自主權，同時為未成年人設置保護措施。然而，到十二月，隨著公司持續完善年齡估算技術，時間表已推遲至2026年。
儘管 OpenAI 可能在未真正涉足成人聊天機器人業務之前就退出了，但人工智能模型並不一定需要“情色模式”來讓用戶與其建立聯繫。 去年夏天，當 OpenAI 停用 GPT-4o 時，用戶在社交媒體上湧現呼聲，要求恢復該模型，因為他們表示與聊天機器人建立了個人和情感上的關係，這反映出有關情色聊天機器人以及人們如何與 AI 互動的更廣泛辯論。 東京早稻田大學的研究人員在六月發表的研究指出，75%的參與者表示曾向 AI 系統尋求情感建議。 同時，AI 開發者正面臨越來越多的審查，因為訴訟正在測試對話式 AI 系統是否負責加強妄想信念或對弱勢用戶造成有害行為。
