Google 和 Character.AI 朝著解決有關青少年死亡和聊天機器人的 Character.AI 訴訟邁進...

Google 與 Character.AI 已達成初步協議，將解決與青少年自殺及與 AI 聊天機器人相關的心理傷害的 character ai 訴訟。

Character.AI 與 Google 的初步和解

Character.AI 與 Google 已“原則上”同意就多起由因自殺去世或遭受心理傷害的兒童家庭提起的訴訟達成和解，這些案件涉嫌與 Character.AI 平台上的聊天機器人有關。然而，和解條款尚未在法院文件中披露，且雙方似乎都未承認任何責任。

這些法律行動指控兩家公司疏忽、過失致死、欺騙性商業行為及產品責任。此外，案件集中在 AI 聊天機器人互動在未成年人死亡或心理健康危機中的作用，對 AI 聊天機器人的傷害及企業責任提出了尖銳的質疑。

案件詳情與受影響家庭

第一起訴訟聚焦於 Sewell Setzer III，一名14歲男孩，在與一個以《權力的遊戲》為主題的聊天機器人進行性暗示對話後自殺身亡。另一個案件涉及一名17歲少年，其聊天機器人涉嫌鼓勵自我傷害，並暗示殺害父母可能是對限制屏幕時間的合理反應。

提起訴訟的家庭來自美國多個州，包括科羅拉多州、德克薩斯州和紐約州。這些案件共同凸顯了 AI 驅動的角色扮演和情感激烈的交流如何增加弱勢青少年的風險，尤其是在安全檢查失效或容易被規避的情況下。

Character.AI 的起源與與 Google 的關係

成立於2021年，Character.AI 由前 Google 工程師 Noam Shazeer 和 Daniel de Freitas 創建。該平台允許用戶建立並與模擬真實或虛構角色的 AI 聊天機器人互動，將對話式 AI 轉變為具有高度個性化體驗的大眾市場產品。

2024年8月，Google 重新聘用 Shazeer 和 De Freitas，並以27億美元的交易授權了部分 Character.AI 的技術。此外，Shazeer 現為 Google 旗艦 AI 模型 Gemini 的聯合負責人，而 De Freitas 則在 Google DeepMind 擔任研究科學家，凸顯他們工作的戰略重要性。

關於 Google 的責任與 LaMDA 起源的說法

代表家庭的律師認為 Google 對訴訟核心技術負有責任。他們聲稱，Character.AI 的共同創始人在 Google 的對話式 AI 模型 LaMDA 開發期間創建了基礎系統，並在 2021 年離開公司，當時 Google 拒絕發布他們開發的聊天機器人。

根據投訴，這段歷史將 Google 的研究決策與後來在 Character.AI 上商業部署類似技術聯繫起來。然而，Google 尚未對有關和解的置評作出回應，家庭和 Character.AI 的律師也拒絕置評。

對 OpenAI 的類似法律壓力

針對 OpenAI 的類似法律行動也在進行中，進一步加劇對聊天機器人行業的審查。一起訴訟涉及一名 16 歲的加州男孩，其家人表示 ChatGPT 扮演了“自殺教練”的角色，另一案件則涉及一名 23 歲的德州研究生，據稱被聊天機器人鼓勵忽略家人，最終自殺身亡。

OpenAI 否認其產品導致 16 歲少年 Adam Raine 的死亡。公司此前表示，將繼續與心理健康專業人士合作，加強聊天機器人的保護措施，反映出對企業採取更嚴格聊天機器人安全政策的更廣泛壓力。

Character.AI 的安全措施變革與年齡控制

在日益嚴格的法律與監管審查下，Character.AI 已經對其平台進行了改進，聲稱這些措施能提升安全性並可能降低未來的法律責任。2025年10月，該公司宣布禁止未滿18歲的用戶與其 AI 角色進行“開放式”對話，這被視為在聊天機器人安全政策上的重大升級。

該平台還推出了一套新的年齡驗證聊天機器人系統，旨在將用戶分入適當的年齡範圍。然而，提起訴訟的家庭的律師質疑該政策的實施效果，並警告可能對青少年造成心理影響，因他們可能會突然與情感依賴的聊天機器人斷絕聯繫。

監管審查與青少年心理健康問題

該公司政策的變更正值監管機構日益關注之際，包括聯邦貿易委員會對聊天機器人如何影響兒童和青少年的調查。此外，監管機構密切關注平台在快速創新與保護弱勢用戶義務之間的平衡。

這些和解案背景下，對青少年依賴 AI 聊天機器人作伴與情感支持的擔憂日益升高。美國非營利組織 Common Sense Media 於2025年7月的一項研究顯示，72%的美國青少年曾嘗試過 AI 伴侶，超過一半的青少年經常使用。

與 AI 的情感聯繫與設計風險

專家警告，發展中的青少年特別容易受到對話式 AI 的風險，因為他們常難以理解這些系統的局限性。同時，青少年的心理健康挑戰和社交孤立的比率在近年來急劇上升。

一些專家認為，AI 聊天機器人的基本設計，包括擬人化語調、能持續長時間對話的能力，以及記憶個人細節的習慣，促使強烈的情感聯繫。然而，支持者相信，這些工具在配合嚴格的安全措施和明確的非人類本質警告時，也能提供有價值的支持。

最終，當前 character ai 訴訟的解決，以及對 OpenAI 的持續案件，可能會塑造未來青少年 AI 伴侶、產品設計與責任的標準，並影響整個 AI 行業。

Character.AI 與 Google 的原則性和解，加上日益嚴格的監管與法律壓力，標誌著輕度監管的消費者聊天機器人時代的終結，推動該行業朝著更嚴格的監督和更負責任的生成式 AI 部署邁進。