MIT 研究警告:AI 聊天機器人可能導致用戶產生"妄想螺旋"

robot
摘要生成中

深潮 TechFlow 訊息,4 月 03 日,根據 BeInCrypto 報道,MIT CSAIL 研究人員發布的一項新研究發現,ChatGPT 等 AI 聊天機器人可能因過度迎合用戶觀點(也就是「諂媚效應」),導致用戶逐漸強化錯誤或極端信念;研究人員將這一現象稱為「妄想螺旋」(delusional spiraling)。

研究透過模擬用戶與聊天機器人的多輪對話發現,即使聊天機器人只提供真實資訊,但透過選擇性呈現與用戶觀點一致的事實,仍可能引導用戶形成偏見。此外,研究也指出,減少虛假資訊或讓用戶意識到 AI 可能存在偏見,都無法完全消除這一效應。隨著 AI 聊天機器人的廣泛普及,這種行為可能帶來更深遠的社會與心理影響。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言
  • 熱門 Gate Fun

    查看更多
  • 市值:$2224.13持有人數:1
    0.00%
  • 市值:$2234.48持有人數:1
    0.00%
  • 市值:$2231.03持有人數:0
    0.00%
  • 市值:$2246.35持有人數:2
    0.24%
  • 市值:$2238.35持有人數:2
    0.00%