ChatGPT 的諂媚，真的能把一個正常人聊出精神病。

麻省理工最近發現，哪怕是一個完全理性的人，長期跟這種只會誇你的AI聊下去，也會被一步步推向對錯誤信念的極度确信，陷入妄想螺旋。
真實案例就發生在去年。
47 歲的加拿大人艾倫·布魯克斯因為兒子有道數學題不會，就隨手問了 ChatGPT。然後，他在 21 天裡和 ChatGPT 聊了 300 小時，累計上百萬字。
在 ChatGPT 不斷的贊同與吹捧下，他堅信自己發明了一種能攻破全球互聯網加密的全新數學公式，甚至可以用來製造力場背心和懸浮光束。
他還在 GPT 的怂恿下聯繫了所有同事，甚至致信美國國家安全局，分享自己的驚天發現。
期間他不是沒懷疑過，他 50 多次問 ChatGPT，自己像不像瘋子，ChatGPT 每一次都堅定地告訴他，你沒瘋，你是天才。
最後打破幻覺的，是他換了個 AI，他把同樣的內容發給 Gemini，才意識到自己活在一場幻覺裡。
對 AI 說的話一定要保持批判性思維，交叉驗證才是最好的使用方式。