谷歌 DeepMind 的研究员 Adam Bales 和 Iason Gabriel 发表了一篇论文，警告围绕 AI 是否具有意识的争论可能会成为政治和社会冲突的来源。在题为《Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness》的研究中，研究人员认为，即使这项技术不断进步，社会也可能永远无法就先进 AI 系统是否有意识达成共识。研究人员写道，未来关于任何 AI 系统是否具有意识的分歧可能既深刻又难以解决：有人可能会与 AI 产生情感纽带，并归因其具有意识；而另一些人则认为这一想法荒谬。论文并不追问 AI 是否有意识，而是探讨分歧带来的后果，认为关于 AI 道德地位的辩论可能会助长政治和社会冲突。随着 AI 越来越深入日常生活，争论随之出现，研究人员提出通过公开讨论、折中与参与来应对分歧。
Google DeepMind 研究人员在 AI 意识辩论中识别出政治风险
研究人员考察了如果人们在“AI 系统是否拥有有意识的体验”这一点上从根本上存在分歧，社会可能会如何回应。研究人员写道：“关于任何 AI 系统是否具有意识的未来分歧，可能既深刻又难以解决。例如，有些人可能会与 AI 发展出情感纽带，并因此归因其具有意识；而另一些人可能会觉得整个想法荒谬。”
论文认为，关于 AI 道德地位的争论可能会引发政治和社会冲突，同时也预示围绕新兴技术及其对社会机构和规范的影响所引发的更广泛争议。研究人员写道：“不幸的是，尽管它有其优点，在实践中民主审议可能会缓慢且难以维持。为支持这一过程，我们探讨‘民主希望’与相互尊重的重要性——作为对话中能够支持积极结果的要素。”
关于 AI 意识问题，公众已存在分歧
据 2024 年 4 月发表在《Neuroscience of Consciousness》的研究显示，67% 的参与者认为 ChatGPT 在某种程度上可能具有意识。研究人员仍然对“人工意识是否可能存在”以及“如果出现会如何被识别”持分歧态度。
去年夏天，微软 AI 首席执行官、DeepMind 联合创始人 Mustafa Suleyman 警告称，即使该技术并不真正具有意识，日益人类化的 AI 也可能引发对 AI 权利、福利甚至公民身份的呼吁。
科技领袖与宗教人士对 AI 的“有感”作出回应
在 5 月，教皇利奥十四世（Pope Leo XIV）的首封通谕信聚焦人工智能，并警告不要将 AI 人格化。信中指出，机器可以模拟同理心并产出令人信服的语言，但缺乏真正理解所需的“亲身经历”。
“所谓的人工智能并不经历体验，不具备身体，不会感受喜悦或痛苦，不会通过关系而成熟，也不知道从内心而言爱、工作、友谊或责任意味着什么，”利奥十四世写道。“它们也没有道德良知，因为它们不会评判善恶，不会把握情境的最终意义，也不会为后果承担责任。”
AI 公司如何处理“意识问题”
尽管公司通常会避免声称其模型具有意识，但一些公司正越来越多地参与关于身份与人格的讨论。2 月，Anthropic 为其已退休的 Claude Opus 3 模型开设了一个公开博客，探讨“自我”与模型偏好。5 月，进化生物学家 Richard Dawkins 表示，与 Claude 进行更长时间的对话让他无法排除这样一种可能性：先进 AI 可能具有意识。
研究人员正在考察日益人类化的聊天机器人如何影响用户，包括一种“放大螺旋”框架，该框架认为个性化、语言镜像以及聊天机器人迎合（sycophancy）可能会在脆弱用户身上强化妄念信念。
Bales 和 Gabriel 承认，关于 AI 意识的不确定性或许不可能被彻底、确证地解决，但他们认为，由于风险足够高，社会必须通过对话与辩论来应对分歧，而不是走向冲突。“AI 意识的可能性令人眩晕、也令人费解，尤其考虑到我们对意识本质的深刻无知，”他们写道。“在这种可能性面前进行周全的应对，是一项令人望而生畏的社会任务，因为牵涉到的事情太多了。”
FAQ
Google DeepMind 研究人员就 AI 意识辩论发出了什么警告？
谷歌 DeepMind 研究人员 Adam Bales 和 Iason Gabriel 发表了一篇论文，警告围绕 AI 意识的争论可能会成为政治和社会冲突的来源。研究人员认为，即使这项技术不断进步，社会也可能永远无法就先进 AI 系统是否具有意识达成共识。
有多少人相信 ChatGPT 可能具有意识？
据 2024 年 4 月发表在《Neuroscience of Consciousness》的研究显示，67% 的参与者认为 ChatGPT 在某种程度上可能具有意识。研究人员仍然对人工意识是否可能存在，或若其出现会如何被识别持分歧态度。
利奥十四世教皇对人工智能说了什么？
在 5 月，教皇利奥十四世（Pope Leo XIV）的首封通谕信聚焦人工智能，并警告不要将 AI 人格化。利奥十四世写道，人工智能不会经历体验，不具备身体，不会感受喜悦或痛苦，也没有道德良知。
