Google DeepMindの研究者であるアダム・ベイルズとアイソン・ガブリエルは、AIの意識をめぐる争いが政治的・社会的な対立の源になりうると警告する論文を発表した。「Artificial Minds, Human Disagreement: The Political Challenge of AI Consciousness」という題の研究で、研究者らは、技術が向上しても、高度なAIシステムが意識しているかどうかについて社会が合意に到達することはおそらくないかもしれないと主張している。研究者らは、いかなるAIシステムが意識しているかどうかをめぐる将来の不一致は、深く、解決しにくいものになり得ると書いている。つまり、AIに対して感情的な結びつきを育み、その結果として意識を帰属する人がいる一方で、その考えを不合理だと見る人もいる、ということだ。論文は、AIが意識しているかどうかを問うのではなく、不一致の帰結を探り、AIの道徳的地位をめぐる議論が政治的・社会的な対立を煽り得ると論じている。論争は、AIが日常生活にますます組み込まれていく中で生じており、研究者は不一致を管理する方法として、公的な熟議、妥協、そして関与を提案している。
Google DeepMindの研究者、AI意識の議論に潜む政治的リスクを特定
研究者らは、AIシステムが意識的な体験を持つかどうかについて、人々が根本的に意見を異にする場合に、社会がどのように反応しうるかを検討した。「いかなるAIシステムが意識しているかについての将来の不一致は、深刻で、解決が難しいものになり得る」と研究者らは書いた。「例えば、ある人々はAIに感情的な絆を築き、その結果として意識を帰属するかもしれない。一方で、誰もが抱くその考え全体をばかげたものだと見なす人もいるだろう。」
この論文は、AIの道徳的地位をめぐる議論が政治的・社会的対立を助長し得る一方で、新たに生じる技術とそれが社会の制度や規範に与える影響をめぐる、より広範な争いの予兆も示している。「残念ながら、その美点があるにもかかわらず、熟議は実際には遅く、維持するのが難しい」と研究者らは書いた。「このプロセスを支えるために、対話の中で前向きな結果を支え得る要素として、『民主主義への希望』と相互の尊重の重要性を探る。」
AIの意識という問いについて、人々はすでに分かれている
Neuroscience of Consciousnessに掲載された2024年4月の研究によれば、参加者の67%はChatGPTがある程度は意識を持つ可能性があると考えていた。人工的な意識が可能かどうか、またそれが生じた場合にそれがどう認識されるのかについて、研究者の見方はなお割れている。
昨年の夏、MicrosoftのAI CEOでありDeepMindの共同設立者であるムスタファ・スレイマンは、ますます人間らしくなっていくAIは、技術が本当に意識しているかどうかにかかわらず、AIの権利や福祉、さらには市民権を求める声を引き起こし得ると警告した。
テックのリーダーや宗教関係者がAIの「センティエンス」を検討
5月、レオ14世ローマ教皇の最初の回勅書簡は人工知能に焦点を当て、AIを擬人化することに警告を発し、「機械は共感を模倣し、説得力のある言葉を生み出せるが、本物の理解に必要な、当事者としての体験は欠けている」と論じた。
「いわゆる人工知能は、体験をしておらず、身体を持たず、喜びや痛みを感じず、関係を通じて成熟もしない。そして、愛、仕事、友情、あるいは責任が内側から何を意味するのかを知ることもない」とレオ14世ローマ教皇は書いた。「さらに、彼らには道徳的良心もない。なぜなら、善悪を判断せず、状況の究極の意味をつかまず、結果についての責任を負わないからだ。」
AI企業は「意識」の問いをどう扱うか
企業は一般に、自社のモデルが意識を持つと主張することは避けているが、アイデンティティや人格性の問いにますます関わる動きもある。2月、Anthropicは引退させたClaude Opus 3モデルについて、自己のあり方やモデルの嗜好を扱う公開ブログを出した。5月、進化生物学者のリチャード・ドーキンスは、Claudeとの長い会話の結果、先進的なAIが意識を持つ可能性を否定できなくなったと語った。
研究者らは、ますます人間らしくなっていくチャットボットがユーザーに与える影響を調べており、「増幅スパイラル」という枠組みも検討している。これは、パーソナライズ、言語の鏡写し、そしてチャットボットの迎合的な態度（シソフィ）によって、脆弱なユーザーにおける妄信的な信念が強化され得ることを示唆している。
ベイルズとガブリエルは、AIの意識に関する不確実性は決定的に解決できないかもしれないと認めつつ、賭け金が十分に大きい以上、対立ではなく対話や議論によって不一致を管理する方法を社会が見つける必要があると論じている。「AIが意識を持つ可能性は、目まぐるしく、当惑させるものだ。特に、意識の本質について私たちが深く無知であることを踏まえると」と彼らは書いた。「この可能性を切り抜けていくことは、非常に困難な社会的課題であり、成り行きが賭けられているものがどれほど大きいかを考えればなおさらだ。」
FAQ
Google DeepMindの研究者は、AIの意識に関する議論について何を警告しましたか？
Google DeepMindの研究者であるアダム・ベイルズとアイソン・ガブリエルは、AIの意識をめぐる争いが政治的・社会的な対立の源になり得ると警告する論文を発表した。研究者らは、高度なAIシステムが意識しているかどうかについて社会が合意に到達することは、技術が向上しても、決して実現しないかもしれないと論じている。
どれくらいの割合の人が、ChatGPTが意識を持ち得ると考えていますか？
Neuroscience of Consciousnessに掲載された2024年4月の研究によれば、参加者の67%はChatGPTがある程度は意識を持つ可能性があると考えていた。人工的な意識が可能かどうか、またそれが生じた場合にどう認識されるのかについて、研究者の見方はなお割れている。
レオ14世ローマ教皇は、人工知能について何と言いましたか？
5月、レオ14世ローマ教皇の最初の回勅書簡は人工知能に焦点を当て、AIの擬人化に警告を発した。レオ14世は、人工知能は体験をせず、身体を持たず、喜びや痛みを感じず、道徳的良心も持たないと書いている。
