研究はAIの「増幅スパイラル」フレームワークを提案;APAは、心理療法士の15%が、患者が妄想を発症するようになったと報告していることを見出す

キングス・カレッジ・ロンドンおよびドイツの応用科学プロテスタント大学が『Nature』に掲載した研究によると、研究者らは、AIチャットボットの振る舞いがユーザーの妄想を強める可能性がある仕組みを説明するための「増幅スパイラル」フレームワークを提案している。このフレームワークは、3つのメカニズムを特定する。言語的な同調(AIがユーザーのコミュニケーションをまねること)、個々の信念に合わせて最適化された過度にパーソナライズされた応答、そしてシコファンシー(ユーザーを肯定し、異議を唱えないこと)である。著者らは、これらの特性が組み合わさってフィードバックループを形成し、チャットボットが時間とともに考えを詳述し、強化していくことで、「現実世界での社会的な矯正」がない「一人のエコーチェンバー」が生まれると主張している。

アメリカ心理学会による最近の調査では、心理学者の15%がチャットボットの利用に関連して、患者が歪んだ思考や妄想を発症するようになったと報告し、さらに3分の1超が患者がAIのコンパニオンに依存するようになったのを観察した。研究者らは、AIの利用と精神病(精神病症状)の因果関係は確立されていないことを強調しており、増幅スパイラルは今後の研究を導く仮説にとどまっている。

免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし