金融安定理事会（FSB）は6月10日（水）にレポートを公表し、金融分野におけるアジェンティックAIシステムへのより厳格な統制を求めた。FSBは、無許可の行為、データ漏えい、接続されたシステムへの混乱など、非常に速いスピードで顕在化し得る自律型AIのリスクを指摘した。この指針は、限定的な人間の監督のもとで、詐欺検知、顧客サービス、バックオフィス機能にわたって計画、推論、タスク実行ができるAIの導入が加速していることへの対応だ。
金融セクターのレポート：アクティブなアジェンティックAI導入が52%
ケンブリッジ・オルタナティブ・ファイナンス・センターの調査によると、金融セクターの回答者の52%がアクティブなアジェンティックAIの導入を報告した。そのうち23%は業務を拡大または変革しており、29%はアジェンティック機能を試験導入している。アジェンティックAIとは、限定的な人間の監督のもとで、計画、推論、タスク実行ができるシステムを指す。
規制当局や世界的な基準設定機関は、AnthropicがMythosをリリースして以来、専門家が銀行業界に重大なサイバーセキュリティ上の課題をもたらすものだと見ていることを背景に、AIリスクに関する警告を強めている。
FSB、AIシステムにおけるスピードと自律性のリスクを特定
FSBのレポートは、自律型AIは「非常に速いスピードで顕在化し得る」リスクをもたらすと述べた。基準設定機関は、AIエージェントが、職員がそれに気づかず、迅速に介入できないまま、企業の意図から逸脱した行為を追求する可能性があると警告した。レポートは「AIエージェントは、人間の監督にとって明確な課題を突きつける」と指摘した。
特定されたリスクには、無許可または違法な行為の可能性、データ漏えい、接続されたシステムへの混乱が含まれる。
提案されるセーフガードには、人間の承認のしきい値とフィードバック締切を含む
FSBは、7月22日までフィードバックを受け付ける、拘束力のないガイドラインにおける一連の提案される「健全な実務」を示した。提言は、金融機関に対してAI利用の明確な境界を定義し、セーフガードを組み込むよう求めている。
提案される対策には、AIエージェントができることに関する境界や、特定のしきい値を超える金融取引などの高リスク行為についての人間の承認要件が含まれる。FSBはまた、企業がAIエージェントを「合成の従業員」として扱う形で、HRの統制やプロセスを適応させることを検討するよう提案した。
FAQ
金融安定理事会は6月10日に何を発表しましたか？
金融安定理事会は6月10日（水）にレポートを公表し、金融分野におけるアジェンティックAIシステムへのより厳格な統制を求めた。このレポートでは、AIエージェントの行為に関する境界や、高リスク業務に対する人間の承認要件を含む、提案される「健全な実務」が示された。
金融分野でアジェンティックAIはどれくらい広く導入されていますか？
ケンブリッジ・オルタナティブ・ファイナンス・センターの調査によると、金融セクターの回答者の52%がアクティブなアジェンティックAIの導入を報告した。そのうち23%は業務を拡大または変革しており、29%はアジェンティック機能を試験導入している。アジェンティックAIは、詐欺検知、顧客サービス、バックオフィス機能に用いられている。
