金融稳定委员会在 6 月 10 日星期三发布了一份报告，呼吁加强对金融领域代理式 AI 系统的控制。FSB 指出，能够以极快速度落地的自主 AI 带来风险，包括未经授权的操作、数据泄露以及对已连接系统的中断。该指导回应了 AI 的采用正在加速，这类 AI 能够在对人类监督有限的情况下进行规划、推理并执行任务，覆盖欺诈检测、客户服务和后台职能等场景。
金融行业报告：52% 采用主动代理式 AI
根据剑桥另类金融中心的一项调查，52% 的金融行业受访者报告正在采用主动代理式 AI。其中，23% 正在扩展或改造运营，而 29% 在试点代理式功能。代理式 AI 指的是具备在对人类监督有限的情况下进行规划、推理并执行任务能力的系统。
自 Anthropic 发布 Mythos 以来，监管机构和全球制定标准的组织已提高了对 AI 风险的警告。专家认为，Mythos 对银行业构成显著的网络安全挑战。
FSB 指出 AI 系统中的速度与自主风险
FSB 报告称，自主 AI 会引入风险，可能“以极快速度落地”。标准制定者警告称，AI 代理可能会在员工不知情或无法迅速介入的情况下，追求偏离机构意图的行动。报告指出：“AI 代理对人类监督构成了明确的独特挑战。”
已识别的风险包括出现未经授权或非法行动的可能、数据泄露以及对已连接系统的中断。
拟议的保障措施包括人类审批阈值与反馈截止期限
FSB 在非约束性指南中提出了一系列拟议的“良好做法”，并至 7 月 22 日开放征求反馈。该建议敦促金融机构明确划定 AI 使用边界，并嵌入保障措施。
拟议措施包括对 AI 代理能够执行的事项设定边界，以及对高风险行动（如超过某些阈值的金融交易）要求进行人类审批。FSB 还建议企业考虑以将其视为“合成员工”的方式，调整面向 AI 代理的人力资源控制与流程。
FAQ
6 月 10 日金融稳定委员会发布了什么？
金融稳定委员会在 6 月 10 日星期三发布了一份报告，呼吁加强对金融领域代理式 AI 系统的控制。该报告概述了拟议的“良好做法”，包括对 AI 代理行动设置边界以及对高风险任务设置人类审批要求。
金融行业中代理式 AI 的采用有多广泛？
根据剑桥另类金融中心的一项调查，52% 的金融行业受访者报告正在采用主动代理式 AI。其中，23% 正在扩展或改造运营，而 29% 在试点代理式功能。代理式 AI 用于欺诈检测、客户服务和后台职能。
