全球金融领袖就 Mythos AI 模型提出严重担忧

Cryptonews

财政部长、中央银行行长以及高级金融人士正越来越关注 Anthropic 的 Claude Mythos 模型可能带来的潜在风险,担忧其可能揭示全球金融基础设施中的关键弱点。
摘要

  • 全球金融领袖警告,Anthropic 的 Mythos AI 可能会暴露金融与核心 IT 系统中的关键缺陷。
  • 银行和政府正在尽早测试该模型,以在任何更广泛发布之前识别漏洞。
  • 官员警告,此类工具可能帮助网络犯罪分子利用弱点,即便它们也会在加强防御的同时带来帮助。

该模型已在早期测试发现多个主要操作系统和广泛使用的应用程序中的漏洞后,引发高层讨论以及紧急式会议。官员和行业专家表示,该系统可能具备“前所未有”的能力来检测并利用网络安全缺陷,尽管也有人谨慎表示,其全部能力仍未被完全理解。

加拿大财政部长 François-Philippe Champagne 表示,该议题在本周国际货币基金组织于华盛顿举行的会议期间主导了讨论。

“当然,这件事严重要到足以让所有财政部长都给予关注,”他说,并补充称,与物理风险不同,人工智能的挑战在于“未知中的未知”。

他强调需要设置防护措施,并表示当局必须确保“我们已经建立流程,以确保我们确保金融系统的韧性”。

银行和政府在发布前转向测试系统

目前,主要银行和政府机构正在获得对 Mythos 的早期访问权限,以在任何更大范围推广之前评估漏洞。

巴克莱首席执行官 C. S. Venkatakrishnan 表示,相关担忧足够重大,必须立即引起关注。

“这严重到让人们必须担心,”他说。“我们必须更好地理解它,并且必须理解正在暴露的漏洞,并迅速修复它们。”

他补充说,这一局面反映出一个更紧密连接的金融系统——风险与机遇日益交织在一起。

Anthropic 表示,Mythos 已经在操作系统、金融平台和网络浏览器中发现了多处缺陷。为此,访问已被限制在少数机构范围内,包括主要科技公司和具有系统重要性的银行,从而使其能够在更广泛暴露之前加强防御。

美国当局也采取了类似举措。财政部鼓励领先银行在内部部署该模型,以识别弱点,同时也在探索如何以受控版本的形式向联邦机构提供。白宫管理与预算办公室的一份备忘录概述了在授予此类访问之前引入防护措施的计划。

英格兰银行行长 Andrew Bailey 表示,网络犯罪方面的影响必须认真对待。

“我们现在不得不非常仔细地看清楚,这项最新的人工智能发展可能意味着网络犯罪风险会发生什么,”他说,并警告此类工具可能使“恶意者”更容易识别并利用系统漏洞。

包括 Scott Bessent 和 Jerome Powell 在内的多位美国高级官员,已召集华尔街高管来应对这些风险。据报道,与会者包括高盛、美国银行、花旗集团以及摩根士丹利等主要银行的负责人,这凸显了该议题的系统性重要性。

行业人士认为,这些担忧可能不只限于 Anthropic。消息人士称,另一家美国人工智能公司可能会发布同样具备能力的模型,但不会有相当的配套防护措施。

Balderton Capital 的 James Wise 将 Mythos 描述为“众多更强大模型中的第一个”,这些模型能够暴露系统漏洞。他的 Sovereign AI 部门正在投资专注于 AI 安全的公司,并补充说:“我们希望那些暴露漏洞的模型,同时也是能够修复这些漏洞的模型。”

Claude Mythos 是什么?

Mythos 属于 Anthropic 的 Claude 模型家族,是与 OpenAI 和 Google 提供的产品相竞争的系统。不同于以往的发布,该公司因担忧该工具可能被滥用,以挖掘敏感缺陷或闯入受保护系统而限制了访问。

内部测试在模型识别出一些关键漏洞后引发警报——这些漏洞通常需要高度熟练的黑客才能发现。据报道,部分漏洞甚至可以追溯到数十年前,这凸显了传统安全系统曾未能察觉的缺口。

这些担忧也外溢到政策层面的争议之中。五角大楼最近将 Anthropic 指定为潜在的供应链风险——这一举措通常保留给外国对手。该公司成功在法庭上挑战了拟议的禁令,理由是这将导致巨额财务损失。

在国家安全圈层内,Mythos 围绕如何评估网络威胁引入了新的不确定性。一位官员将其影响描述为:相当于为一名普通黑客配备类似精英操作人员所使用的工具。

尽管存在风险,当局仍在与 Anthropic 持续接触。联邦机构正在为可能的受控访问做准备,而监管者与金融机构则加速理解并应对该模型已开始揭示的那些漏洞。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论