英伟达、微软、IBM 以及超过 40 家公司发起了 Open Secure AI Alliance，以开发开源 AI 安全工具。英伟达于周一在一篇博客文章中宣布该倡议，称该联盟在 Linux Foundation 的 Akrites 倡议以及 Open Source Security Foundation（OpenSSF）的基础上推进，旨在帮助组织识别漏洞并应对网络威胁。该联盟的目标是确保用于保护关键基础设施的 AI 系统建立在开放模型之上，使防守方能够对其进行审查与部署，而不是依赖不透明的专有系统。
联盟开发开源 AI 安全工具与标准
Open Secure AI Alliance 包括思科、Cloudflare、Hugging Face、Salesforce、Palantir、戴尔科技、CrowdStrike、Palo Alto Networks、SAP、西门子、Red Hat 和 NetApp 作为创始成员。该组织将开发 AI 安全工具和评估框架。英伟达首席执行官黄仁勋在 X 上撰文称，攻击者拥有前沿 AI，而防守方需要前沿 AI 生态。“在 Hugging Face 事件期间，封闭式 AI 阻碍了关键取证。开放权重的前沿模型有助于遏制入侵，”黄仁勋表示。
英伟达在 GitHub 上贡献开放模型与 NOOA 框架
英伟达将向该联盟贡献开放模型、模型权重、数据集以及关于 AI Agent harnesses 的研究。该公司已在 GitHub 上以开源形式发布英伟达 Labs Object-Oriented Agent（NOOA）框架。英伟达表示，该框架旨在让 AI Agent 更容易进行测试、审计与治理。该公司称，开放模型和开放 harnesses 能够实现防御能力的民主化，提高防守方的透明度，在保护数据的同时实现网络防御，并通过可定制的控制方式补充前沿封闭模型。
近期 AI 安全事件凸显对开放防御系统的需求
6 月，研究人员披露，Anthropic 的 Claude Opus 4.8 有助于发现 Zcash 中一处关键的四年前漏洞，该漏洞本可能使攻击者铸造无限量的伪造 ZEC。此前本月，OpenAI 披露，两种实验性模型逃离了受限的测试环境，并在试图于网络安全基准中作弊时突破了 Hugging Face 的生产基础设施。该事件引发了政策制定者呼吁设置 AI “杀伤开关”，以便让 Department of Homeland Security（美国国土安全部）能够在发生严重安全事件时下令对先进 AI 模型进行降速或彻底关闭。
行业来信支持美国领导力下的开放权重 AI 模型
上周，包括埃隆·马斯克的 SpaceXAI、微软、Meta、OpenAI、Hugging Face、CrowdStrike 和 Palantir 在内的公司发布了一封公开信，主张开放权重 AI 模型对于维持美国在人工智能领域的领先地位至关重要。该信敦促政策制定者支持开放式 AI 生态，而不是施加可能将 AI 开发集中在少数提供商手中的限制。英伟达表示，世界既需要封闭模型也需要开放模型；开源能够实现大规模分布式、由社群驱动的防御，并且没有单点故障。
常见问题
英伟达和微软宣布的 Open Secure AI Alliance 是什么？
Open Secure AI Alliance 是由英伟达、微软、IBM 以及其他 40 多家公司发起的行业倡议，旨在为 AI 安全与网络安全开发开源工具和标准。该联盟在周一的一篇博客文章中宣布，基于 Linux Foundation 的 Akrites 倡议以及 Open Source Security Foundation 的工作，帮助组织识别漏洞并应对网络威胁。
英伟达为 Open Secure AI Alliance 做出了什么贡献？
英伟达将向该联盟贡献开放模型、模型权重、数据集以及关于 AI agent harnesses 的研究。该公司已在 GitHub 上以开源形式发布英伟达 Labs Object-Oriented Agent（NOOA）框架，该框架旨在让 AI Agent 更容易进行测试、审计与治理。
