新加坡提出用于测试生成式 AI 系统的新全球标准

Gate News 消息，4 月 20 日——新加坡的信息通信媒体发展局 (IMDA) 与新加坡企业发展局已提出一项用于测试生成式 AI 系统的新国际标准。该提案将于新加坡举行的 ISO 会议上进行展示，这是在 ASEAN 举办的首场此类会议，汇聚了 35 多个国家机构与 250 位 AI 专家。

该举措是在新加坡先前开展的 AI 测试工作基础上推进，包括 AI Verify 工具包以及大型语言模型应用的入门套件。AI Verify 基金会是一家由新加坡支持的组织，拥有包括 IMDA、Google、Microsoft 和 IBM 在内的领先成员，已开发了用于 AI 测试与治理的开源工具。其产品包括用于治理测试的 AI Verify 工具包，以及将基准测试与红队（red teaming）方法论相结合的 Project Moonshot。

所提议的标准旨在补充 ISO/IEC 42001，即 AI 管理体系的国际标准。它或许有助于界定为遵从诸如欧盟《AI Act》以及加州拟议的关于 AI 安全与监管的 SB-53 等监管规定而需满足的技术要求。该框架涵盖安全等质量特征，并采用适用于基于提示的文本到文本生成式 AI 系统的方法，例如红队测试。这项发展可能会扩大 AI 可信与保证服务的市场，使专门机构能够帮助组织满足正在出现的全球基准要求。