Сингапур предлагает новый глобальный стандарт для тестирования систем генеративного ИИ

Сообщение Gate News, 20 апреля — Управление Infocomm Media Development Authority (IMDA) Сингапура и Enterprise Singapore предложили новый международный стандарт для тестирования систем генеративного ИИ. Предложение будет представлено на заседании ISO в Сингапуре — первом такого рода заседании в рамках АСЕАН, где соберутся более 35 национальных организаций и 250 экспертов по ИИ.

Инициатива опирается на более ранние усилия Сингапура по тестированию ИИ, включая набор инструментов AI Verify и стартовый комплект для приложений на базе больших языковых моделей. Фонд AI Verify — организация с поддержкой Сингапура, в состав которой входят ведущие участники, включая IMDA, Google, Microsoft и IBM, — разработал инструменты с открытым исходным кодом для тестирования ИИ и управления. Его предложения включают набор инструментов AI Verify для проверок в целях управления и Project Moonshot, который сочетает бенчмаркинг с методологиями red teaming.

Предлагаемый стандарт разработан так, чтобы дополнять ISO/IEC 42001 — международный стандарт для систем управления ИИ. Он может помочь определить технические требования для соответствия таким нормативам, как Закон об ИИ Европейского союза (European Union's AI Act) и предложенный в Калифорнии SB-53 по безопасности и надзору за ИИ. Рамочная модель охватывает такие показатели качества, как безопасность, и использует методы вроде red teaming для систем генеративного ИИ «текст-в-текст», основанных на подсказках. Эта разработка может расширить рынок услуг по обеспечению доверия к ИИ, позволяя специализированным компаниям помогать организациям соответствовать возникающим глобальным ориентирам.