Singapur schlägt neuen globalen Standard für Tests von generativen KI-Systemen vor

Gate News, 20. April — Die Infocomm Media Development Authority (IMDA) von Singapur und Enterprise Singapore haben einen neuen internationalen Standard zum Testen generativer KI-Systeme vorgeschlagen. Der Vorschlag soll bei einem ISO-Treffen in Singapur vorgestellt werden, dem ersten derartigen Treffen in ASEAN, das mehr als 35 nationale Gremien und 250 KI-Expertinnen und -Experten zusammenbringt.

Die Initiative baut auf Singapurs früheren Bemühungen im Bereich KI-Tests auf, darunter das AI Verify-Toolkit und ein Starter-Kit für Anwendungen großer Sprachmodelle. Die AI Verify Foundation, eine von Singapur unterstützte Organisation mit erstklassigen Mitgliedern einschließlich IMDA, Google, Microsoft und IBM, hat Open-Source-Tools für KI-Tests und Governance entwickelt. Zu ihren Angeboten gehören das AI Verify-Toolkit für Governance-Tests und Project Moonshot, das Benchmarks mit Red-Teaming-Methoden kombiniert.

Der vorgeschlagene Standard soll ISO/IEC 42001, den internationalen Standard für KI-Managementsysteme, ergänzen. Er könnte helfen, technische Anforderungen für die Einhaltung von Regulierungen wie dem AI Act der Europäischen Union und dem von Kalifornien vorgeschlagenen SB-53 zu KI-Sicherheit und Aufsicht zu definieren. Das Rahmenwerk umfasst Qualitätsmerkmale einschließlich Sicherheit und setzt Methoden wie Red Teaming für promptbasierte text-zu-text generative KI-Systeme ein. Diese Entwicklung könnte den Markt für KI-Absicherungsdienste erweitern und Fachunternehmen befähigen, Organisationen dabei zu unterstützen, sich an entstehende globale Benchmarks anzupassen.