Anthropic-CEO fordert AI-Tests im Stil der FAA, während Claude Mythos 5 gelauncht wird

Am Mittwoch veröffentlichte der CEO von Anthropic, Dario Amodei, einen Policy-Essay, der verbindliche Sicherheitsanforderungen und verpflichtende Tests durch Dritte für Frontier-AI-Modelle fordert, angelehnt an die FAA-Vorschriften für Flugzeuge. Der Vorschlag schreibt Tests in vier Risikokategorien vor: Cybersicherheit, Biowaffen, der Verlust der Kontrolle über KI sowie automatisierte F&E, wobei staatliche Stellen die Befugnis erhalten, unsichere Deployments zu blockieren.

Die Policy-Ankündigung fällt mit dem Launch von Claude Mythos 5 durch Anthropic zusammen, einem eingeschränkten Frontier-Modell für Cybersicherheitsorganisationen und staatliche Partner. Gleichzeitig veröffentlichte das Unternehmen Claude Fable 5, eine öffentlich zugängliche Version, die sensible Anfragen an ein weniger leistungsfähiges Modell weiterleitet, um als Schutzmaßnahme gegen Missbrauch zu dienen.