Die US-Regierung setzt Anthropics neueste Modelle Claude Fable 5 und Mythos 5 am 12. Juni wegen Bedenken hinsichtlich Jailbreaks aus

Laut Anthropic hat die US-Regierung am 12. Juni eine dringende Exportkontroll-Anordnung erlassen, die das KI-Unternehmen dazu verpflichtete, den globalen Zugriff auf seine neuesten Modelle Claude Fable 5 und Mythos 5 umgehend für alle ausländischen Staatsangehörigen zu stoppen, einschließlich nicht in den USA beschäftigter Mitarbeiter. Die Abschaltung erfolgte nach Berichten über eine potenzielle Jailbreak-Methode, die das Mythos-Modell betrifft.

Anthropic bestritt die Entscheidung und erklärte, sie beruhe auf einer „ernsten Fehlinterpretation“. Das Unternehmen argumentierte, der gemeldete Jailbreak sei „eng und nicht universell“ – lediglich eine Aufforderung an das Modell, Code in einem bestimmten Repository zu lesen und zu korrigieren – nicht aber ein umfassender Sicherheits-Bypass. Anthropic warnte, dass die Anwendung solcher strenger Maßstäbe in der gesamten Branche alle Deployments von Frontier-KI-Modellen stoppen würde. Das Unternehmen sagte, es arbeite mit US-Behörden daran, die Fehlinterpretation zu klären und den Zugriff wiederherzustellen.