Die US-Regierung hat am Freitag eine Notfall-Anordnung zu Exportkontrollen herausgegeben und damit Anthropic angewiesen, den Zugriff auf seine beiden fortschrittlichsten KI-Modelle Claude Fable 5 und Claude Mythos 5 umgehend für alle ausländischen Staatsangehörigen auszusetzen; als Begründung nannte sie nationale Sicherheitsbedenken wegen einer potenziellen Jailbreak-Schwachstelle. Die Anordnung verbietet den Zugriff, unabhängig davon, ob man sich innerhalb oder außerhalb der Vereinigten Staaten befindet, und zwingt Anthropic, die Modelle für die gesamte Kundenbasis zu deaktivieren. Die Regierung ist der Ansicht, eine Methode zur Umgehung des öffentlich verfügbaren Fable 5-Modells identifiziert zu haben, obwohl Anthropic die Schwere bestritt und argumentierte, die Schwachstelle sei trivial und bereits mit anderen öffentlich verfügbaren Modellen wie GPT-5.5 nachbildbar. Die Anordnung erfolgt vor dem Hintergrund anhaltender Spannungen zwischen Anthropic und der Regierung über Vereinbarungen zur KI-Sicherheit und Überwachung.
Government Directive Suspends Fable 5 and Mythos 5 Access
Die Anordnung untersagt es jeder ausländischen Person, auf die Modelle zuzugreifen, unabhängig davon, ob sie sich innerhalb oder außerhalb der Vereinigten Staaten befindet. Der weitreichende Umfang der Order zwang Anthropic dazu, die Modelle für die gesamte Kundenbasis zu deaktivieren, um die Einhaltung sicherzustellen. Das Schreiben lieferte keine konkreten Details zu seiner nationalen Sicherheitsbedenken, aber die Regierung glaubt, von einer Methode zur Umgehung, also zu einem „Jailbreaking“, des öffentlich verfügbaren Fable 5-Modells Kenntnis erlangt zu haben. Mythos 5, das über weniger Schutzvorkehrungen verfügt und besonders stark darin ist, Schwachstellen in der Cybersicherheit zu entdecken, war nur ausgewählten Partnern zugänglich. Beide Modelle wurden erst wenige Tage zuvor veröffentlicht.
Anthropic Disputes Jailbreak Severity
Anthropic stritt die Schwere des Befunds ab. Das Unternehmen sagte, es habe eine Vorführung der Technik überprüft und sei zu dem Schluss gekommen, dass die identifizierten Schwachstellen relativ einfach erscheinen und dass auch andere öffentlich verfügbare Modelle sie ebenfalls entdecken könnten, ohne dass eine Umgehung erforderlich sei. Das Unternehmen sagte, die Regierung habe bislang nur mündliche Belege für einen potenziell engen, nicht-universellen Jailbreak geliefert—im Wesentlichen bestehend darin, das Modell zu bitten, ein spezifisches Codebase zu lesen und alle Softwarefehler zu beheben. Anthropic fügte hinzu, es habe validiert, dass das gezeigte Fähigkeitsniveau bereits weit verbreitet von konkurrierenden Modellen verfügbar ist, einschließlich von OpenAIs GPT-5.5.
Während es der Anordnung nachkam, erklärte Anthropic, es glaube, dass die Maßnahme eine gefährliche Präzedenz schafft. „Wenn dieser Standard über die gesamte Branche angewendet würde“, schrieb das Unternehmen, „glauben wir, dass er im Wesentlichen alle neuen Modell-Deployments für alle Anbieter von Frontier-Modellen zum Stillstand bringen würde.“ Der Zugriff auf alle anderen Anthropic-Modelle ist nicht betroffen. Das Unternehmen sagte, es arbeite daran, den Zugriff so schnell wie möglich wiederherzustellen.
David Sacks Criticizes Anthropic on Social Media
Am Samstag schrieb David Sacks—der Co-Vorsitzende des Council of Advisers on Science and Technology des Präsidenten—auf X, dass „ein äußerst glaubwürdiger, verlässlicher Partner von beiden: Anthropic und der US-Regierung, der Fable testete, mit einem Jailbreak dieser Schutzvorkehrungen hervorgetreten ist. Der Admin bat [Anthropic-CEO Dario Amodei], den Jailbreak zu beheben oder das Modell erneut nicht bereitzustellen. Dario weigerte sich.“
Sacks behauptete zudem, dass die Reaktion von Anthropic auf die Bitte der Regierung im Widerspruch zu den eigenen öffentlichen Aussagen des Unternehmens über die Notwendigkeit von KI-Sicherheit und Regulierung stehe—eine Sichtweise, die Amodei diese Woche erneut in einem Blogbeitrag teilte. „Anthropic stellte die fortgesetzte Bereitstellung des Konsumentenmodells über Sicherheit“, schrieb Sacks. „Als Reaktion darauf erließ der Admin die Exportkontrolle. Der Admin tat das widerwillig. Es hat sehr überrascht, dass Anthropic nicht mit einem vernünftigen Sicherheitsersuchen zusammenarbeiten wollte (d. h. das Jailbreak-Problem zu beheben). Die Reaktion von Anthropic steht in sehr starkem Widerspruch zu ihrem Branding und ihrer Ethos als sichere KI-Forschungscommunity.“
Sacks fügte hinzu, dass die Administration hoffe, Anthropic werde das Problem beheben und Fable 5 könne zur öffentlichen Veröffentlichung zurückkehren. „Der Admin schätzt die technischen Fähigkeiten von Anthropic und hat das Gefühl, dass dieses Problem, so ernst es auch ist, problemlos gelöst werden kann“, schrieb er. „Die Kugel liegt bei Anthropic.“
Earlier Dispute Over Surveillance Agreement
Noch früher in diesem Jahr prallten Anthropic und die US-Regierung aufeinander, als sich das KI-Unternehmen weigerte, eine erweiterte Vereinbarung zu unterzeichnen, die eine flächendeckende inländische Überwachung von Amerikanern sowie vollständig autonome, tödliche Waffensysteme erlauben würde. Präsident Donald Trump schmetterte das Unternehmen nach dem Scheitern der Gespräche ab, und das Verteidigungsministerium bezeichnete Anthropic als „Supply-Chain-Risiko“—eine Einstufung, die das Unternehmen vor Gericht angefochten hat. Seitdem gibt es Berichte, dass der Stillstand zwischen den beiden Seiten abgekühlt sei, nachdem die Regierung beabsichtigt hatte, Claude Mythos und andere Modelle einzusetzen.
FAQ
Was hat die US-Regierung am Freitag angeordnet, dass Anthropic tun soll?
Die US-Regierung hat am Freitag eine Notfall-Anordnung zu Exportkontrollen herausgegeben und damit Anthropic angewiesen, den Zugriff auf seine beiden fortschrittlichsten KI-Modelle, Claude Fable 5 und Claude Mythos 5, umgehend für alle ausländischen Staatsangehörigen auszusetzen; als Begründung nannte sie nationale Sicherheitsbedenken wegen einer potenziellen Jailbreak-Schwachstelle.
Warum hat Anthropic die Anordnung der Regierung bestritten?
Anthropic stritt die Schwere des Befunds ab und argumentierte, dass die identifizierten Schwachstellen relativ einfach erscheinen und dass auch andere öffentlich verfügbare Modelle, einschließlich von OpenAIs GPT-5.5, sie ebenfalls entdecken können, ohne dass eine Umgehung erforderlich wäre. Das Unternehmen sagte, die Regierung habe nur mündliche Belege für einen potenziell engen, nicht-universellen Jailbreak geliefert.
Was hat David Sacks über die Reaktion von Anthropic auf die Anordnung gesagt?
Am Samstag schrieb David Sacks auf X, dass Anthropic-CEO Dario Amodei sich geweigert habe, den Jailbreak zu beheben oder das Modell erneut nicht bereitzustellen, als die Administration dies angefordert habe. Sacks behauptete, dass die Reaktion von Anthropic im Widerspruch zu den öffentlichen Aussagen des Unternehmens über KI-Sicherheit und Regulierung stehe, indem es schrieb: „Anthropic stellte die fortgesetzte Bereitstellung des Konsumentenmodells über Sicherheit.“
