Erstklassige Mitarbeiter von Anthropic treffen sich am Montag in Washington, D.C., mit Beamten der Trump-Regierung, um einen Streit über die neuesten KI-Modelle des Unternehmens beizulegen, so eine mit dem Unternehmen vertraute Quelle. Anthropic erhielt am Freitag eine Exportkontroll-Anweisung, in der nationale Sicherheitsbehörden genannt wurden, und die das Unternehmen anwies, den Zugang zu Fable 5 und Mythos 5 durch irgendeinen ausländischen Staatsangehörigen auszusetzen, egal ob innerhalb oder außerhalb der Vereinigten Staaten. Der KI-Startup deaktivierte den Zugang zu den Modellen für alle Kunden, um die Anweisung einzuhalten. Die Maßnahme markiert die jüngste Belastung in der Beziehung von Anthropic zur Regierung, die bereits angespannt ist, nachdem es früher in diesem Jahr zu einem Zusammenstoß mit dem Verteidigungsministerium kam: Die DOD hatte Anthropic im März als Risiko für die Lieferkette eingestuft.
Regierung erteilt Exportkontroll-Anweisung am Freitag
Die Regierung nahm am Freitag um 13:00 Uhr ET Kontakt mit Anthropic auf und wies das Unternehmen an, Fable 5 und Mythos 5 zu deaktivieren, weil es eine nicht näher bezeichnete nationale Sicherheitsbedrohung gebe, so eine Person, die mit den Gesprächen vertraut ist, die jedoch nicht namentlich genannt werden wollte, um vertrauliche Angelegenheiten besprechen zu können. Anthropic erhielt gegen 17:30 Uhr ET einen formellen Brief, der verlangte, die Modelle auszusetzen. Vor dem Eintreffen der Anweisung am Freitag habe Anthropic laut der Person keine Mitteilung über eine nationale Sicherheitsbedrohung erhalten.
In ihrer Erklärung am Freitag sagte Anthropic, sie glaube, dass die Besorgnis der Regierung sich auf ein mögliches enges, nicht universelles Jailbreak-Szenario beziehe, bei dem ein Nutzer eine Cybersecurity-Schutzvorrichtung umgehen und Fable 5 bitten könnte, eine bestimmte Codebasis zu lesen und alle Softwarefehler zu beheben.
DOD stufte Anthropic im März als Risiko für die Lieferkette ein
Das Verteidigungsministerium stufte Anthropic im März als Risiko für die Lieferkette ein und verbot damit Verteidigungsauftragnehmern, die Technologie des Unternehmens zu nutzen, da sie angeblich die nationale Sicherheit der USA gefährde. Verteidigungsminister Pete Hegseth sprach in einem Beitrag auf X am Samstag über die jüngste Anweisung der Regierung und schrieb, jeder vergehende Tag zeige, warum das Blacklisting von Anthropic der richtige Schritt gewesen sei.
Anthropic reichte Klage gegen die Trump-Regierung ein, um die Einstufung als Risiko für die Lieferkette rückgängig zu machen, und dieser Rechtsstreit läuft.
Anthropic erhielt vor der Veröffentlichung eine Freigabe für Modelle
Anthropic stellte Fable 5 und Mythos 5 am Dienstag vor, nur wenige Tage bevor es die Exportkontroll-Anweisung der Regierung erhielt. Das Unternehmen habe laut einer mit den Gesprächen vertrauten Person, die nicht namentlich genannt werden wollte, um vertrauliche Angelegenheiten besprechen zu können, mit Regierungsbehörden zusammengearbeitet, um die Modelle vor der Veröffentlichung zu testen, und erhielt die Zustimmung, sie einzusetzen.
Fable 5 und Mythos 5 bauen auf Anthropics Claude Mythos Preview auf, einem leistungsstarken Modell, das besonders gut darin ist, Sicherheitslücken in Software zu erkennen. Anthropic begrenzte den Rollout auf eine ausgewählte Gruppe von Unternehmen im Rahmen einer Cybersecurity-Initiative namens Project Glasswing, und sein Ansatz schien ihm etwas Wohlwollen bei der Trump-Regierung eingebracht zu haben, die mehrere Treffen mit dem Unternehmen über die Fähigkeiten des Modells hatte.
Anthropic pries Fable 5 und Mythos 5 als State-of-the-Art-Modelle, die viele Branchen-Benchmarks anführen. Mythos 5 ist noch immer auf eine ausgewählte Gruppe von Nutzern beschränkt, aber Anthropic machte Fable 5 für seine Unternehmenskunden und bezahlten Abonnenten verfügbar. Das Unternehmen sagte, die breite Veröffentlichung sei wegen neuer Schutzmaßnahmen möglich gewesen, die Antworten in bestimmten Bereichen mit hohem Risiko blockieren, darunter Cybersecurity und Biologie.
Unternehmen streitet über Bedenken hinsichtlich eines engen Jailbreaks
Anthropic sagte, sie widerspreche der Auffassung, dass das Auffinden eines engen möglichen Jailbreak ein Grund dafür sein sollte, ein kommerzielles Modell zurückzurufen, das bei hundert Millionen Menschen eingesetzt sei. Das Unternehmen erklärte: „Wenn dieser Standard über die gesamte Branche angewendet würde, glauben wir, dass er im Wesentlichen alle neuen Modellbereitstellungen für alle Anbieter von Frontier-Modellen stoppen würde.“
Anthropic sagte, sie glaube, dass es sich bei dem Streit um ein Missverständnis handle, und dass man daran arbeite, den Zugang so schnell wie möglich wiederherzustellen.
FAQ
Was hat Anthropic am Freitag als Reaktion auf die Regierungsanweisung getan?
Anthropic deaktivierte am Freitag den Zugang zu seinen KI-Modellen Fable 5 und Mythos 5 für alle Kunden, nachdem das Unternehmen eine Exportkontroll-Anweisung der Regierung erhalten hatte, in der nationale Sicherheitsbehörden genannt wurden und die das Unternehmen anwies, den Zugang durch irgendeinen ausländischen Staatsangehörigen auszusetzen, egal ob innerhalb oder außerhalb der Vereinigten Staaten.
Warum hat das Verteidigungsministerium Anthropic als Risiko für die Lieferkette eingestuft?
Das DOD stufte Anthropic im März als Risiko für die Lieferkette ein, wodurch Verteidigungsauftragnehmern verboten wurde, die Technologie des Unternehmens zu nutzen, da sie angeblich die nationale Sicherheit der USA gefährde. Verteidigungsminister Pete Hegseth postete am Samstag auf X, dass jeder vergehende Tag zeige, warum das Blacklisting von Anthropic der richtige Schritt gewesen sei.
Wie beschreibt Anthropic die Besorgnis der Regierung bezüglich Fable 5?
Anthropic sagte in ihrer Erklärung am Freitag, sie glaube, die Besorgnis der Regierung liege bei einem möglichen engen, nicht universellen Jailbreak, bei dem ein Nutzer eine Cybersecurity-Schutzvorrichtung umgehen und Fable 5 bitten könnte, eine bestimmte Codebasis zu lesen und alle Softwarefehler zu beheben. Das Unternehmen bezeichnete den Streit als Missverständnis und erklärte, man arbeite daran, den Zugang so schnell wie möglich wiederherzustellen.
