Anthropic setzt Mythos AI bei der NSA ein und fordert gleichzeitig eine globale Pause

Anthropic hat laut dem „Financial Times“-Bericht vom Donnerstag etwa sechs Ingenieure in der National Security Agency eingebettet, um sein Mythos-AI-Modell für offensive Cyber-Operationen einzusetzen. Die Ingenieure passen das Modell für bestimmte Anwendungen an, möglicherweise einschließlich des Eindringens in Netzwerke in China und Iran, so eine vom „FT“ zitierte Quelle. Der Einsatz erfolgte, während Anthropic gleichzeitig Forschungsergebnisse veröffentlichte, in denen ein koordiniertes globales Pausen-Mechanismus für die KI-Entwicklung gefordert wird, und zudem einen IPO einreichte, der das Unternehmen über 1 Billion US-Dollar bewerten könnte.

Anthropic setzt Ingenieure bei der NSA für Mythos-AI-Operationen ein

Anthropic hat laut dem Bericht der „Financial Times“ etwa sechs Ingenieure in die National Security Agency gesetzt, um Mythos – sein leistungsfähigstes KI-Modell – für offensive Cyber-Operationen einzusetzen. Die Ingenieure sind „forward-deployed“ eingesetzte Mitarbeitende, die das Modell für spezifische Anwendungen anpassen. Eine Quelle gegenüber dem „FT“ sagte, das Modell könne nützlich sein, um Netzwerke in Ländern wie China und Iran zu infiltrieren.

Mythos ist dasselbe Modell, das Anthropic abgelehnt hat, öffentlich freizugeben, unter Hinweis auf das Missbrauchsrisiko. Das Unternehmen beschränkte es auf geprüfte Partner über Project Glasswing – eine eingeschränkte Koalition, die Microsoft, Apple und Amazon umfasst. Ob die Ingenieure an aktiven Operationen beteiligt sind, ist nicht bestätigt.

Anthropic verklagt das Pentagon wegen Supply-Chain-Risiko-Einstufung

Anthropic verklagt das Pentagon, nachdem Verteidigungsminister Pete Hegseth das Unternehmen Ende Februar als Supply-Chain-Risiko eingestuft hatte – eine Bezeichnung, die historisch für ausländische Gegenspieler wie Huawei reserviert war. Der Einordnung folgte der Zusammenbruch eines Vertrags im Wert von 200 Millionen US-Dollar. Der Knackpunkt: Anthropic weigerte sich, dem Verteidigungsministerium zu erlauben, Claude für vollständig autonome Waffen oder für inländische Massüberwachung zu verwenden. Der NSA-Vertrag war von diesem Verbot ausgenommen.

Ein kalifornischer Richter stoppte die Blacklisting-Maßnahme als scheinbare Vergeltung wegen des Ersten Verfassungszusatzes. Ein Berufungsgericht in D.C. lehnte den Antrag von Anthropic ab, die Einstufung auszusetzen, während der Rechtsstreit läuft. Die NSA habe Mythos in dieser Zeit weiter eingesetzt, so die Berichterstattung des „FT“. Die Frist des Pentagons, Claude aus seinen Systemen zu entfernen, läuft im August ab.

Claude schreibt über 80% des Anthropic-Produktionscodes

Am selben Tag, an dem die NSA-Story bekannt wurde, veröffentlichte das interne Forschungsinstitut von Anthropic „When AI Builds Itself“ und untersuchte, wie weit Claude dabei gekommen ist, seine eigene Entwicklung zu automatisieren. Claude schreibt nun mehr als 80% des Codes, der in die Produktions-Codebasis von Anthropic gemerged wurde – im Vergleich zu nur niedrig einstelligen Werten, bevor Claude Code Anfang 2025 gestartet wurde. Ingenieure liefern heute etwa achtmal so viel Code pro Tag wie noch 2024.

Im April wurden Claude-Agenten mit einem offenen Problem zur KI-Sicherheit betraut – der Frage, ob ein schwächeres Modell ein stärkeres zuverlässig beaufsichtigen kann – und man ließ sie damit arbeiten. Zwei menschliche Forschende holten innerhalb von etwa einer Woche 23% der Leistungslücke zwischen den Modellen wieder auf. Die Agenten holten 97% über 800 kumulative Rechenstunden hinweg auf. Menschen stellten die Frage, während die Agenten jedes Experiment entwarfen. Die Autorinnen und Autoren des Berichts – Marina Favaro, Leiterin des Anthropic Institute, und Mitgründer Jack Clark – beschrieben es als den ersten veröffentlichten Fall, in dem Claude Forschungsurteil ausübt und nicht nur Aufgaben ausführt, die jemand anderes vorgegeben hat.

Anthropic schlägt verifizierbaren globalen Pausen-Stopp bei KI-Entwicklung vor

Der Bericht plädiert für eine verifizierbare globale Pause – mehrere „frontier labs“ stoppen gleichzeitig und unabhängige Verifikation stellt sicher, dass auch wirklich alle gestoppt haben. Anthropic erklärte, es würde sich einer solchen Pause anschließen. Die Autoren verglichen den vorgeschlagenen Mechanismus mit Nuklearverträgen aus der Zeit des Kalten Krieges, die zwischen den Vereinigten Staaten und Russland geschlossen wurden.

Anthropic warnte, dass die Entwicklung auf rekursive Selbstverbesserung hinausläuft: KI-Systeme, die autonom ihre eigenen Nachfolger entwerfen, bauen und trainieren, wobei Menschen bei jedem Schritt eine abnehmende Rolle spielen. Wenn KI auswählt, welche Experimente es wert sind, durchgeführt zu werden – und nicht nur, sie auszuführen – verlieren Menschen laut dem Bericht die letzte bedeutungsvolle Rolle in der Entwicklungsschleife. Kleine Fehlanpassungen, die in den heutigen Modellen sichtbar sind, könnten sich über selbstverbessernde Generationen hinweg verstärken, bis niemand mehr in der Lage ist, sie zu korrigieren.

KI-Sicherheitswarnungen, die 2023 ausgegeben wurden, stoppten die Entwicklung nicht

Im Jahr 2023 unterzeichneten über hundert große Namen aus der KI-Forschungsgemeinschaft einen offenen Brief, in dem ein globaler Einsatz zur Eindämmung des intrinsischen Aussterberisikos gefordert wurde, das KI-Entwicklung mit sich bringt. Wenige Monate zuvor hatte ein weiterer offener Brief gefordert, OpenAI solle Fortschritte bei ChatGPT pausieren, wegen seiner gefährlichen Natur. Niemand stoppte nach dem offenen Brief von 2023. OpenAI nicht. Anthropic nicht.

FAQ

Was hat Anthropic bei der NSA eingesetzt? Anthropic hat laut einem am Donnerstag veröffentlichten „Financial Times“-Bericht etwa sechs Ingenieure in der National Security Agency eingebettet, um sein Mythos-AI-Modell für offensive Cyber-Operationen einzusetzen. Die Ingenieure passen das Modell für bestimmte Anwendungen an, möglicherweise einschließlich des Eindringens in Netzwerke in China und Iran.

Warum verklagt Anthropic das Pentagon? Anthropic verklagt das Pentagon, nachdem Verteidigungsminister Pete Hegseth das Unternehmen Ende Februar als Supply-Chain-Risiko eingestuft hatte, nachdem ein Vertrag im Wert von 200 Millionen US-Dollar zusammengebrochen war. Anthropic weigerte sich, dem Verteidigungsministerium zu erlauben, Claude für vollständig autonome Waffen oder für inländische Massüberwachung zu verwenden. Ein kalifornischer Richter blockierte die Blacklisting-Maßnahme als scheinbare Vergeltung wegen des Ersten Verfassungszusatzes, während ein Berufungsgericht in D.C. den Antrag von Anthropic ablehnte, die Einstufung während des Rechtsstreits auszusetzen.

Wie viel Code schreibt Claude für Anthropic? Claude schreibt mittlerweile mehr als 80% des Codes, der in die Produktions-Codebasis von Anthropic gemerged wurde – im Vergleich zu niedrig einstelligen Werten, bevor Claude Code Anfang 2025 gestartet wurde. Ingenieure liefern laut dem Bericht „When AI Builds Itself“ von Anthropic, der vom internen Forschungsinstitut des Unternehmens veröffentlicht wurde, etwa achtmal so viel Code pro Tag wie noch 2024.