Finanzminister, Zentralbanker und leitende Finanzakteure richten zunehmend ihren Fokus auf die potenziellen Risiken, die das Anthropic-Modell Claude Mythos mit sich bringen könnte, angesichts der Befürchtung, es könnte kritische Schwachstellen in der globalen Finanzinfrastruktur offenlegen.
Zusammenfassung

• Globale Finanzverantwortliche warnen, dass Anthropics Mythos-KI kritische Fehler in Finanz- und Kern-IT-Systemen offenlegen könnte.
• Banken und Regierungen testen das Modell bereits früh, um Verwundbarkeiten zu identifizieren, bevor es zu einer breiteren Veröffentlichung kommt.
• Amtsträger warnen, dass solche Werkzeuge Cyberkriminellen helfen könnten, Schwachstellen auszunutzen, selbst während sie die Verteidigung stärken.

Das Modell hat bereits hochrangige Gespräche und Notfall-ähnliche Treffen ausgelöst, nachdem erste Tests Schwachstellen über große Betriebssysteme hinweg und in weit verbreiteten Anwendungen gezeigt hatten. Beamte und Branchenexperten sagen, das System könne eine „ungewöhnliche“ Fähigkeit haben, Schwachstellen in der Cybersicherheit zu erkennen und auszunutzen, obwohl einige warnen, dass seine vollen Möglichkeiten noch nicht vollständig verstanden seien.

Der kanadische Finanzminister François-Philippe Champagne sagte, das Thema habe diese Woche die Gespräche während der Internationalen Währungsfonds-Treffen in Washington dominiert.

„Ganz sicher ist es ernst genug, um die Aufmerksamkeit aller Finanzminister zu verdienen“, sagte er und fügte hinzu, dass es bei KI im Gegensatz zu physischen Risiken „das Unbekannte, das Unbekannte“ sei.

Er betonte die Notwendigkeit von Schutzvorkehrungen und sagte, Behörden müssten sicherstellen, „dass wir einen Prozess haben, um sicherzustellen, dass wir die Widerstandsfähigkeit unserer Finanzsysteme gewährleisten“.

Banken und Regierungen gehen dazu über, Systeme vor einer Veröffentlichung zu testen

Große Banken und staatliche Behörden erhalten derzeit frühzeitigen Zugang zu Mythos, um Verwundbarkeiten zu bewerten, bevor es zu einer breiteren Einführung kommt.

C. S. Venkatakrishnan, Chief Executive von Barclays, sagte, die Bedenken seien groß genug, um eine sofortige Aufmerksamkeit zu verlangen.

„Es ist ernst genug, dass sich die Leute Sorgen machen müssen“, sagte er. „Wir müssen es besser verstehen, und wir müssen verstehen, welche Verwundbarkeiten offengelegt werden, und wir müssen sie schnell beheben.“

Er fügte hinzu, dass die Lage ein stärker vernetztes Finanzsystem widerspiegele, in dem sich Risiken und Chancen zunehmend miteinander verflechten.

Anthropic hat angegeben, dass Mythos bereits mehrere Schwachstellen in Betriebssystemen, Finanzplattformen und Webbrowsern aufgedeckt habe. In Reaktion darauf wurde der Zugang auf eine kleine Gruppe von Institutionen beschränkt, darunter große Technologieunternehmen und systemrelevante Banken, damit diese ihre Abwehr stärken können, bevor es zu einer breiteren Offenlegung kommt.

Behörden in den Vereinigten Staaten haben ähnliche Schritte unternommen. Das Finanzministerium hat dazu ermutigt, führende Banken das Modell intern einsetzen zu lassen, um Schwachstellen zu identifizieren, und zugleich Möglichkeiten zu prüfen, wie eine kontrollierte Version für Bundesbehörden verfügbar gemacht werden kann. Ein Memo des Weißen Hauses vom Office of Management and Budget skizzierte Pläne, Schutzvorkehrungen einzuführen, bevor ein solcher Zugang gewährt wird.

Andrew Bailey, Gouverneur der Bank of England, sagte, die Auswirkungen auf den Cyberkriminalität müsse ernst genommen werden.

„Wir müssen jetzt sehr genau hinschauen, was diese neueste KI-Entwicklung für das Risiko von Cyberkriminalität bedeuten könnte“, sagte er und warnte, solche Werkzeuge könnten es „bösen Akteuren“ leichter machen, Schwachstellen in Systemen zu identifizieren und auszunutzen.

Hochrangige US-Beamte, darunter Scott Bessent und Jerome Powell, haben bereits Wall-Street-Executives einberufen, um die Risiken zu adressieren. Berichten zufolge nahmen unter anderem Führungskräfte großer Banken wie Goldman Sachs, Bank of America, Citigroup und Morgan Stanley teil, was die systemische Bedeutung des Themas unterstreicht.

Stimmen aus der Branche deuten darauf hin, dass die Bedenken möglicherweise nicht auf Anthropic beschränkt sind. Quellen zufolge könnte ein weiteres US-KI-Unternehmen ein ähnlich leistungsfähiges Modell veröffentlichen, ohne vergleichbare Schutzvorkehrungen.

James Wise von Balderton Capital beschrieb Mythos als „das erste von dem, was viele weitere leistungsstarke Modelle sein werden“, die in der Lage sind, Schwachstellen in Systemen offenzulegen. Seine Einheit Sovereign AI investiert in Unternehmen, die sich auf KI-Sicherheit konzentrieren, und fügte hinzu: „Wir hoffen, dass die Modelle, die Schwachstellen offenlegen, auch die Modelle sind, die sie beheben.“

Was ist Claude Mythos?

Mythos ist Teil der Claude-Modellfamilie von Anthropic, eines konkurrierenden Systems zu Angeboten von OpenAI und Google. Im Unterschied zu früheren Veröffentlichungen hat das Unternehmen den Zugang eingeschränkt, weil es Bedenken gibt, dass das Tool missbraucht werden könnte, um sensible Schwachstellen aufzudecken oder in geschützte Systeme einzudringen.

Interne Tests schürten Alarm, nachdem das Modell kritische Fehler identifiziert hatte, die typischerweise hochqualifizierte Hacker entdecken müssten. Einige Schwachstellen sollen Berichten zufolge bis vor Jahrzehnte zurückreichen, was Lücken hervorhebt, die von traditionellen Sicherheitssystemen unentdeckt geblieben waren.

Die Bedenken sind auch in politische Streitigkeiten übergeschwappt. Das Pentagon hat Anthropic kürzlich als potenzielles Supply-Chain-Risiko eingestuft, ein Schritt, der normalerweise ausländischen Gegnern vorbehalten ist. Das Unternehmen konnte ein vorgeschlagenes Verbot vor Gericht erfolgreich anfechten und argumentierte, dies würde zu erheblichen finanziellen Verlusten führen.

In Kreisen der nationalen Sicherheit hat Mythos neue Ungewissheit darüber eingeführt, wie Cyberbedrohungen bewertet werden. Ein Beamter beschrieb die Auswirkungen als vergleichbar damit, einen gewöhnlichen Hacker mit Werkzeugen auszustatten, die jenen ähnlich sind, die von Elite-Operatoren verwendet werden.

Trotz der Risiken arbeiten die Behörden weiterhin mit Anthropic zusammen. Bundesbehörden bereiten sich auf möglichen kontrollierten Zugang vor, während Aufsichtsbehörden und Finanzinstitute einen Wettlauf starten, um die Schwachstellen zu verstehen und anzugehen, die das Modell bereits zu Tage gefördert hat.