Der US-Finanzminister und der Vorsitzende der US-Notenbank haben die Führungskräfte von Wall Street in einer Notfall-Sitzung zusammengerufen, um vor dem neuesten Modell Mythos von Anthropic zu warnen. Das Modell wurde von den Behörden als systemisches Risiko für das Finanzsystem eingestuft.
Finanzchefs rufen die Führungskräfte von Wall Street in Eile zusammen: KI-Netzbedrohungen werden zu einem systemischen Risiko
Laut einem Bericht von Bloomberg haben US-Finanzminister Scott Bessent und der Vorsitzende der US-Notenbank Jerome Powell letzte Woche in Washington in der Zentrale des Finanzministeriums die wichtigsten Bank-CEOs von Wall Street in einer Notfallsitzung zusammengebracht, um vor möglichen Cybersicherheitsrisiken zu warnen, die durch das neueste Modell von KI-Unternehmen Anthropic, „Claude Mythos Preview“, ausgelöst werden könnten.
Zu den anwesenden Bankführungskräften gehörten Citigroup-CEO Jane Fraser, Morgan-Stanley-CEO Ted Pick, Bank-of-America-CEO Brian Moynihan, Wells-Fargo-CEO Charlie Scharf sowie Goldman-Sachs-CEO David Solomon; JPMorgan-CEO Jamie Dimon konnte nicht teilnehmen. Alle genannten Institutionen wurden von den Aufsichtsbehörden als systemrelevante Finanzinstitute eingestuft.
Die Sitzung wurde vom Finanzminister und dem Vorsitzenden der US-Notenbank persönlich besucht und gilt in der Branche als ungewöhnlich. In der Vergangenheit beschränkte sich das Eingreifen der Regierung bei KI-Risiken meist auf Arbeitsgruppen auf Instituts-Ebene; nun wurde es direkt zur höchsten Führungsebene der Finanzaufsicht hochgestuft, wobei der Finanzaufsichtschef und der Notenbankchef selbst vor KI-Netzbedrohungen warnen. Damit wird klar signalisiert, dass die Behörden KI-Netzbedrohungen als systemische Risiken für die Stabilität des Finanzsystems eingestuft haben.
Mythos-Modellfähigkeiten sind beeindruckend: Kann eigenständig massenhaft Zero-Day-Schwachstellen finden
Laut technischen Unterlagen, die Anthropic am selben Tag veröffentlicht hat, verfügt Mythos über die Fähigkeit, Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen. In der Testphase fand das Modell eigenständig Tausende zuvor unbekannter Zero-Day-Schwachstellen (zero-day vulnerabilities), darunter eine Schwachstelle, die seit 27 Jahren im sicherheitsorientierten Open-Source-Betriebssystem OpenBSD schlummerte; außerdem entdeckte das Modell in der Videobearbeitungsbibliothek FFmpeg eine Schwachstelle, die selbst durch automatisierte Testtools nach 5000000 Programmdurchläufen nicht erkannt werden konnte.
Anthropic-Forscher betonten, dass die Fähigkeit von Mythos, Schwachstellen zu finden, auf den insgesamt verbesserten Fortschritten des Modells in Programmierung, Schlussfolgern und Autonomie beruht und nicht das Ergebnis einer gezielten Ausbildung ist.
Das Unternehmen erklärte in einer Stellungnahme: „Die gleiche Fähigkeit, die das Modell dabei unterstützt, Schwachstellen effektiver zu beheben, macht es auch dabei effektiver, Schwachstellen auszunutzen.“ Diese Aussage verdeutlicht die Zweischneidigkeit von Mythos: Die Grenze zwischen Abwehr und Angriff wird vor solchen Modellen nahezu ausgelöscht.
Anthropic lehnt es ab, die öffentliche Veröffentlichung zu machen: Startet stattdessen das „Project Glasswing“, um den Zugriff einzuschränken
Gerade weil die Fähigkeiten zu stark sind, hat sich Anthropic entschieden, Mythos nicht öffentlich zu veröffentlichen, sondern eine Strategie zur Einschränkung des Zugriffs zu wählen und es nur bestimmten Kooperationsunternehmen zur Nutzung zu öffnen. Das Unternehmen kündigte parallel auch den Start eines defensiven Kooperationsprogramms für Cybersicherheit an, das „Project Glasswing“ (Projekt Glasflügel) heißt. Dabei arbeiten über 40 Unternehmenspartner zusammen, darunter AWS, Apple, Cisco, Google, JPMorgan, Microsoft und Nvidia, mit dem Ziel, kritische Softwarelücken proaktiv zu identifizieren und zu beheben, bevor Angreifer aktiv werden.
Bildquelle: X/@AnthropicAI Anthropic kündigt parallel den Start eines defensiven Kooperationsprogramms für Cybersicherheit namens „Project Glasswing“ (Projekt Glasflügel) an
Anthropic sagte: „Angesichts der außerordentlichen Stärke der Modellfähigkeiten verfolgen wir beim Veröffentlichungsansatz eine vorsichtige Haltung. Wir arbeiten gerade mit einer kleinen Gruppe von frühen Zugangs-Kunden zusammen, um das Modell zu testen, und wir glauben, dass dies die bislang bahnbrechendste Generation ist, die wir gebaut haben.“
Das Unternehmen verriet außerdem, dass es das Modell- und Einsatzszenario für Angriff und Verteidigung gegenüber Regierungsbeamten vorgestellt hat und weiterhin mit dem US-Behörde für Cybersicherheit und Cybersicherheitsinfrastruktur (CISA) sowie dem AI Standard Innovation Center im Austausch bleibt. Der Fokus, der die Öffentlichkeit im Anschluss weiter interessieren dürfte, konzentriert sich auf die Frage, wie Aufsichtsstellen Veröffentlichungskriterien für ähnliche Modelle festlegen werden, welche konkreten Schutzmaßnahmen Finanzinstitute ergreifen sollten und ob die Koordination zwischen internationalen Aufsichtsbehörden mit dem Tempo der technologischen Entwicklung Schritt halten kann.
Dieser Artikel wurde von dem Krypto-Agenten erstellt, der Informationen von verschiedenen Seiten zusammenfasst, und wird vom „Crypto City“-Redaktionsteam geprüft und bearbeitet. Er befindet sich derzeit noch in der Trainingsphase, daher können logische Abweichungen oder Informationsfehler vorliegen. Der Inhalt dient nur zur Referenz und stellt keine Anlageempfehlung dar.
