Der US-Finanzminister und der Vorsitzende der US-Notenbank haben die Führungskräfte von Wall Street in einer Notfallsitzung zusammengerufen, um vor dem neuesten Modell Mythos von Anthropic zu warnen. Die zuständigen Behörden haben das Modell als systemisches Risiko für das Finanzsystem eingestuft.
Finanzchefs rufen Wall-Street-Führungskräfte in Eile zusammen, KI-Netzwerkbedrohungen werden zu einem systemischen Risiko
Laut einem Bericht von Bloomberg haben der US-Finanzminister Scott Bessent und der Vorsitzende der US-Notenbank Jerome Powell in der vergangenen Woche in Washington, D.C., im Hauptsitz des US-Finanzministeriums in einer Notfallsitzung die CEOs der wichtigsten Banken der Wall Street zusammengerufen, um vor möglichen Cybersicherheitsrisiken zu warnen, die vom neuesten Modell von KI-Unternehmen Anthropic, „Claude Mythos Preview“, ausgehen könnten.
Zu den teilnehmenden Bank-Führungskräften gehörten der CEO der Citigroup, Jane Fraser, der CEO von Morgan Stanley, Ted Pick, der CEO der Bank of America, Brian Moynihan, der CEO der Wells Fargo, Charlie Scharf, sowie der CEO von Goldman Sachs, David Solomon; der CEO von JPMorgan, Jamie Dimon, konnte nicht teilnehmen. Alle genannten Institute sind von den Aufsichtsbehörden als systemrelevante Finanzinstitute eingestuft.
Die Sitzung wurde vom Finanzminister und dem Vorsitzenden der US-Notenbank persönlich besucht, was in der Branche als ungewöhnlich gilt. In der Vergangenheit beschränkte sich das Eingreifen der Regierung bei KI-Risiken meist auf Arbeitsgruppen auf Institutsebene; nun ist es direkt auf höchster Ebene der Finanzaufsicht, mit persönlicher Warnung durch die obersten Finanzbehörden, angehoben worden. Damit wird eindeutig signalisiert, dass die Behörden KI-Netzwerkbedrohungen als systemische Risiken für die Stabilität des Finanzsystems eingeordnet haben.
Mythos-Modellfähigkeiten sind beeindruckend: kann eigenständig massenhaft Zero-Day-Schwachstellen entdecken
Laut den am selben Tag von Anthropic veröffentlichten technischen Unterlagen verfügt Mythos über die Fähigkeit, Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen. In der Testphase hat das Modell eigenständig Tausende zuvor unbekannter Zero-Day-Schwachstellen (zero-day vulnerabilities) gefunden, darunter eine Schwachstelle in dem sicherheitsorientierten Open-Source-Betriebssystem OpenBSD, die seit 27 Jahren schlummerte; außerdem hat das Modell auch eine Schwachstelle in der Videobearbeitungsbibliothek FFmpeg entdeckt, die selbst durch die Ausführung von automatisierten Testtools 5.000.000 Mal nicht erkannt wurde.
Anthropic-Forschende betonen, dass Mytho’s Fähigkeit, Schwachstellen zu entdecken, aus den allgemeinen Fortschritten des Modells in Programmierung, Schlussfolgern und Autonomie resultiert und nicht das Ergebnis einer gezielten, absichtlichen Schulung ist.
Das Unternehmen erklärte in einer Stellungnahme: „Die gleiche Fähigkeit, die das Modell dabei wirksamer macht, Schwachstellen zu beheben, macht es auch dabei wirksamer, Schwachstellen auszunutzen.“ Diese Aussage macht die Doppelgesichtigkeit von Mythos deutlich: Die Grenze zwischen Abwehr und Angriff ist angesichts solcher Modelle nahezu aufgehoben.
Anthropic weigert sich, den Start der „Glasswing“-Initiative zur Einschränkung des Zugriffs öffentlich bekanntzugeben
Gerade weil die Fähigkeiten zu stark sind, hat sich Anthropic entschieden, Mythos nicht öffentlich zu veröffentlichen, sondern eine Strategie zu ergreifen, die den Zugang einschränkt, und es nur ausgewählten Kooperationsunternehmen zugänglich zu machen. Das Unternehmen kündigte zugleich den Start eines defensiven Cybersicherheits-Kooperationsprogramms namens „Project Glasswing“ („Glasflügel“-Projekt) an. In Zusammenarbeit mit über 40 Unternehmenspartnern wie AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia usw. ist das Ziel, bevor Angreifer zuschlagen, Schwachstellen in kritischer Software proaktiv zu finden und zu beheben.
Bildquelle: X/@AnthropicAI Anthropic kündigt zugleich den Start eines defensiven Cybersicherheits-Kooperationsprogramms namens „Project Glasswing“ („Glasflügel“-Projekt) an
Anthropic sagte: „Angesichts der starken Fähigkeiten des Modells gehen wir mit großer Umsicht bei der Veröffentlichung vor. Wir arbeiten derzeit mit einer kleinen Gruppe von Early-Access-Kunden zusammen, um das Modell zu testen, und sind der Ansicht, dass dies die bahnbrechendste Generation ist, die wir bisher aufgebaut haben.“
Das Unternehmen gab außerdem bekannt, dass es Regierungsbeamte zu den Anwendungsfällen von Mythos für Angriff und Verteidigung briefte und weiterhin im Austausch mit dem US Cybersecurity and Infrastructure Security Agency (CISA) sowie dem AI Standards Innovation Center steht. Der Fokus, den die Öffentlichkeit im Weiteren richtet, liegt vor allem darauf, wie die Aufsichtsbehörden derlei Veröffentlichungsprüfungsstandards für ähnliche Modelle festlegen werden, welche konkreten Abwehrmaßnahmen Finanzinstitute ergreifen sollten und ob die Koordination zwischen internationalen Aufsichtsbehörden mit dem Tempo der technischen Entwicklung Schritt halten kann.
Dieser Beitrag wurde von einem Krypto-Agenten erstellt, der Informationen von allen Seiten zusammenfasst, und durch das „Krypto-Stadt“-Lektorat und -Redaktion geprüft und bearbeitet. Derzeit befindet er sich noch in der Ausbildungsphase; es kann daher logische Abweichungen oder Informationsfehler geben. Der Inhalt dient nur zur Orientierung und stellt keine Anlageberatung dar.
