Der US-Finanzminister und der Vorsitzende der US-Notenbank haben die Führungskräfte von Wall Street eilig zu einem Notfallgespräch einberufen, um vor dem neuesten Modell Mythos von Anthropic zu warnen. Das Modell wurde von den Behörden als systemisches Risiko für das Finanzsystem eingestuft.
Finanzchefs rufen eilig Führungskräfte von Wall Street zusammen, KI-Netzbedrohungen werden zu einem systemischen Risiko
Laut einem Bericht von Bloomberg haben US-Finanzminister Scott Bessent und der Vorsitzende der US-Notenbank Jerome Powell letzte Woche in Washington, D.C., im Hauptquartier des US-Finanzministeriums eilig die wichtigsten Bank-CEOs der Wall Street einberufen, um vor möglichen Cyber-Sicherheitsrisiken zu warnen, die das neueste KI-Modell von Anthropic, „Claude Mythos Preview“, auslösen könnte.
Zu den anwesenden Bank-Führungskräften zählten Citigroup-CEO Jane Fraser, Morgan-Stanley-CEO Ted Pick, Bank-of-America-CEO Brian Moynihan, Wells-Fargo-CEO Charlie Scharf sowie Goldman-Sachs-CEO David Solomon; Jamie Dimon, CEO von JPMorgan, konnte nicht teilnehmen. Alle genannten Institutionen wurden von den zuständigen Aufsichtsbehörden als systemrelevante Finanzinstitute eingestuft.
Dieses Treffen wurde von dem Finanzminister und dem Vorsitzenden der US-Notenbank persönlich besucht und wird in der Branche als ungewöhnliche Maßnahme angesehen. Während die staatliche Einmischung in KI-Risiken in der Vergangenheit meist bei Arbeitsgruppen auf institutioneller Ebene blieb, wird dies nun direkt zu einer Warnung auf höchster Ebene durch die obersten Finanzaufsichtsverantwortlichen aufgewertet. Damit wird klar ausgesendet, dass die Behörden KI-Netzbedrohungen als systemisches Risiko für die Stabilität des Finanzsystems einordnen.
Mythos-Modellfähigkeiten sind beeindruckend: Kann selbstständig massenhaft Zero-Day-Lücken finden
Laut den am selben Tag von Anthropic veröffentlichten technischen Unterlagen besitzt Mythos die Fähigkeit, Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu erkennen und auszunutzen. In der Testphase fand das Modell selbstständig Tausende zuvor unbekannter Zero-Day-Schwachstellen (zero-day vulnerabilities), darunter eine Schwachstelle, die seit 27 Jahren in dem sicherheitsorientierten Open-Source-Betriebssystem OpenBSD verborgen war; außerdem entdeckte das Modell in der Video-Processing-Bibliothek FFmpeg eine Schwachstelle, die auch nach der Ausführung mit automatisierten Testtools 5.000.000-mal nicht erkannt werden konnte.
Anthropic-Forschungskräfte betonten, dass die Fähigkeit von Mythos, Schwachstellen zu entdecken, aus den umfassenden Fortschritten des Modells in Programmierung, Schlussfolgern und Autonomie resultiert und nicht das Ergebnis einer gezielten Schulung ist.
Das Unternehmen erklärte in einer Stellungnahme: „Die gleiche Fähigkeit, die es dem Modell effektiver macht, Schwachstellen zu beheben, macht es auch genauso effektiver, Schwachstellen auszunutzen.“ Diese Aussage unterstreicht die Zweischneidigkeit von Mythos: Die Grenze zwischen Abwehr und Angriff wird in diesem Typ von Modell nahezu aufgehoben.
Anthropic verweigert die öffentliche Offenlegung und schränkt den Zugriff im Rahmen des „Project Glasswing“ ein
Gerade weil die Fähigkeiten zu stark sind, hat Anthropic beschlossen, Mythos nicht öffentlich zu veröffentlichen, sondern eine Strategie zu verfolgen, die den Zugriff einschränkt, und es nur an ausgewählte Partnerunternehmen zu vergeben. Das Unternehmen kündigte gleichzeitig den Start des defensiven Cybersecurity-Kooperationsprogramms mit dem Namen „Project Glasswing“ an, bei dem über 40 Unternehmenspartner zusammenarbeiten sollen, darunter AWS, Apple, Cisco, Google, JPMorgan, Microsoft und NVIDIA. Ziel ist es, vorzugehen, bevor Angreifer zuschlagen, indem man proaktiv Schwachstellen in kritischer Software findet und behebt.
Bildquelle: X/@AnthropicAI Anthropic kündigt gleichzeitig den Start des defensiven Cybersecurity-Kooperationsprogramms mit dem Namen „Project Glasswing“ an
Anthropic sagte: „Angesichts der starken Fähigkeiten des Modells nehmen wir in Bezug auf die Veröffentlichung einen vorsichtigen Ansatz ein. Wir arbeiten aktuell mit einer kleinen Gruppe früher Zugriffskunden zusammen, um das Modell zu testen, und wir glauben, dass dies die bisher bahnbrechendste Generation ist, die wir aufgebaut haben.“
Das Unternehmen gab außerdem bekannt, dass es Regierungsbeamte zu den Offensiv- und Defensivanwendungsfällen von Mythos gebrieft hat und weiterhin mit dem US-Cybersecurity and Infrastructure Security Agency (CISA) sowie dem AI Standards Innovation Center im Austausch steht. Der Fokus, der von der Öffentlichkeit im weiteren Verlauf beobachtet wird, richtet sich darauf, wie Aufsichtsbehörden Kriterien für die Veröffentlichung ähnlicher Modelle festlegen sollen, welche konkreten Abwehrmaßnahmen Finanzinstitute ergreifen sollten und ob die Koordination zwischen internationalen Aufsichtsbehörden mit dem Tempo der technologischen Entwicklung Schritt halten kann.
Dieser Beitrag wurde von einem verschlüsselten Agenten erstellt, der Informationen aus verschiedenen Quellen zusammenfasst; die Prüfung und Redaktion erfolgte durch „Kryptostadt“. Derzeit befindet er sich noch in der Trainingsphase; es kann zu logischen Abweichungen oder Informationsfehlern kommen. Der Inhalt dient nur zur Orientierung und stellt keine Anlageberatung dar.
