Der US-Finanzminister und der Vorsitzende der Federal Reserve haben die Führungskräfte von Wall Street in einem Notfall persönlich einberufen, um vor dem neuesten Modell Mythos von Anthropic zu warnen. Das Modell wurde von den Behörden als systemisches Risiko für das Finanzsystem eingestuft.
Finanzchefs rufen Wall-Street-Führungskräfte in Eil ein – KI-Netzwerkbedrohungen werden zu einem systemischen Risiko
Laut einem Bericht von Bloomberg haben US-Finanzminister Scott Bessent und der Vorsitzende der Federal Reserve Jerome Powell letzte Woche in Washington in den Räumlichkeiten des US-Finanzministeriums in einem Notfall die CEOs wichtiger Banken in Wall Street einberufen, um vor möglichen Cybersicherheitsrisiken zu warnen, die durch das neueste Modell von KI-Unternehmen Anthropic „Claude Mythos Preview“ ausgelöst werden könnten.
Zu den anwesenden Bankvorständen gehörten der CEO der Citigroup, Jane Fraser, der CEO von Morgan Stanley, Ted Pick, der CEO der Bank of America, Brian Moynihan, der CEO der Wells Fargo, Charlie Scharf, sowie der CEO von Goldman Sachs, David Solomon; der CEO von JPMorgan, Jamie Dimon, konnte nicht teilnehmen. Alle genannten Institutionen wurden von den zuständigen Aufsichtsbehörden als systemisch wichtige Finanzinstitute eingestuft.
Diese Sitzung wurde sowohl vom Finanzminister als auch vom Vorsitzenden der Federal Reserve persönlich besucht und gilt in der Branche als außergewöhnliche Maßnahme. Während frühere staatliche Eingriffe in KI-Risiken meist auf Arbeitsgruppen auf institutioneller Ebene beschränkt blieben, hat sich die Maßnahme nun direkt zu einer persönlichen Warnung der obersten Finanzaufsichtsführung erhoben. Damit wird unmissverständlich signalisiert, dass die Behörden KI-Netzwerkbedrohungen als systemisches Risiko für die Stabilität des Finanzsystems eingestuft haben.
Mythos-Modellfähigkeiten sind beeindruckend – kann selbstständig massenhaft Zero-Day-Schwachstellen erkennen
Laut den technischen Unterlagen, die Anthropic am selben Tag veröffentlichte, besitzt Mythos die Fähigkeit, Schwachstellen in allen gängigen Betriebssystemen und Webbrowsern zu identifizieren und auszunutzen. In der Testphase hat das Modell selbstständig Tausende zuvor unbekannter Zero-Day-Schwachstellen (zero-day vulnerabilities) gefunden, darunter eine Schwachstelle, die seit 27 Jahren in dem sicherheitsorientierten Open-Source-Betriebssystem OpenBSD schlummerte; außerdem hat das Modell auch eine Schwachstelle in der Videobearbeitungsbibliothek FFmpeg entdeckt, die selbst nach 5.000.000 Durchläufen eines automatisierten Testtools nicht erkannt werden konnte.
Anthropic-Forschende betonen, dass die Fähigkeit zur Entdeckung von Schwachstellen bei Mythos aus den umfassenden Fortschritten des Modells in Programmierung, Schlussfolgern und Autonomie resultiert und nicht das Ergebnis einer gezielten, absichtlichen Schulung ist.
Das Unternehmen erklärte in einer Stellungnahme: „Die gleiche Fähigkeit, die Modelle dabei wirksamer macht, Schwachstellen zu beheben, macht sie auch dabei wirksamer, Schwachstellen auszunutzen.“ Diese Aussage macht die Zweischneidigkeit von Mythos deutlich: Die Grenze zwischen Verteidigung und Angriff verschwindet vor solchen Modellen nahezu.
Anthropic weigert sich, Mythos öffentlich zu veröffentlichen, und begrenzt den Zugriff mit dem „Glasswing“-Plan
Gerade weil die Fähigkeiten zu stark sind, hat Anthropic beschlossen, Mythos nicht öffentlich zu veröffentlichen, sondern eine Strategie zur Einschränkung des Zugriffs zu verfolgen und es nur für ausgewählte Partnerunternehmen zugänglich zu machen. Das Unternehmen kündigte zudem an, das defensive Cybersecurity-Kooperationsprogramm „Project Glasswing“ zu starten, und zwar in Zusammenarbeit mit über 40 Unternehmenspartnern wie AWS, Apple, Cisco, Google, JPMorgan, Microsoft und Nvidia. Ziel ist es, entscheidende Schwachstellen in kritischer Software proaktiv zu finden und zu beheben, bevor ein Angreifer überhaupt zuschlägt.
Bildquelle: X/@AnthropicAI Anthropic kündigt außerdem den Start des defensiven Cybersecurity-Kooperationsprogramms „Project Glasswing“ an
Anthropic sagt: „Angesichts der außerordentlichen Leistungsfähigkeit des Modells nehmen wir bei der Veröffentlichung einen vorsichtigen Ansatz. Wir arbeiten derzeit mit einer kleinen Gruppe von Early-Access-Kunden zusammen, um das Modell zu testen, und wir sind der Ansicht, dass dies die bisher bahnbrechendste Generation ist, die wir gebaut haben.“
Das Unternehmen gab außerdem bekannt, dass es Beamte der Regierung über mögliche Angriffs- und Verteidigungsanwendungsfälle von Mythos briefte und weiterhin Gespräche mit der US-Behörde für Cybersicherheit und Cybersicherheits-Infrastruktur-Sicherheit (CISA) sowie dem AI Standards Innovation Center führt. Das Augenmerk, das die Öffentlichkeit in der Folge richtet, konzentriert sich darauf, wie Aufsichtsbehörden die Veröffentlichungs- und Prüfstandards für ähnliche Modelle festlegen werden, welche konkreten Abwehrmaßnahmen Finanzinstitute ergreifen sollten und ob die Koordination zwischen internationalen Aufsichtsbehörden mit dem Tempo der technologischen Entwicklung Schritt halten kann.
Dieser Beitrag wurde von einem verschlüsselten Agent zusammengestellt, wobei Informationen aus verschiedenen Quellen generiert wurden; die Redaktion und das Lektorat von „Kryptostadt“ haben ihn geprüft und editiert. Er befindet sich derzeit noch in der Trainingsphase und kann daher logische Abweichungen oder Informationsfehler enthalten; der Inhalt dient ausschließlich zu Referenzzwecken und stellt keine Investitionsberatung dar.
