Powell, Bessent warnen Banken vor Sicherheitsrisiken durch Anthropic's Mythos-AI: Bloomberg

Kurz gesagt

• US-Behörden warnten große Banken vor Cybersicherheitsrisiken im Zusammenhang mit dem Mythos-KI-Modell von Anthropic, wie Bloomberg berichtet.
• Das System kann Berichten zufolge Schwachstellen in Betriebssystemen und Browsern erkennen und ausnutzen.
• Anthropic hat während der Bewertung potenzieller Sicherheitsrisiken nur begrenzten Zugriff auf das Modell.

US-Finanzminister Scott Bessent und Fed-Vorsitzender Jerome Powell sollen diese Woche ein Treffen mit den CEOs von Wall-Street-Banken einberufen haben, um vor Cybersicherheitsrisiken im Zusammenhang mit einem neuen KI-Modell von Anthropic zu warnen. Laut einem Bericht von Bloomberg umfasste das Treffen Führungskräfte von Citigroup, Bank of America, Wells Fargo, Morgan Stanley und Goldman Sachs. Die Beamten erörterten das neue KI-Modell Mythos von Anthropic, das in letzter Zeit breite Besorgnis wegen seiner angeblich fortgeschrittenen Cybersicherheitsfähigkeiten ausgelöst hat. Die Beamten hatten das Treffen einberufen, um sicherzustellen, dass Banken die Risiken verstehen, die von Systemen ausgehen, die in der Lage sind, Software-Schwachstellen über Betriebssysteme und Webbrowser hinweg zu identifizieren und auszunutzen, und um Institutionen dazu zu ermutigen, die Abwehrkräfte gegen potenzielle KI-gestützte Cyberangriffe auf die Finanzinfrastruktur zu stärken.

Sicherheitsforscher haben gewarnt, dass Tools, die automatisch Schwachstellen entdecken können, sowohl die defensive Sicherheitsarbeit als auch böswilliges Hacking beschleunigen könnten, wenn sie missbraucht werden.  Das Mythos-Modell von Anthropic tauchte erstmals im März online auf, nachdem Entwurfsmaterialien zum System geleakt wurden und offenbarte, was das Unternehmen als bislang fähigstes KI-Modell bezeichnete. In Tests soll das System Tausende zuvor unbekannte Software-Schwachstellen gefunden haben, darunter Zero-Day-Schwachstellen in wichtigen Betriebssystemen und Webbrowsern. Anthropic-Forscher sagten in einem Bericht Anfang dieser Woche, dass die Schwachstellen-Entdeckungsfähigkeiten von Mythos Preview nicht absichtlich trainiert wurden, sondern stattdessen aus umfassenderen Verbesserungen im Coding, im Reasoning und in der Autonomie des Modells entstanden seien.

„Die gleichen Verbesserungen, die das Modell deutlich wirksamer beim Patchen von Schwachstellen machen, machen es auch deutlich wirksamer beim Ausnutzen dieser,“ schrieb das Unternehmen. Aufgrund dieser Fähigkeiten hat Anthropic den Zugriff auf eine kleine Gruppe von Cybersicherheitsorganisationen eingeschränkt. „Angesichts der Stärke seiner Fähigkeiten gehen wir bewusst damit um, wie wir es veröffentlichen“, sagte Anthropic in einer Stellungnahme. „Wie es in der Branche gängige Praxis ist, arbeiten wir mit einer kleinen Gruppe früher Zugangskunden, um das Modell zu testen. Wir betrachten dieses Modell als einen Sprung nach vorn und das fähigste, das wir bis heute gebaut haben.“ Um dieses Risiko anzugehen, testet Anthropic Mythos über Project Glasswing, eine Zusammenarbeit mit großen Technologie- und Cybersicherheitsunternehmen, die das Modell nutzt, um Schwachstellen in kritischer Software zu identifizieren und zu patchen, bevor Angreifer sie ausnutzen können. „Project Glasswing ist ein Ausgangspunkt. Keine einzelne Organisation kann diese Cybersicherheitsprobleme allein lösen“, sagte das Unternehmen in einer Stellungnahme. „Entwickler von Frontier AI, andere Softwareunternehmen, Sicherheitsforscher, Open-Source-Pflegende und Regierungen auf der ganzen Welt haben alle wichtige Rollen zu spielen.“ Anthropic reagierte nicht umgehend auf die Anfrage von Decrypt nach einem Kommentar.