Anthropic-Mythos-Modell treibt föderale Einführung voran, während Sicherheitsbedenken im Cybersecurity-Bereich zunehmen

Die US-Regierung bereitet sich darauf vor, Bundesbehörden den Zugang zum Mythos-Modell von Anthropic zu gewähren, so Bloomberg-Berichte am Donnerstag. Gregory Barbaccia, Bundeschef für Informationswesen im Office of Management and Budget des Weißen Hauses, schickte am Dienstag eine E-Mail an die Beamten der Kabinettsressorts und erklärte, dass das OMB Schutzmaßnahmen einrichte, um die Nutzung des Modells durch Behörden zu ermöglichen. Das Mythos-Modell ist auf ausgewählte Gruppen beschränkt und für defensive Cyber-Arbeiten gedacht, nicht für den breiten kommerziellen Einsatz.

Weiße-Haus-Schutzmaßnahmen für den Mythos-Zugang

In der OMB-E-Mail mit der Betreffzeile „Mythos Model Access“ schrieb Barbaccia: „Wir arbeiten eng mit Modellanbietern, anderen Branchenpartnern und der Intelligence Community zusammen, um sicherzustellen, dass die entsprechenden Leitplanken und Schutzmaßnahmen vorhanden sind, bevor möglicherweise eine modifizierte Version des Modells an Behörden freigegeben wird.“

Der Rollout-Plan kommt, während Beamte Bedenken hinsichtlich der Cybersicherheitsrisiken äußern, falls das Tool nicht streng kontrolliert wird. Anthropic hat erklärt, dass die Fähigkeiten von Mythos sich möglicherweise schnell ausbreiten und nicht in sicheren Händen bleiben werden, und warnte, dass „die Folgen für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit erheblich sein könnten“, wenn sich solche Fähigkeiten über Akteure hinaus verbreiten, die sich einer sicheren Bereitstellung verschrieben haben.

Internationale regulatorische Bedenken

Der föderale Rollout-Plan fällt mit einem verstärkten internationalen Fokus auf KI-Cybersicherheitsrisiken zusammen. Finanzminister, Zentralbanker und Aufsichtsbehörden kamen in Washington zu den Frühlings-Tagungen von IWF und Weltbank zusammen, bei denen hochrangige Finanzbeamte davor warnten, dass fortgeschrittene KI aus US-Technologieunternehmen Schwachstellen in den Cyber-Abwehrsystemen von Kreditgebern offenlegen und den breiteren Bankensektor unter Druck setzen könnte.

Andrew Bailey, Gouverneur der Bank of England und Vorsitzender des Financial Stability Board, sagte: „Das ist für uns alle eine sehr ernste Herausforderung. Es erinnert uns daran, wie schnell sich die KI-Welt bewegt.“ Bailey sagte, Aufsichtsbehörden weltweit müssten das Cyberrisiko, das die Anthropic-„Claude Mythos Preview“ für das Finanzsystem darstellen könnte, schnell bewerten.

Dan Katz, stellvertretender Leiter des IWF, sagte: „Die Entwicklung digitaler Technologie birgt aus Sicht der Cybersicherheit immense Risiken. Das wird wirklich in der internationalen Agenda der nächsten Monate absolut wesentlich sein.“

Christine Lagarde, Präsidentin der Europäischen Zentralbank, hob die Sorge um den Dual-Use hervor: „Die Entwicklung, die wir bei Anthropic und Mythos gesehen haben, ist ein gutes Beispiel für ein verantwortungsbewusstes Unternehmen, das plötzlich denkt: ‚Ah, das könnte wirklich gut sein‘ – aber wenn es in die falschen Hände gerät, könnte es wirklich schlimm werden.“ Lagarde sagte gegenüber Reportern, Beamte wollten einen Rahmen für die Governance, aber derzeit sei kein formales System vorhanden: „Jeder ist daran interessiert, einen Rahmen zu haben, innerhalb dessen man operieren kann. Ich glaube nicht, dass es einen Governance-Rahmen gibt, der tatsächlich dafür gedacht ist, solche Dinge im Blick zu behalten. Wir müssen daran arbeiten.“

Erkenntnisse zu Schwachstellen und Schutzmaßnahmen von Anthropic

Anthropic gab Anfang dieses Monats bekannt, dass Mythos „tausende hochgradig schwerwiegende Schwachstellen“ gefunden habe, „darunter einige in jedem wichtigen Betriebssystem und in jedem wichtigen Webbrowser“. Das Unternehmen warnte, dass Fähigkeiten wie diese sich schnell ausbreiten und nicht in sicheren Händen bleiben könnten, und erklärte: „Es wird nicht lange dauern, bis sich solche Fähigkeiten verbreiten – möglicherweise über Akteure hinaus, die sich verpflichtet haben, sie sicher einzusetzen.“

Pip White, Leiter von Anthropic für das Vereinigte Königreich, Irland und Nordeuropa, sagte, dass das Interesse von Führungskräften nach den Nachrichten über das Modell schnell zugenommen habe. In einem Interview sagte White: „Wir bringen unsere eigenen Schutzmaßnahmen und unsere eigenen Einschränkungen um dieses Produkt herum, weil wir wissen, wie mächtig es sein kann.“

Opus 4.7 Veröffentlichung

Am Donnerstag veröffentlichte Anthropic Opus 4.7, ein neues Modell, das für Aufgaben im Software Engineering entwickelt wurde. Laut dem Unternehmen kann Opus 4.7 Codierarbeiten bewältigen, die zuvor eine engere Beaufsichtigung erforderten, befolgt Anweisungen besser als ältere Modelle und kann höher aufgelöste Bilder untersuchen, um Details in dichten Diagrammen und komplexen Bildern zu identifizieren.

Anthropic stellte fest, dass Opus 4.7 weniger leistungsfähig ist als Mythos, einschließlich bei Cyber-Anwendungsfällen. Während des Trainings testete das Unternehmen Methoden, um die Cyber-Fähigkeit des Modells „differenziell zu reduzieren“.