Anthropic-CEO Dario Amodei veröffentlichte am 10. Juni einen Grundsatzbeitrag, in dem er einen verpflichtenden Praxistest durch Dritte für Frontier-KI-Modelle fordert, verbunden mit staatlicher Befugnis, Systeme zu blockieren, die Sicherheitsprüfungen nicht bestehen. Der Essay mit dem Titel „Policy on the AI Exponential“ kam einen Tag, nachdem Anthropic Claude Fable 5 veröffentlicht hatte, und wurde zusammen mit einem Gesetzesvorschlag für Modelltests sowie einem Rahmenwerk zur Verdrängung von Arbeitsplätzen eingereicht. Amodei erklärte, dass Transparenz allein den Risiken, die durch rasch voranschreitende KI-Technologie entstehen, inzwischen nicht mehr gerecht werde. Anthropic habe 2025 Gesetze unterstützt, die auf Offenlegung basieren, darunter SB 53 in Kalifornien, den RAISE Act in New York und Illinois' SB 315, doch Amodei schlage nun ein System vor, das sich am Federal Aviation Administration (FAA) orientiert: Modelle oberhalb eines Rechenschwellenwerts sollen verpflichtenden Audits in vier Bereichen unterzogen werden: Cybersicherheit, biologische Waffen, Verlust der Kontrolle und automatisierte KI-Forschung.
Amodei schlägt verpflichtende KI-Audits durch Dritte vor
Amodeis Vorschlag sieht vor, dass Frontier-KI-Modelle oberhalb eines Rechenschwellenwerts verpflichtende Audits durch Dritte in vier Bereichen bestehen müssen: Cybersicherheit, biologische Waffen, Verlust der Kontrolle und automatisierte KI-Forschung. „Frontier-KI-Modelle, wie Flugzeuge, sollten verpflichtet sein, technische Tests und Audits durchlaufen zu lassen, und ihre Freigabe sollte blockiert oder rückgängig gemacht werden, wenn sie nicht hohe Standards der Sicherheit erfüllen – als Bedrohung für die öffentliche Sicherheit“, schrieb Amodei in dem Essay. Der Plan geht über die Executive Order des Weißen Hauses zur KI vom Juni hinaus, die Amodei als schrittweisen Fortschritt begrüßte. Der Vorschlag umfasst die Meldung von Prompt-Sicherheitsvorfällen sowie einen strengen Schutz der Modellgewichte.
Claude Mythos Preview löste 73% der Experten-Challenges in der Cybersicherheit
Amodei identifizierte Cybersicherheit als das erste Risiko, das sich vollständig materialisieren werde, und verwies dabei auf Claude Mythos Preview, das 73% der Experten-Level-Cyber-Challenges gelöst habe, die zuvor kein KI-System bewältigt hatte. Der Essay warnt, dass Frontier-Modelle den Finanzsektor und kritische Infrastrukturen destabilisieren könnten. Anthropic brachte am 9. Juni das Modell Claude Fable 5 auf den Markt – mit Schutzmaßnahmen, die risikoreiche Cyber- und Biologie-Anfragen blockieren. Amodei erklärte, dass solche freiwilligen Grenzen nicht als Ersatz für verbindliche Regeln in der gesamten Branche dienen können. Anthropics eigene Daten zeigen, dass KI bessere KI baut: Claude schreibe den Großteil des Codes in großen KI-Labors.
Anthropic schlägt Lohnversicherung und Fördergelder für Qualifizierung der Belegschaft vor
Der Essay schlägt Lohnversicherung, Anreize für Steuervergünstigungen zur Mitarbeiterbindung sowie Zuschüsse zur Qualifizierung der Arbeitskräfte vor, um wirtschaftliche Verdrängung abzufedern. Wenn sich Verdrängung als dauerhaft erweist, erklärte Amodei, dass ein bedingungsloses Grundeinkommen durch Unternehmens- oder Kapitalertragsteuern finanziert werden könnte. In Bezug auf zivile Freiheitsrechte fordert Amodei ein Verbot vollständig autonomer Waffen im Bereich der inländischen Strafverfolgung und drängt darauf, dass der Kongress die Daten-Broker-Lücke schließt, die den Kauf von Massenüberwachung ermöglicht. Geopolitisch fordert er eine Koalition von Demokratien, um Chips und Ausrüstung zur Halbleiterherstellung zu kontrollieren; als erste Schritte nennt er die ausstehenden US-Gesetzentwürfe MATCH und OVERWATCH zur Verschärfung und abgestimmten Ausfuhrkontrollen.
FAQ
Was hat Dario Amodei am 10. Juni vorgeschlagen?
Dario Amodei veröffentlichte am 10. Juni einen Essay mit dem Titel „Policy on the AI Exponential“, in dem er einen verpflichtenden Praxistest durch Dritte für Frontier-KI-Modelle vorschlägt – mit staatlicher Befugnis, Systeme zu blockieren, die Sicherheitsprüfungen in vier Bereichen nicht bestehen: Cybersicherheit, biologische Waffen, Verlust der Kontrolle und automatisierte KI-Forschung.
Warum hat Amodei Cybersicherheit als erstes Risiko genannt, das sich vollständig materialisieren werde?
Amodei verwies auf Claude Mythos Preview, das 73% der Experten-Level-Cyber-Challenges gelöst habe, die zuvor kein KI-System bewältigt hatte, und warnte, dass Frontier-Modelle den Finanzsektor und kritische Infrastrukturen destabilisieren könnten.
Welche wirtschaftlichen Maßnahmen schlug Anthropic im Essay vor?
Anthropic schlug Lohnversicherung, Anreize für Steuervergünstigungen zur Mitarbeiterbindung sowie Zuschüsse zur Qualifizierung der Arbeitskräfte vor, um Verdrängung von Arbeitsplätzen abzufedern; ein bedingungsloses Grundeinkommen solle – falls die Verdrängung dauerhaft ist – durch Unternehmens- oder Kapitalertragsteuern finanziert werden.
