Anthropic-CEO Dario Amodei fordert verbindliche KI-Sicherheitsregeln, da der Fortschritt schneller voranschreitet als die Politik

Am 10. Juni veröffentlichte der CEO von Anthropic, Dario Amodei, einen Essay, in dem er warnte, dass sich die Entwicklung von KI viel schneller vollzieht, als politische Systeme darauf reagieren können, wodurch eine dringende Governance-Lücke entsteht. Er schlug einen Rahmen vor, der verpflichtende Tests durch Dritte für fortgeschrittene Modelle vor der Auslieferung vorsieht, mit Bewertungen für Cybersecurity-Risiken, biologische Fehlanwendungen und Szenarien des Kontrollverlusts. Regierungen sollten die Befugnis behalten, die Auslieferung zu verzögern oder zu blockieren, wenn die Risiken als inakzeptabel eingestuft werden.

Amodei hob außerdem Risiken für wirtschaftliche Verwerfungen hervor und stellte fest, dass leistungsfähige KI große Zahlen von Beschäftigten durch Substitution kognitiver Arbeit verdrängen könnte, was potenziell ein rasches Wachstum neben anhaltender Ungleichheit hervorbringt. Er forderte politische Maßnahmen, darunter Unterstützung für die Belegschaft, Lohnabsicherung und Umschulungsprogramme. Darüber hinaus betonte er, dass Demokratien bei KI-Lieferketten, Sicherheitsstandards und wirtschaftlicher Politik koordiniert vorgehen müssen, und verglich die geopolitische Bedeutung von KI mit der von Nuklearenergie.