Anthropic fordert globale Pause bei der Entwicklung von Frontier-KI, 5. Juni

Laut dem am Donnerstag veröffentlichten Blogbeitrag von Anthropic hat das KI-Forschungsunternehmen zu einer globalen Pause bei der Entwicklung von „Frontier AI“ am 5. Juni aufgerufen und dabei Risiken durch rekursive Selbstverbesserung in KI-Systemen angeführt. Anthropic legte interne Daten offen, aus denen hervorgeht, dass seine fortschrittlichsten Modelle schnelle Performance-Gewinne erzielen, und warnte, dass KI-Systeme schon bald eine autonome Optimierung ohne menschliches Eingreifen erreichen könnten – was erhebliche gesellschaftliche Risiken mit sich bringe.

Das Unternehmen schlug vor, eine globale Vereinbarung einzurichten, um die Entwicklung der KI-Forschung zu verlangsamen, und Verifizierungsmechanismen zu schaffen, die sicherstellen sollen, dass Wettbewerber sich daran halten. Anthropic erklärte: „Wenn die Welt entscheiden kann, die Entwicklung von Frontier AI zu verlangsamen oder vorübergehend zu stoppen, damit Gesellschaft und Forschung mit dem technologischen Fortschritt Schritt halten können, wäre das von Vorteil.“