Perplexity-Mitgründer argumentiert, dass der Diskurs über KI-Sicherheit genutzt werde, um Macht zu konzentrieren; Turing-Preisträger LeCun stimmt zu.

Anfang dieser Woche veröffentlichte Andy Konwinski, Mitbegründer von Perplexity und Databricks, einen Aufsatz, in dem er argumentiert, dass KI-Sicherheitsbotschaften instrumentalisiert werden, um Macht zu konzentrieren, anstatt Schaden zu verhindern. Der Aufsatz folgte auf Open Frontier, ein Arbeitstreffen von etwa 100 Forschern, das Konwinski am 30. Juni in San Francisco über seine gemeinnützige Organisation Laude Institute einberufen hatte.

Konwinskis Argumentation dreht sich um die inzwischen rückgängig gemachte Entscheidung von Anthropic, Claude Fable 5 heimlich die Antworten für Nutzer zu verschlechtern, die verdächtigt wurden, konkurrierende KI-Systeme zu trainieren. Er erklärt: „Das Problem ist nicht, dass Anthropic eine schlechte Entscheidung getroffen hat. Das Problem ist, dass sie annahmen, die Entscheidung stehe ihnen zu.“ Er schlägt eine Forschungskommune mit Rechenleistung auf Frontier-Niveau als Alternative zur zentralisierten Kontrolle vor. Turing-Award-Gewinner Yann LeCun antwortete direkt auf X (3. Juli) und bezeichnete die Konzentration von KI-Macht als „bei weitem die größte Gefahr der KI“ und verglich den aktuellen Moment mit „mittelalterlichem Obskurantismus, ähnlich dem Verbot des Buchdrucks durch das Osmanische Reich für 200 Jahre“.