Anthropic behauptete in einem Schreiben vom 10. Juni an die Führung des Senate Banking Committee, dass mit Alibaba verbundene Betreiber die größte bekannte KI-Modell-Destillationskampagne gegen seinen Claude-Chatbot durchgeführt hätten. Das Unternehmen gab an, dass mit Alibaba und seinem Qwen-KI-Labor verbundene Betreiber zwischen dem 22. April und dem 5. Juni über fast 25.000 betrügerische Konten mehr als 28,8 Millionen Interaktionen mit Claude generiert hätten. Anthropic stufte die Destillationsbemühungen als nationales Sicherheitsproblem ein, das die militärischen und cybertechnischen KI-Fähigkeiten Chinas beschleunigen könnte. Das Schreiben kommt, während Washington seine Bemühungen zum Schutz der US-amerikanischen KI-Führungsrolle durch ausgeweitete Cybersicherheitsinitiativen und Exportkontrollen verstärkt.
Anthropic wirft Destillationskampagne mit 28,8 Millionen Claude-Interaktionen vor
In dem Schreiben vom 10. Juni an den Vorsitzenden des Senate Banking, Housing, and Urban Affairs Committee, Tim Scott, und die ranghöchste Demokratin Elizabeth Warren behauptete Anthropic, dass die betrügerischen Konten keine echten, organischen Nutzer repräsentierten. Das Unternehmen erklärte, die Operationen hätten auf Claudes agentisches Denken, Softwareentwicklung und Planungsfähigkeiten über lange Zeiträume abgezielt und es Konkurrenten ermöglicht, fortgeschrittenes Modellverhalten ohne die Kosten für das Training eines Grenz-KI-Systems zu reproduzieren.
„Über ihr Ausmaß hinaus war diese Kampagne durch ihre dreiste Natur auffallend“, schrieb Anthropic. „Alibaba ist an der New Yorker Börse notiert, unterhält Geschäfte in den Vereinigten Staaten und ist gegenüber US-Investoren und Aufsichtsbehörden rechenschaftspflichtig.“
Anthropic erklärte, die Kampagne gehe über Fragen des geistigen Eigentums hinaus und stufte groß angelegte Modelldestillation als nationales Sicherheitsproblem ein. „Wenn Labore der Volksrepublik China diese Fähigkeiten aus US-Modellen destillieren, eignen sie sich die Renditen amerikanischer Investitionen an, ohne die Kosten oder Risiken zu tragen, die mit dem Training von Grenz-KI-Modellen verbunden sind“, schrieb Anthropic. „Dies kehrt die wirtschaftliche Logik um, die die amerikanische KI-Führungsrolle untermauert, und verwandelt Milliarden US-Dollar an Forschungs- und Entwicklungs-, Rechen- und anderen US-Investitionen in eine Subvention für unsere Konkurrenten.“
Das Schreiben baut auf Anthropics Behauptungen vom Februar auf, wonach die chinesischen KI-Entwickler DeepSeek, Moonshot AI und MiniMax mit rund 24.000 betrügerischen Konten mehr als 16 Millionen Claude-Interaktionen generiert hätten.
Anthropic drängt Kongress zu Ausweitung von Exportkontrollen und Nachrichtenaustausch
Anthropic forderte die Gesetzgeber auf, den Nachrichtenaustausch zwischen Grenz-KI-Entwicklern und der US-Regierung auszuweiten, Kartellregeln zu klären, damit KI-Unternehmen Informationen über Destillationsangriffe teilen können, Exportkontrollen für fortschrittliche KI-Chips und Rechenleistung zu verschärfen, Schlupflöcher zu schließen, die chinesischen Firmen den Zugang zu Übersee-Rechenzentren ermöglichen, und Strafen gegen Unternehmen zu verhängen, die für die groß angelegte Modellextraktion verantwortlich sind.
Ein Sprecher von Anthropic sagte gegenüber Decrypt: „Wir glauben, dass die Bekämpfung der Bedrohung durch illegale Destillation ein koordiniertes Vorgehen von Regierung und Industrie erfordert, und wir werden weiterhin mit dem Kongress und der Verwaltung zusammenarbeiten, um die amerikanische KI-Führungsrolle zu erhalten.“
Das Schreiben kommt, während die Gesetzgeber Gesetze erwägen, die den unbefugten Zugriff auf US-amerikanische Grenz-KI-Modelle bekämpfen sollen. Anfang dieses Monats unterzeichnete Präsident Donald Trump eine Executive Order zur Ausweitung von KI-gestützten Cybersicherheitsinitiativen, nachdem er die Maßnahme zuvor wegen Bedenken verschoben hatte, dass sie Amerikas Wettbewerbsposition gegenüber China schwächen könnte.
Branchenstreit über KI-Modell-Destillationspraktiken verschärft sich
Die Vorwürfe stießen bei Beobachtern auf Kritik, die argumentierten, dass KI-Unternehmen bei der Schulung ihrer eigenen Systeme auf ähnliche Techniken angewiesen seien. Anthropic entgegnete, dass konventionelle Destillation eine legitime Methode zur Herstellung kleinerer, günstigerer Modelle sei, während die unbefugte Extraktion von Grenzmodell-Fähigkeiten durch betrügerischen Zugriff gegen seine Nutzungsbedingungen verstoße.
Im April sagte Elon Musk vor einem Bundesgericht aus, dass xAI „teilweise“ OpenAI-Modelle beim Training von Grok verwendet habe, was unterstreicht, dass Destillation eine etablierte Branchenpraxis ist – selbst wenn Unternehmen darüber streiten, wo legitimes Modelltraining endet und unbefugte Modellextraktion beginnt.
FAQ
Was hat Anthropic in seinem Schreiben vom 10. Juni an den Kongress behauptet?
Anthropic behauptete, dass mit Alibaba verbundene Betreiber die größte bekannte KI-Modell-Destillationskampagne gegen seinen Claude-Chatbot durchgeführt hätten, wobei zwischen dem 22. April und dem 5. Juni über fast 25.000 betrügerische Konten mehr als 28,8 Millionen Interaktionen generiert wurden.
Warum betrachtet Anthropic KI-Modell-Destillation als nationales Sicherheitsproblem?
Anthropic stufte groß angelegte Modelldestillation als nationales Sicherheitsproblem ein, weil sie die militärischen und cybertechnischen KI-Fähigkeiten Chinas beschleunigen und gleichzeitig den technologischen Vorsprung der Vereinigten Staaten verringern könnte. Das Unternehmen erklärte, Destillation erlaube es Konkurrenten, sich Renditen amerikanischer Investitionen anzueignen, ohne die Kosten für das Training von Grenz-KI-Modellen zu tragen.
Welche politischen Änderungen empfiehlt Anthropic dem Kongress?
Anthropic forderte die Gesetzgeber auf, den Nachrichtenaustausch zwischen KI-Entwicklern und der US-Regierung auszuweiten, Kartellregeln zu klären, um den Informationsaustausch über Destillationsangriffe zu ermöglichen, Exportkontrollen für fortschrittliche KI-Chips zu verschärfen, Schlupflöcher zu schließen, die chinesischen Firmen den Zugang zu Übersee-Rechenzentren ermöglichen, und Strafen gegen Unternehmen zu verhängen, die für die groß angelegte Modellextraktion verantwortlich sind.
