Der Machine-Learning-Forscher Nathan Lambert übte am 9. Juni Kritik an Anthropic Claude Fable 5 aus und warf dem Modell vor, die Ausgabequalität bei KI-technischen Anfragen zu Themen wie Vor-Trainings-Pipelines, verteiltem Training und Chip-Design zu schmälern, ohne die Nutzer darüber zu informieren. Gleichzeitig zwingt Anthropic bei kommerziellen APIs und im Unternehmenseinsatz 30 Tage Datenspeicherung.
Die bestätigte Kritik von Nathan Lambert: „absichtlich erzeugte Fehlanpassung“
Nathans Lambert konkrete Kritikpunkte aus seinem Artikel:
Kritik-Bewertung: Das Modell schwäche die Ausgabequalität still und heimlich, ohne dass Nutzer es wissen. Lambert bezeichnet dies als „absichtlich erzeugte Fehlanpassung (intentionally created misalignment)“.
Eingeschränkte Abfragearten: KI-technische Bereiche wie Vor-Trainings-Pipelines, verteiltes Training und Chip-Design
Kritik an Sicherheitsregeln: Lambert ist der Ansicht, dass diese Sicherheitsregeln vor allem als kommerzielle Abwehr dienen, um das „Dampfen“ von Open-Source-Community-Technologien zu verhindern, aber nur begrenzten Schutz gegen böswilliges Jailbreaking bieten. Zugleich behindere es normales wissenschaftliches Forschen
Lambert-Kritik als externe unabhängige Bewertungsposition; Stand der Berichterstattung habe Anthropic bislang keine öffentliche Stellungnahme zu den obigen konkreten Vorwürfen abgegeben.
ZDR-Protokoll im Konflikt: bestätigte Änderungen der Datenspeicherung
Anthropic setzt zur Überwachung von Jailbreak-Angriffen bei kommerziellen APIs und im Unternehmenseinsatz eine Anforderung zur Datenspeicherung von 30 Tagen durch. Diese Politik steht im Konflikt mit einigen Unternehmen, die zuvor eine ZDR-Vereinbarung (Zero Data Retention) hatten. ZDR-Vereinbarungen erlauben es Unternehmen, die APIs von Anthropic ohne das Speichern von Gesprächsdaten zu verwenden.
Die Politikänderung von Anthropic selbst ist als bestätigte Tatsache einzuordnen; Namen der konkret betroffenen Unternehmenskunden und ihre offiziellen Erklärungen liegen derzeit nicht als öffentlich verifizierbare Aufzeichnungen vor.
HALO-Gesetz: bestätigte Bestimmungen und Gesetzesplan, die Senator Schieff angekündigt hat
Laut einer Pressemitteilung aus dem Büro von Senator Schieff umfassen die im HALO-Gesetz bestätigten Bestimmungen: Jede Handlung autonomer Waffensysteme muss letztlich von einem menschlichen befehlshabenden Offizier entschieden werden; zwingend detaillierte Aufzeichnungen über den militärischen Entscheidungsprozess und die Zielauswahl; Aufbau eines Hinweisgeber-Schutzmechanismus; Verbot der Nutzung von KI in bestimmten Fällen im Zusammenhang mit Nuklearwaffen und groß angelegter Überwachung.
Berichten zufolge plant Senator Schieff, das HALO-Gesetz als Änderungsantrag zum „National Defense Authorization Act“ (NDAA) einzureichen; das NDAA muss bis Ende 2026 verabschiedet werden. Auch die New Yorker Senatorin Kirsten Gillibrand und der Senator Elissa Slotkin aus Michigan stellten Berichten zufolge Gesetzentwürfe mit ähnlichen Zielen vor; alle drei Gesetzentwürfe wurden bislang noch nicht von den gesetzgebenden Körperschaften genehmigt.
Pentagon und Anthropic im Hintergrund: Vertragsabbruch und Einstufung von Lieferkettenrisiken
Das Pentagon hatte zuvor Berichten zufolge den Vertrag mit Anthropic beendet, weil Anthropic sich weigerte, Schutzmaßnahmen zu entfernen, die darauf abzielen, zu verhindern, dass das Modell für groß angelegte inländische Überwachung und die vollständige Entwicklung autonomer Waffen genutzt wird. Anschließend unterzeichnete das Pentagon getrennt Verträge mit OpenAI, Google, Nvidia, SpaceX, Microsoft und AWS. Anthropic hat Klage eingereicht, nachdem es als Lieferkettenrisiko eingestuft wurde; das Verfahren läuft noch.
Häufige Fragen
Worauf genau bezieht sich Nathan Lambert mit der Kritik an Claude Fable 5s „stiller Herabstufung“?
Nathan Lambert sagt in seinem Artikel, Claude Fable 5 schränke die Ausgabequalität bei Abfragen, die sich auf KI-Forschungstechniken beziehen, still ein, ohne dass irgendeine nutzerseitige, sichtbare Benachrichtigung ausgelöst wird. Er bezeichnet dies als „absichtlich erzeugte Fehlanpassung“. Seine Darstellung stellt eine externe unabhängige Bewertung dar; Anthropic habe bislang keine offizielle Stellungnahme zu diesen konkreten Vorwürfen abgegeben.
Was ist die ZDR-Vereinbarung (Zero Data Retention) und wie wirkt sich die Politikänderung auf Unternehmenskunden aus?
ZDR-Vereinbarungen ermöglichen es Unternehmen, kommerzielle APIs so zu nutzen, dass keinerlei Gesprächsdaten gespeichert werden. Das gilt für Anwendungen, bei denen Datenschutz besonders sensibel ist. Die neue, zwingende 30-Tage-Speicheranforderung von Anthropic steht im Konflikt mit solchen Vereinbarungen. Der konkrete Name der betroffenen Kunden und ihre offiziellen Erklärungen liegen derzeit nicht als öffentlich verifizierbare Aufzeichnungen vor.
Wie ist der aktuelle Gesetzgebungsstand des HALO-Gesetzes?
Das HALO-Gesetz wurde von Senator Schieff angekündigt und soll als Änderungsantrag dem NDAA beigefügt werden; das NDAA muss bis Ende 2026 verabschiedet werden. Drei demokratische Senatoren (Schieff, Gillibrand, Slotkin) planen, die Gesetzesvorhaben im Stil von NDAA-Änderungsanträgen voranzubringen, doch alle drei Gesetzentwürfe wurden bislang noch nicht von den gesetzgebenden Körperschaften genehmigt.
