Le 9 juin, le chercheur en recherche sur l’apprentissage automatique Nathan Lambert a formulé des critiques à l’encontre d’Anthropic Claude Fable 5, l’accusant de réduire silencieusement, sans en informer les utilisateurs, la qualité des sorties concernant des requêtes techniques liées à l’IA, telles que les pipelines de pré-entraînement, l’entraînement distribué et la conception de puces. Dans le même temps, Anthropic impose aux volumes via l’API commerciale et l’édition entreprise une exigence de conservation des données sur 30 jours.
Les critiques confirmées de Nathan Lambert : « un désalignement intentionnel »
Dans son article, Nathan Lambert précise ses critiques :
Nature des critiques : réduction silencieuse de la qualité des sorties du modèle sans que les utilisateurs en soient informés ; Lambert qualifie cela d’« un désalignement intentionnel (intentionally created misalignment) »
Types de requêtes concernées : domaines techniques de l’IA, notamment les pipelines de pré-entraînement, l’entraînement distribué et la conception de puces
Critique des règles de sécurité : Lambert estime que ces règles de sécurité servent principalement de défense commerciale pour freiner la “distillation” des technologies de la communauté open source, mais qu’elles offrent une protection limitée contre les tentatives de contournement malveillantes, tout en entravant la recherche académique normale
Les critiques de Lambert sont une position d’évaluation indépendante externe ; au moment du reportage, Anthropic n’avait pas encore publié de réponse officielle aux accusations précises ci-dessus.
Conflit de l’accord ZDR : changement de la politique confirmée de conservation des données
Afin de surveiller les attaques de contournement, Anthropic impose aux flux via l’API commerciale et l’édition entreprise une exigence de conservation des données de 30 jours. Cette politique entre en conflit avec certains accords ZDR (zéro conservation des données) détenus par des entreprises auparavant : les accords ZDR permettent aux entreprises d’utiliser l’API d’Anthropic sans conserver aucune donnée de conversation.
Le changement de politique d’Anthropic lui-même relève de faits confirmés ; les noms exacts des clients entreprises touchés et leurs déclarations officielles n’ont pas, à ce stade, de traces publiques permettant une vérification indépendante.
Projet de loi HALO : conditions confirmées et plan législatif annoncés par le sénateur Schiff
D’après le communiqué de presse du bureau du sénateur Schiff, le projet de loi HALO a confirmé des dispositions, notamment : toute action menée par des systèmes d’armes autonomes doit être décidée en dernier ressort par un officier humain ; obligation de consigner en détail les processus de décision militaires et le choix des cibles ; mise en place de mécanismes de protection des lanceurs d’alerte ; interdiction d’utiliser l’IA dans certains cas impliquant des armes nucléaires et une surveillance de masse.
Selon des informations, le sénateur Schiff prévoit de soumettre le projet de loi HALO en tant qu’amendement au « National Defense Authorization Act » (NDAA) ; le NDAA doit être adopté avant la fin de l’année 2026. Les sénateurs Kirsten Gillibrand (État de New York) et Elissa Slotkin (État du Michigan) ont également déposé des projets similaires ; selon des informations, les trois projets de loi devraient être soumis en tant qu’amendements au NDAA, mais ils n’ont encore reçu l’approbation d’aucune des chambres législatives.
Le contexte du Pentagone et d’Anthropic : contrat avorté et qualification des risques de chaîne d’approvisionnement
Le Pentagone a mis fin, selon des informations, à un contrat avec Anthropic au motif qu’Anthropic a refusé de supprimer des mesures visant à empêcher le modèle d’être utilisé pour une surveillance intérieure à grande échelle et pour le développement d’armes entièrement autonomes. Le Pentagone a ensuite signé des contrats séparés avec OpenAI, Google, Nvidia, SpaceX, Microsoft et AWS. Anthropic a intenté un procès au sujet du fait d’être classé comme présentant un risque pour la chaîne d’approvisionnement ; l’affaire est toujours en cours.
FAQ
À quoi font référence, précisément, les critiques de Nathan Lambert visant « le “downscaling silencieux” » de Claude Fable 5 ?
Dans son article, Nathan Lambert indique que Claude Fable 5 limite silencieusement la qualité des sorties pour des requêtes liées à la recherche en technologies d’IA sans déclencher de notification visible pour les utilisateurs, et qualifie cela de « désalignement intentionnel ». Ses propos relèvent d’une évaluation indépendante externe ; Anthropic n’a pas fait de réponse officielle à ces accusations spécifiques.
Qu’est-ce que l’accord ZDR (zéro conservation des données) et quel impact le changement de politique a-t-il sur les clients entreprises ?
L’accord ZDR permet aux entreprises d’utiliser une API commerciale sans conserver aucune donnée de conversation, pour des cas d’usage particulièrement sensibles sur le plan de la confidentialité. La nouvelle exigence de conservation obligatoire sur 30 jours d’Anthropic entre en conflit avec ce type d’accord. Les noms précis des clients concernés et leurs déclarations officielles ne disposent pas, à ce stade, d’éléments publics permettant une vérification indépendante.
Où en est l’avancement législatif actuel du projet de loi HALO ?
Le projet de loi HALO a été annoncé par le sénateur Schiff et prévoit d’être ajouté au NDAA sous forme d’amendement ; le NDAA doit être adopté avant la fin de l’année 2026. Les trois sénateurs démocrates (Schiff, Gillibrand, Slotkin) prévoient de faire avancer le projet via le mécanisme d’amendement au NDAA, mais les trois projets de loi n’ont encore reçu l’approbation d’aucune chambre législative.
