Anthropic supprime un traceur caché dans Claude Code après des préoccupations de confidentialité.

Anthropic a supprimé un système de suivi caché de Claude Code après que le chercheur en sécurité Thereallo a découvert en juin que l'assistant de codage IA utilisait des marqueurs non divulgués pour identifier la localisation des utilisateurs, l'utilisation de proxy et les liens possibles avec des laboratoires d'IA chinois. La fonctionnalité intégrait des signaux dans les invites système pour signaler les utilisateurs qu'Anthropic soupçonnait de contourner les restrictions ou de tenter d'extraire les capacités du modèle. Cette découverte intervient alors qu'Anthropic pousse les législateurs à réprimer la copie non autorisée des modèles d'IA de pointe, après des accusations en février selon lesquelles des développeurs d'IA chinois auraient utilisé des comptes frauduleux pour extraire des millions de réponses de Claude.

Un chercheur expose des marqueurs Unicode et des listes de domaines encodées dans les invites système

Thereallo a découvert que Claude Code cachait des signaux de suivi dans les invites système à l'aide de marqueurs Unicode et de listes de domaines encodées, plutôt que de divulguer le système via la documentation ou les notes de version. Le chercheur a noté qu'Anthropic semblait tenter de détecter les revendeurs d'API, les passerelles Claude Code non autorisées et les pipelines d'attaques de distillation de modèles. Un ANTHROPIC_BASE_URL personnalisé pointant vers un domaine de revendeur connu servait de signal utile, tout comme un nom d'hôte contenant deepseek ou zhipu.

Thereallo a critiqué la méthode de mise en œuvre tout en reconnaissant la justification sécuritaire. « Ce n'est pas une fonctionnalité malveillante, mais c'est un choix étrange pour un outil de développement qui demande la confiance », a écrit Thereallo.

Un ingénieur d'Anthropic confirme l'implémentation en mars et la suppression prévue

Après que le traqueur a été révélé en ligne, l'ingénieur d'Anthropic Thariq Shihipar a déclaré sur X que la fonctionnalité avait été introduite en mars dans le cadre d'une expérience visant à stopper les abus de comptes par des revendeurs non autorisés et à protéger Claude des attaques de distillation. Shihipar a indiqué la semaine dernière que l'équipe avait mis en place des mesures d'atténuation plus fortes depuis mars. « Nous avons fusionné la [pull request] et cela devrait être complètement annulé dans la version de demain », a écrit Shihipar.

Alibaba interdit Claude Code en raison de préoccupations liées aux attaques de distillation

Plus tôt ce mois-ci, Alibaba a interdit à ses employés d'utiliser Claude Code, qualifiant l'outil de logiciel « à haut risque » en raison de préoccupations de sécurité. En février, Anthropic a accusé les développeurs d'IA chinois DeepSeek, Moonshot AI et MiniMax d'avoir utilisé des comptes frauduleux pour extraire des millions de réponses de Claude afin d'entraîner des modèles concurrents. Ces affirmations ont suscité des critiques de la part de détracteurs qui se sont demandé en quoi cette pratique diffère des méthodes utilisées dans l'ensemble de l'industrie de l'IA.

En avril, Elon Musk a témoigné que xAI avait « partiellement » utilisé les modèles d'OpenAI lors de l'entraînement de Grok, qualifiant la distillation de pratique industrielle plus large. En juin, le PDG d'Anthropic, Dario Amodei, a exhorté le Congrès à renforcer les protections contre l'extraction d'IA étrangère après avoir allégué que des opérateurs liés à Alibaba avaient généré 28,8 millions d'échanges Claude en utilisant près de 25 000 comptes frauduleux.

FAQ

Qu'est-ce qu'Anthropic a supprimé de Claude Code en juin ? Anthropic a supprimé un système de suivi caché de Claude Code après que le chercheur Thereallo a découvert en juin qu'il utilisait des marqueurs Unicode non divulgués et des listes de domaines encodées dans les invites système pour identifier la localisation des utilisateurs, l'utilisation de proxy et les liens possibles avec des laboratoires d'IA chinois.

Pourquoi Anthropic a-t-il implémenté la fonctionnalité de suivi dans Claude Code ? L'ingénieur d'Anthropic Thariq Shihipar a déclaré que la fonctionnalité avait été introduite en mars dans le cadre d'une expérience visant à stopper les abus de comptes par des revendeurs non autorisés et à protéger Claude des attaques de distillation, où les sorties d'un système d'IA sont utilisées pour entraîner un autre modèle.

Quelle action Alibaba a-t-elle prise concernant Claude Code ? Plus tôt ce mois-ci, Alibaba a interdit à ses employés d'utiliser Claude Code, désignant l'outil comme un logiciel « à haut risque » en raison de préoccupations de sécurité liées à la distillation de modèles d'IA et à l'extraction de données.