Anthropic elimina el rastreador oculto de Claude Code tras preocupaciones por la privacidad

Anthropic eliminó un sistema de seguimiento oculto de Claude Code después de que el investigador Thereallo descubrió en junio que el asistente de codificación de IA usaba marcadores no revelados para identificar la ubicación de los usuarios, el uso de proxies y posibles vínculos con laboratorios chinos de IA. La función incrustaba señales en los prompts del sistema para marcar a usuarios que Anthropic creía que estaban eludiendo restricciones o intentando extraer capacidades del modelo. El descubrimiento se produce mientras Anthropic presiona a los legisladores para que repriman la copia no autorizada de modelos de IA de frontera, tras acusaciones en febrero de que desarrolladores chinos de IA usaron cuentas fraudulentas para extraer millones de respuestas de Claude.

Investigador expone marcadores Unicode y listas de dominios codificados en prompts del sistema

Thereallo descubrió que Claude Code ocultaba señales de seguimiento dentro de los prompts del sistema usando marcadores Unicode y listas de dominios codificados, en lugar de divulgar el sistema a través de documentación o notas de lanzamiento. El investigador señaló que Anthropic parecía estar intentando detectar revendedores de API, puertas de enlace no autorizadas de Claude Code y pipelines de ataques de destilación de modelos. Una URL personalizada ANTHROPIC_BASE_URL que apuntaba a un dominio de revendedor conocido servía como señal útil, al igual que un nombre de host que contuviera deepseek o zhipu.

Thereallo criticó el método de implementación, aunque reconoció la razón de seguridad. "Esto no es una función maliciosa, pero es una elección extraña para una herramienta de desarrollador que pide confianza", escribió Thereallo.

Ingeniero de Anthropic confirma implementación en marzo y eliminación planificada

Después de que el rastreador se revelara en línea, el ingeniero de Anthropic Thariq Shihipar dijo en X que la función se introdujo en marzo como un experimento para detener el abuso de cuentas por parte de revendedores no autorizados y proteger a Claude de ataques de destilación. Shihipar declaró la semana pasada que el equipo había implementado mitigaciones más sólidas desde marzo. "Fusionamos la [solicitud de extracción] y esto debería revertirse por completo en el lanzamiento de mañana", escribió Shihipar.

Alibaba prohíbe Claude Code en medio de preocupaciones por ataques de destilación

A principios de este mes, Alibaba prohibió a sus empleados usar Claude Code, calificando la herramienta como software de "alto riesgo" por preocupaciones de seguridad. En febrero, Anthropic acusó a los desarrolladores chinos de IA DeepSeek, Moonshot AI y MiniMax de usar cuentas fraudulentas para extraer millones de respuestas de Claude para entrenar modelos competidores. Las afirmaciones generaron críticas de quienes cuestionaron cómo la práctica difiere de los métodos utilizados en toda la industria de la IA.

En abril, Elon Musk testificó que xAI había "parcialmente" usado modelos de OpenAI mientras entrenaba Grok, calificando la destilación como una práctica más amplia de la industria. En junio, el CEO de Anthropic, Dario Amodei, instó al Congreso a fortalecer las protecciones contra la extracción extranjera de IA después de alegar que operadores vinculados a Alibaba generaron 28,8 millones de intercambios de Claude usando casi 25.000 cuentas fraudulentas.

FAQ

¿Qué eliminó Anthropic de Claude Code en junio? Anthropic eliminó un sistema de seguimiento oculto de Claude Code después de que el investigador Thereallo descubrió en junio que usaba marcadores Unicode no revelados y listas de dominios codificados en los prompts del sistema para identificar la ubicación de los usuarios, el uso de proxies y posibles vínculos con laboratorios chinos de IA.

¿Por qué implementó Anthropic la función de seguimiento en Claude Code? El ingeniero de Anthropic Thariq Shihipar declaró que la función se introdujo en marzo como un experimento para detener el abuso de cuentas por parte de revendedores no autorizados y proteger a Claude de ataques de destilación, donde las salidas de un sistema de IA se usan para entrenar otro modelo.

¿Qué acción tomó Alibaba con respecto a Claude Code? A principios de este mes, Alibaba prohibió a sus empleados usar Claude Code, designando la herramienta como software de "alto riesgo" por preocupaciones de seguridad relacionadas con la destilación de modelos de IA y la extracción de datos.