Hugging Face revela violação em agente de IA explorando falhas de execução de código

A Hugging Face divulgou em 16 de julho de 2026 que sua infraestrutura de produção foi comprometida por um sistema autônomo de agente de IA. O ataque explorou duas vulnerabilidades de execução de código na esteira de processamento de dados da plataforma: um carregador de dataset para execução remota de código e uma falha de injeção em modelo (template-injection) em um arquivo de configuração de dataset. A partir daí, o agente escalou para acesso em nível de nó, coletou credenciais de nuvem e de cluster e fez movimento lateral por vários clusters internos ao longo de um único fim de semana, gerando mais de 17.000 ações registradas. A empresa descreveu a intrusão como algo diferente de tudo o que havia enfrentado anteriormente.

Hugging Face identifica acesso não autorizado a datasets internos e credenciais de serviço

A empresa identificou acesso não autorizado a um conjunto limitado de datasets internos e a várias credenciais de serviço. A Hugging Face informou ter encontrado sem evidências de adulteração de modelos, datasets ou Spaces voltados ao público. O ataque começou na esteira de processamento de dados da plataforma, onde o dataset malicioso explorou as duas vulnerabilidades de execução de código. Em seguida, o agente fez movimento lateral por vários clusters internos ao longo de um único fim de semana.

Hugging Face conclui remediação e envolve especialistas forenses externos

A Hugging Face afirmou que contratou especialistas externos de forense em cibersegurança, notificou as autoridades policiais e concluiu as etapas de remediação. Essas etapas incluíram fechar os caminhos de acesso iniciais, reconstruir nós comprometidos, rotacionar as credenciais afetadas e apertar os controles de admissão de cluster. Os usuários foram orientados a rotacionar os tokens de acesso como precaução. A empresa afirmou que seguirá investindo em capacidades defensivas impulsionadas por IA e planeja compartilhar mais descobertas publicamente.

Proteções de segurança bloqueiam análise forense, levando ao uso de modelo open-weight

Quando a equipe de segurança da Hugging Face tentou realizar análise de logs usando modelos de ponta acessados por APIs comerciais — incluindo as fornecidas pela Anthropic e pela OpenAI — as solicitações foram bloqueadas pelas proteções de segurança dos provedores. As proteções se mostraram incapazes de distinguir entre intenção maliciosa e trabalho legítimo de resposta a incidentes envolvendo payloads reais de exploração e artefatos de comando e controle. A equipe, por fim, conduziu sua análise forense usando o GLM 5.2, um modelo open-weight implantado na infraestrutura interna. Essa abordagem garantiu que os dados sensíveis do atacante e as credenciais referenciadas permanecessem dentro do próprio ambiente da empresa.

David Sacks, em declarações públicas, citou tanto o caso da Hugging Face quanto uma instância separada em que o Kimi K3, um modelo de IA chinês recém-lançado, resolveu quinze vulnerabilidades críticas de segurança que ferramentas americanas de codificação de IA se recusaram a tratar — no valor reportado de US$ 250 — como evidência de que restrições de segurança em modelos dos EUA estão se deteriorando em sua utilidade competitiva. A própria Hugging Face observou que sua divulgação não pretende ser um argumento amplo contra medidas de segurança em modelos hospedados e indicou que compartilhou o feedback diretamente com os provedores envolvidos.

Perguntas Frequentes

O que a Hugging Face divulgou em 16 de julho de 2026?
A Hugging Face divulgou em 16 de julho de 2026 que sua infraestrutura de produção foi comprometida por um sistema autônomo de agente de IA. O ataque explorou duas vulnerabilidades de execução de código na esteira de processamento de dados da plataforma e resultou em acesso não autorizado a um conjunto limitado de datasets internos e a várias credenciais de serviço.

Por que a Hugging Face usou o GLM 5.2 para a análise forense?
Quando a equipe de segurança da Hugging Face tentou realizar análise de logs usando modelos de ponta acessados por APIs comerciais da Anthropic e da OpenAI, as solicitações foram bloqueadas pelas proteções de segurança. A equipe, por fim, conduziu sua análise forense usando o GLM 5.2, um modelo open-weight implantado na infraestrutura interna, garantindo que dados sensíveis do atacante e credenciais permanecessem no próprio ambiente da empresa.

Quais etapas de remediação a Hugging Face concluiu?
A Hugging Face concluiu etapas de remediação incluindo fechar os caminhos de acesso iniciais, reconstruir nós comprometidos, rotacionar as credenciais afetadas e apertar os controles de admissão de cluster. A empresa também envolveu especialistas forenses externos em cibersegurança e notificou as autoridades policiais.