David Sacks critica as salvaguardas de IA dos EUA depois que o Kimi K3 corrigiu falhas de segurança

David Sacks, o chefe de políticas de IA e cripto na Casa Branca conhecido como o “czar cripto”, criticou as proteções de segurança (guardrails) dos modelos de IA dos EUA em 19 de julho via X, citando o modelo chinês de IA Kimi K3 como exemplo. Sacks afirmou que o Kimi K3 corrigiu 15 bugs críticos de segurança que os modelos Codex e Fable, dos EUA, se recusaram a tratar por causa de “cyber guardrails”, argumentando que não há razão para limitar os modelos americanos em tarefas que os modelos chineses realizam sem problemas. A crítica destaca o debate em curso sobre restrições de segurança em IA, já que especialistas em cibersegurança alertaram anteriormente, em uma carta de junho ao presidente Trump, que limitar o uso de IA por pesquisadores de segurança e organizações defensivas poderia enfraquecer as capacidades de defesa cibernética.

Sacks cita correções de bugs de segurança do Kimi K3 bloqueadas por modelos de IA dos EUA

Em sua publicação no X de 19 de julho, Sacks escreveu: “O Kimi K3 acabou de corrigir 15 bugs críticos de segurança que o Codex e o Fable recusaram por causa de ‘cyber guardrails’. Não há razão para limitar os modelos americanos em tarefas que os modelos chineses fazem sem problemas. Só estamos nos tornando menos competitivos.”

Os “cyber guardrails” aplicados ao Codex e ao Fable são mecanismos de segurança projetados para restringir solicitações que poderiam ser exploradas para fins maliciosos, como criação de malware ou intrusão em sistemas. No entanto, críticos observaram que essas restrições também limitam a análise de vulnerabilidades de segurança e a pesquisa defensiva, reduzindo a utilidade prática dos modelos de IA dos EUA.

Hugging Face mudou para o GLM 5.2 chinês depois que guardrails de modelo dos EUA bloquearam a análise

Sacks forneceu outro exemplo em uma postagem de acompanhamento: “A Hugging Face tentou usar modelos de fronteira americanos para analisar um ataque cibernético com IA. Mas os guardrails bloquearam solicitações com cargas reais de exploração, então eles mudaram para o GLM 5.2 rodando localmente.”

Ele disse que “os guardrails realmente prejudicaram a segurança defensiva”, ressaltando que as restrições dificultaram pesquisas legítimas de segurança em vez de melhorar a proteção.

Especialistas em cibersegurança alertaram Trump em junho sobre riscos de restrição de IA

De acordo com a Axios, especialistas em cibersegurança liderados por Alex Stamos, ex-diretor de segurança da Meta (Facebook), enviaram uma carta aberta ao presidente Trump em junho. A carta alertava que “restringir oportunidades de utilização de IA para instituições de pesquisa de segurança e organizações defensivas poderia, na verdade, enfraquecer as capacidades de defesa cibernética”.

Os especialistas destacaram que os mais recentes modelos de IA já estão sendo usados em toda a indústria de ativos digitais para elevar os níveis de segurança por meio de monitoramento de contratos inteligentes, análise de vulnerabilidades, revisão de código e testes de invasão.

FAQ

O que David Sacks disse sobre o modelo de IA chinês Kimi K3 em 19 de julho?

David Sacks afirmou no X que o Kimi K3 corrigiu 15 bugs críticos de segurança que os modelos de IA dos EUA Codex e Fable se recusaram a abordar por causa de “cyber guardrails”. Ele argumentou que não há motivo para limitar os modelos americanos em tarefas que os modelos chineses fazem sem problemas, dizendo que os EUA estão se tornando menos competitivos.

Por que a Hugging Face mudou de modelos de IA dos EUA para o GLM 5.2 chinês?

A Hugging Face tentou usar modelos de IA de fronteira americanos para analisar um ataque cibernético com IA, mas os guardrails bloquearam solicitações com cargas reais de exploração. Como resultado, a equipe de pesquisa mudou para usar o modelo de IA chinês de código aberto GLM 5.2 rodando localmente.

O que especialistas em cibersegurança alertaram Trump sobre em junho?

Especialistas em cibersegurança liderados pelo ex-CSO da Meta Alex Stamos enviaram uma carta aberta ao presidente Trump em junho alertando que restringir o uso de IA por instituições de pesquisa de segurança e organizações defensivas poderia enfraquecer as capacidades de defesa cibernética. Eles destacaram que os modelos mais recentes de IA estão sendo usados para monitoramento de contratos inteligentes, análise de vulnerabilidades, revisão de código e testes de invasão na indústria de ativos digitais.