David Sacks critique les garde-fous de l’IA aux États-Unis après que Kimi K3 a corrigé des failles de sécurité

David Sacks, le responsable de la politique AI et crypto de la Maison-Blanche, connu sous le surnom de « crypto czar », a critiqué le 19 juillet sur X des garde-fous de sécurité pour les modèles d’IA américains, en citant le modèle d’IA chinois Kimi K3 comme exemple. Sacks a déclaré que Kimi K3 avait corrigé 15 bugs critiques de sécurité que les modèles Codex et Fable américains refusaient de traiter en raison de « cyber guardrails », arguant qu’il n’y a aucune raison de limiter les modèles américains sur des tâches que les modèles chinois gèrent sans problème. Sa critique met en lumière le débat en cours sur les restrictions de sécurité liées à l’IA : des experts en cybersécurité avaient auparavant prévenu dans une lettre de juin au président Trump que limiter l’usage de l’IA par les chercheurs en sécurité et les organisations défensives pourrait affaiblir les capacités de défense cyber.

Sacks cite les correctifs de bugs de sécurité de Kimi K3 bloqués par des modèles d’IA américains

Dans son post X du 19 juillet, Sacks a écrit : « Kimi K3 vient juste de corriger 15 bugs critiques de sécurité que Codex et Fable ont refusé de traiter à cause de “cyber guardrails”. Il n’y a aucune raison de limiter les modèles américains sur des tâches que les modèles chinois gèrent sans problème. Nous ne faisons que nous rendre moins compétitifs. »

Les « cyber guardrails » appliqués à Codex et Fable sont des mécanismes de sécurité conçus pour restreindre les requêtes qui pourraient être exploitées à des fins malveillantes, comme la création de logiciels malveillants ou l’intrusion dans des systèmes. Toutefois, les critiques ont noté que ces restrictions limitent aussi l’analyse des vulnérabilités en matière de sécurité et la recherche défensive, réduisant l’utilité pratique des modèles d’IA américains.

Hugging Face est passé au GLM 5.2 chinois après que les garde-fous du modèle US ont bloqué l’analyse

Sacks a donné un autre exemple dans un post de suivi : « Hugging Face a essayé d’utiliser des modèles frontier américains pour analyser une cyberattaque alimentée par l’IA. Mais les garde-fous ont bloqué les requêtes contenant de vraies charges d’exploitation, alors ils sont passés à GLM 5.2, lancé localement. »

Il a déclaré que « les garde-fous ont en fait nui à la sécurité défensive », soulignant que les restrictions entravaient la recherche en sécurité légitime plutôt que d’améliorer la protection.

Des experts en cybersécurité ont averti Trump en juin des risques liés à la restriction de l’IA

Selon Axios, des experts en cybersécurité menés par Alex Stamos, ancien directeur de la sécurité chez Facebook, ont envoyé en juin une lettre ouverte au président Trump. La lettre avertissait que « restreindre les opportunités d’utilisation de l’IA pour les institutions de recherche en sécurité et les organisations défensives pourrait en réalité affaiblir les capacités de défense cyber ».

Les experts ont noté que les modèles d’IA les plus récents sont déjà utilisés dans l’ensemble de l’industrie des actifs numériques pour renforcer les niveaux de sécurité grâce à la surveillance des smart contracts, l’analyse des vulnérabilités, la revue de code et les tests d’intrusion.

FAQ

Que a dit David Sacks au sujet du modèle d’IA chinois Kimi K3 le 19 juillet ?

David Sacks a déclaré sur X que Kimi K3 avait corrigé 15 bugs critiques de sécurité que les modèles d’IA américains Codex et Fable refusaient d’adresser en raison de « cyber guardrails ». Il a fait valoir qu’il n’y a aucune raison de limiter les modèles américains sur des tâches que les modèles chinois gèrent sans problème, affirmant que les États-Unis se rendent moins compétitifs.

Pourquoi Hugging Face est-il passé de modèles d’IA US à GLM 5.2 chinois ?

Hugging Face a tenté d’utiliser des modèles d’IA frontier américains pour analyser une cyberattaque alimentée par l’IA, mais les garde-fous ont bloqué les requêtes contenant de vraies charges d’exploitation. En conséquence, l’équipe de recherche a basculé vers l’utilisation du modèle d’IA open-source GLM 5.2 chinois, lancé localement.

De quoi les experts en cybersécurité ont-ils averti le président Trump en juin ?

Des experts en cybersécurité menés par l’ancien responsable de la sécurité chez Facebook Alex Stamos ont envoyé en juin une lettre ouverte au président Trump, avertissant que restreindre l’usage de l’IA par les institutions de recherche en sécurité et les organisations défensives pourrait affaiblir les capacités de défense cyber. Ils ont noté que les derniers modèles d’IA sont utilisés pour la surveillance des smart contracts, l’analyse des vulnérabilités, la revue de code et les tests d’intrusion dans l’industrie des actifs numériques.