CertiK lance un scanner de compétences IA pour la sécurité des agents.

• CertiK a lancé Skill Scanner, un produit de sécurité conçu pour évaluer les Skills d'IA tiers avant qu'ils ne soient utilisés par des agents d'IA.
• L'outil cible les risques tels que les comportements malveillants cachés, l'accès non autorisé aux données et l'exécution autonome dans les environnements Web3 et Web2.

CertiK approfondit son engagement dans la sécurité de l'IA avec le lancement de CertiK Skill Scanner, un produit conçu pour examiner les Skills d'IA tiers avant qu'ils ne soient installés, publiés ou approuvés pour une utilisation dans les systèmes d'entreprise. L'entreprise décrit l'outil comme une sorte de couche antivirus pour l'ère des agents d'IA. La comparaison n'est pas parfaite, mais elle va droit au but. Les agents d'IA ne se contentent plus de répondre à des questions dans une fenêtre de chat. Ils commencent à appeler des outils externes, lire des fichiers, déclencher des workflows, déplacer des données entre les systèmes et, dans les cas les plus sensibles, interagir avec les infrastructures financières. Cela change l'équation de la sécurité. Une mauvaise extension de navigateur peut déjà être dangereuse. Un mauvais Skill d'IA connecté à un agent autonome peut être pire, car l'agent peut exécuter des actions à grande vitesse et dans un contexte que l'utilisateur ne voit pas entièrement. Les Skills d'IA créent un nouveau risque d'exécution Les Skills d'IA deviennent les plug-ins de l'économie des agents. Ils étendent ce qu'un agent d'IA peut faire, de l'extraction de données et de l'automatisation de tâches à l'exécution d'actions financières et à l'interaction avec les protocoles Web3. Cependant, chaque Skill supplémentaire crée également un nouveau point où quelque chose peut mal tourner. Ce risque ne se limite pas aux logiciels malveillants évidents. Un Skill peut demander plus de données qu'il n'en a besoin, se comporter différemment lors de l'exécution par rapport à l'examen, déclencher des appels API non autorisés ou créer discrètement des conditions pour une utilisation ultérieure abusive. Dans les environnements financiers, la préoccupation devient encore plus aiguë. Un outil capable d'initier des appels de fonds, de signer des demandes de workflow ou de préparer des transactions nécessite un niveau d'examen différent de celui d'un simple module complémentaire de productivité. CertiK a déclaré que Skill Scanner est conçu pour détecter les comportements malveillants cachés, l'accès non autorisé aux données et les risques d'exécution avant que les systèmes sensibles ne soient exposés. Contrairement aux outils d'analyse d'IA plus larges, l'entreprise affirme que son produit se concentre sur les risques qui peuvent émerger lors de l'exécution réelle, y compris les cas impliquant des mouvements de fonds et des transactions financières. Ronghui Gu, PDG et co-fondateur de CertiK, a déclaré que le modèle de sécurité autour des Skills tiers devient de plus en plus important à mesure que les agents d'IA s'intègrent dans les systèmes financiers, les workflows d'entreprise et les services numériques quotidiens.

« CertiK Skill Scanner a été conçu pour établir une couche de confiance standardisée avant l'exécution, aidant les utilisateurs et les plateformes à identifier les risques cachés avant que des données, des actifs ou des systèmes sensibles ne soient exposés », a déclaré Gu.

Les marketplaces, les entreprises et les développeurs sont en première ligne Les premiers groupes cibles sont les marketplaces de Skills d'IA, les entreprises et les développeurs. Les marketplaces peuvent intégrer le scanner dans leurs pipelines de publication, de sorte que les Skills soient examinés avant d'être mis en ligne. Ils peuvent également afficher les verdicts de CertiK comme indicateurs de confiance pour les utilisateurs qui décident d'installer un Skill tiers. Pour les entreprises, le cas d'utilisation est plus défensif. Les entreprises qui testent des agents d'IA en interne ont besoin d'un moyen d'évaluer les Skills tiers avant qu'ils n'entrent dans les environnements de production ou n'entrent en contact avec les données clients, les systèmes internes ou les workflows sensibles à la conformité. C'est là qu'un processus d'examen noté devient utile. Il donne aux équipes de sécurité quelque chose de plus concret qu'une déclaration de fournisseur ou une description de développeur. Les développeurs indépendants peuvent également utiliser le scanner pour auto-auditer les Skills avant de les publier. CertiK a déclaré que les futures mises à jour élargiront l'accès direct pour les utilisateurs quotidiens, permettant aux individus de scanner eux-mêmes les Skills avant leur installation ou leur utilisation. Le scanner produit un score de 0 à 100, ainsi que des verdicts « réussite », « avertissement » ou « échec » et une liste limitée de résultats regroupés par gravité. CertiK indique que le système atteint jusqu'à 90,5 % de précision dans l'identification des risques de sécurité, dans le but de réduire les faux positifs tout en rendant les évaluations des Skills d'IA plus fiables. Le produit a déjà été déployé dans certains environnements d'infrastructure d'agents d'IA Web3. CertiK travaille également sur des intégrations avec d'autres plateformes de Skills d'IA, dont FinChip.ai. Ce lancement fait suite à l'expansion plus large de CertiK dans l'infrastructure de sécurité axée sur l'IA, après que l'entreprise a introduit son initiative AI Auditor plus tôt cette année. Pour une firme surtout connue pour les audits Web3, cette démarche est une extension logique. Alors que les agents d'IA commencent à gérer du code, des actifs, des permissions et des workflows métiers, les vérifications de sécurité doivent avoir lieu avant l'exécution, et non après qu'un système a déjà été exposé.