CertiK lance un scanner de compétences IA pour la sécurité des agents.

• CertiK a lancé Skill Scanner, un produit de sécurité conçu pour évaluer les compétences AI tierces avant qu'elles ne soient utilisées par les agents AI.
• L'outil cible les risques tels que les comportements malveillants cachés, l'accès non autorisé aux données et l'exécution autonome dans les environnements Web3 et Web2.

CertiK s'enfonce plus profondément dans la sécurité de l'IA avec le lancement de CertiK Skill Scanner, un produit conçu pour examiner les compétences AI tierces avant qu'elles ne soient installées, publiées ou approuvées pour une utilisation dans les systèmes d'entreprise. La société décrit l'outil comme quelque chose de proche d'une couche antivirus pour l'ère des agents AI. La comparaison n'est pas parfaite, mais elle va droit au but. Les agents AI ne se contentent plus de répondre à des questions dans une fenêtre de chat. Ils commencent à appeler des outils externes, lire des fichiers, déclencher des workflows, déplacer des données entre les systèmes et, dans des cas plus sensibles, interagir avec l'infrastructure financière. Cela change l'équation de sécurité. Une mauvaise extension de navigateur peut déjà être dangereuse. Une mauvaise compétence AI connectée à un agent autonome peut être pire, car l'agent peut exécuter des actions à grande vitesse et dans un contexte que l'utilisateur ne voit pas entièrement. Les compétences AI créent un nouveau risque d'exécution Les compétences AI deviennent les plug-ins de l'économie des agents. Elles étendent ce qu'un agent AI peut faire, de l'extraction de données et de l'automatisation de tâches à l'exécution d'actions financières et à l'interaction avec les protocoles Web3. Cependant, chaque compétence supplémentaire crée également un autre point où quelque chose peut mal tourner. Ce risque ne se limite pas aux logiciels malveillants évidents. Une compétence peut demander plus de données que nécessaire, se comporter différemment lors de l'exécution que lors de l'examen, déclencher des appels API non autorisés ou créer discrètement des conditions pour une utilisation abusive ultérieure. Dans les environnements financiers, la préoccupation devient encore plus aiguë. Un outil qui peut initier des appels de fonds, signer des demandes de workflow ou préparer des transactions nécessite un niveau d'examen différent d'un simple complément de productivité. CertiK a déclaré que Skill Scanner est conçu pour détecter les comportements malveillants cachés, l'accès non autorisé aux données et les risques d'exécution avant que les systèmes sensibles ne soient exposés. Contrairement aux outils d'analyse AI plus larges, la société affirme que son produit se concentre sur les risques qui peuvent émerger lors de l'exécution réelle, y compris les cas impliquant des mouvements de fonds et des transactions financières. Ronghui Gu, PDG et co-fondateur de CertiK, a déclaré que le modèle de sécurité autour des compétences tierces devient plus important à mesure que les agents AI pénètrent dans les systèmes financiers, les workflows d'entreprise et les services numériques quotidiens.

« CertiK Skill Scanner a été construit pour établir une couche de confiance standardisée avant l'exécution, aidant les utilisateurs et les plateformes à identifier les risques cachés avant que des données, actifs ou systèmes sensibles ne soient exposés », a déclaré Gu.

Les marketplaces, les entreprises et les développeurs sont en première ligne Les premiers groupes cibles sont les marketplaces de compétences AI, les entreprises et les développeurs. Les marketplaces peuvent intégrer le scanner dans leurs pipelines de publication, de sorte que les compétences sont examinées avant d'être mises en ligne. Elles peuvent également afficher les verdicts de CertiK comme indicateurs de confiance pour les utilisateurs qui décident d'installer ou non une compétence tierce. Pour les entreprises, le cas d'utilisation est plus défensif. Les entreprises qui testent des agents AI en interne ont besoin d'un moyen d'évaluer les compétences tierces avant qu'elles n'entrent dans les environnements de production ou n'entrent en contact avec les données clients, les systèmes internes ou les workflows sensibles à la conformité. C'est là qu'un processus d'examen noté devient utile. Il donne aux équipes de sécurité quelque chose de plus concret qu'une déclaration de fournisseur ou une description de développeur. Les développeurs indépendants peuvent également utiliser le scanner pour auto-auditer leurs compétences avant de les publier. CertiK a déclaré que les futures mises à jour étendront l'accès direct aux utilisateurs quotidiens, permettant aux individus de scanner eux-mêmes les compétences avant l'installation ou l'utilisation. Le scanner produit un score de 0 à 100, ainsi que des verdicts « réussite », « avertissement » ou « échec » et une liste limitée de résultats regroupés par gravité. CertiK indique que le système atteint jusqu'à 90,5 % de précision dans l'identification des risques de sécurité, dans le but de réduire les faux positifs tout en rendant les évaluations des compétences AI plus fiables. Le produit a déjà été déployé dans certains environnements d'infrastructure d'agents AI Web3. CertiK travaille également sur des intégrations avec d'autres plateformes de compétences AI, dont FinChip.ai. Le lancement fait suite à l'expansion plus large de CertiK dans l'infrastructure de sécurité axée sur l'IA, après que la société a introduit son initiative AI Auditor plus tôt cette année. Pour une entreprise surtout connue pour les audits Web3, cette décision est une extension logique. Alors que les agents AI commencent à gérer du code, des actifs, des permissions et des workflows métier, les vérifications de sécurité doivent avoir lieu avant l'exécution, et non après qu'un système a déjà été exposé.