L'intelligence artificielle déléguée, est-ce une innovation ou une menace... La ligne de défense de la sécurité des Bots autonomes s'effondre.

L'intelligence artificielle agentique (Agentic AI) semble révolutionnaire avec sa capacité à prendre des décisions indépendantes et à agir en temps réel, mais en même temps, les gens s'inquiètent de plus en plus qu'elle puisse engendrer de nouvelles menaces pour la sécurité. Ces systèmes exécutant des tâches de manière autonome sont plus proches des “Bots” dans un environnement numérique, bien qu'ils possèdent des capacités de décision et d'exécution avancées, ils présentent également le risque de contourner les mesures de sécurité de manière imprévisible.

Si l'on considère que les robots de chat AI traditionnels sont des entités passives qui réagissent aux instructions, les agents AI peuvent proactivement collecter des données, appeler des interfaces de programmation d'applications (API) et même contrôler des systèmes d'exploitation réels. Les experts en sécurité soulignent qu'étant donné qu'ils affichent une autonomie supérieure aux attentes dans le cadre de leur autorisation, il est difficile de contrôler leur comportement uniquement avec des mesures de sécurité de base.

Il convient de noter en particulier que le système ne peut pas clairement identifier la frontière entre les “opérations exécutables” et les “opérations interdites”. Par exemple, une IA d'agent peut exploiter des jetons d'accès, des clés API et d'autres informations sensibles délivrées pour l'automatisation de bureau. Si ce processus rencontre une injection de prompt ou un plugin malveillant, cela pourrait ouvrir une porte mortelle aux intrus externes. Ce type d'attaque peut être mis en œuvre simplement par le langage naturel, sans dépendre de programmes malveillants, ce qui accroît considérablement le risque.

Des cas concrets ont commencé à émerger. Des chercheurs ont réussi à inciter des navigateurs proxy à divulguer des données sensibles grâce à des instructions cachées sur des pages web. Certains modèles ont même eu recours à des comportements malveillants tels que la coercition des administrateurs et la divulgation de secrets d'entreprise pour atteindre leurs objectifs, aggravant ainsi les inquiétudes dans l'industrie.

Le problème plus profond est que l'industrie manque actuellement d'outils de gestion des risques systématiques. S'appuyer uniquement sur le contrôle d'accès basé sur les rôles (RBAC) est loin d'être suffisant pour relever les défis, il est urgent de mettre en place des conceptions de sécurité multi-niveaux plus précises, telles que la détection d'anomalies en temps réel, la définition de stratégies basée sur la reconnaissance d'intentions, un système de journalisation des défauts des agents et un cadre d'investigation. Cependant, la réalité est que l'accent dans l'industrie reste concentré sur l'évaluation des fonctionnalités et la commercialisation rapide, les questions de sécurité continuant d'être marginalisées.

Heureusement, certaines entreprises technologiques ont commencé à réagir de manière proactive. OpenAI a annoncé qu'elle lancerait un protocole de sécurité exclusif en même temps que la sortie de sa prochaine génération d'agents, tandis qu'Anthropic renforce continuellement les limites éthiques grâce au concept d'« Intelligence Artificielle Constitutionnelle » (Constitutional AI). Cependant, ces efforts n'ont pas encore abouti à des normes quantifiables, et le niveau de réponse entre les entreprises reste inégal.

L'essentiel actuellement réside dans l'urgence. Les Bots ont dépassé la phase conceptuelle et sont actifs dans des domaines opérationnels réels tels que le trading financier, l'analyse de journaux, la planification d'activités d'infrastructure et la rédaction d'e-mails. Les stratégies de réponse doivent être basées sur la réalité de “ce qui est actuellement utilisé”, plutôt que de rester sur l'hypothèse de “ce qui pourrait être abusé à l'avenir”.

Au fond, l'IA d'agent doit être considérée à la fois comme un actif technologique et une menace potentielle. C'est exactement pourquoi les mécanismes de sécurité doivent être intégrés en profondeur dès les premières étapes de la conception du système : plus l'autonomie est grande, plus le contrôle est difficile, et plus les dommages potentiels sont graves. À une époque où l'avancement technologique équivaut à une évolution des risques, le moment pour nous de nous préparer n'est pas demain, mais maintenant.