Des chercheurs de l’Université de Toronto, du Vector Institute, de l’Université de Cambridge et de ServiceNow ont démontré un ver informatique propulsé par l’IA, capable de générer des stratégies d’attaque et de se propager de manière autonome à travers des réseaux. Le logiciel malveillant de preuve de concept s’exécute sur les machines infectées en utilisant des modèles à poids ouverts, plutôt que des services cloud, ce qui marque une rupture avec les menaces IA précédentes. Les chercheurs estiment que leur travail montre que les cyberattaques pilotées par l’IA sont passées du stade théorique à une réalité, le ver étant capable d’identifier des vulnérabilités, d’élaborer des parcours d’attaque adaptés, de compromettre des systèmes et de se répliquer tout en adaptant ses tactiques à différents cibles.
L’article de recherche décrit ce que l’équipe qualifie de basculement fondamental par rapport aux vers traditionnels. « Nous devons nous préparer à des adversaires génératifs autonomes », ont écrit les chercheurs. « Des systèmes de logiciels malveillants qui se propagent sans opérateurs humains et qui ne sont pas définis par du code d’exploitation fixe, mais par la capacité à raisonner sur les cibles, à s’adapter aux observations et à synthétiser la logique d’attaque en temps réel. »
Les vers informatiques sont des logiciels malveillants auto-réplicatifs qui se propagent automatiquement à travers des réseaux vulnérables. Parmi les flambées historiques de vers, on trouve ILOVEYOU en 2000 et WannaCry en 2017, qui ont infecté des millions d’ordinateurs dans le monde, perturbant des services essentiels et causant des dégâts se chiffrant en milliards de dollars. Plus récemment, le malware Shai-Hulud a montré à quel point des attaques auto-propagées peuvent se propager en ligne, en infectant des logiciels utilisés par de grandes entreprises, dont OpenAI et Mistral.
Des chercheurs testent un ver IA dans un environnement réseau isolé
L’équipe a testé le ver dans un réseau virtuel isolé comprenant 33 systèmes Linux, Windows et IoT, alimentés avec des vulnérabilités courantes. Au cours de 15 expériences, le ver a identifié en moyenne 31,3 vulnérabilités, a compromis avec succès 23,1 hôtes et s’est propagé à environ 20 machines durant sept jours d’opération autonome.
Lors de certains tests, le logiciel malveillant a atteint sept générations de réplication auto-réplicative. Les chercheurs ont constaté que le système pouvait exploiter des vulnérabilités divulguées après la date limite de l’entraînement du modèle en ingérant, au moment de l’exécution, de nouvelles alertes de sécurité publiées, ce qui lui permettait d’intégrer des informations qui n’étaient pas incluses dans les données d’entraînement initiales du modèle.
Le ver IA fonctionne sans infrastructure cloud
D’après l’étude, ce qui distingue ce ver propulsé par l’IA des versions précédentes, c’est sa capacité à s’adapter à différentes cibles grâce à un modèle de langage, pour identifier des vulnérabilités et générer des stratégies d’attaque en temps réel, plutôt que de s’appuyer sur un ensemble fixe d’exploits.
« Les vers traditionnels, comme WannaCry, exploitaient des vulnérabilités prédéterminées, et leur propagation peut être stoppée en corrigeant ces vulnérabilités », ont écrit les chercheurs. « Ici, nous montrons que des agents d’intelligence artificielle créent une menace fondamentalement nouvelle : un ver qui génère des stratégies d’attaque adaptées à chaque cible qu’il rencontre. »
Contrairement à beaucoup d’applications IA, le ver ne dépendait pas d’un accès à des services cloud d’IA. Au lieu de s’appuyer sur une infrastructure cloud fournie par des acteurs tels qu’AWS, Microsoft Azure ou Google Cloud, le logiciel malveillant exécutait directement des modèles IA sur les machines compromises. Au fur et à mesure de sa propagation, les systèmes infectés devenaient effectivement une partie de son infrastructure de calcul.
L’équipe de recherche retient des détails techniques pour empêcher tout mauvais usage
Même si les tests ont été réalisés dans un environnement contrôlé, les auteurs ont reconnu le caractère dual de la démarche et ont volontairement omis certains détails techniques afin de réduire le risque de mauvaise utilisation.
« Avant de publier ce préprint, nous avons modifié le manuscrit afin de nous assurer que la présentation de notre méthode équilibre la profondeur des détails nécessaires pour que la communauté puisse étudier cette menace nouvelle avec le risque qu’un acteur malveillant utilise notre méthode pour créer des logiciels malveillants », ont déclaré les chercheurs.
Les chercheurs ont indiqué que le projet vise à mieux comprendre les risques posés par des vers informatiques adaptatifs et à fournir des éléments de preuve sur l’ampleur des progrès des capacités cyber permises par l’IA. « Traiter cette menace nécessitera donc une action coordonnée entre les communautés de la recherche, de la sécurité, de l’industrie et des politiques publiques : des cadres d’évaluation qui testent les capacités au niveau des dispositifs, des systèmes de détection ajustés aux signatures comportementales d’agents autonomes, et des mesures réglementaires qui tiennent compte du caractère décentralisé de l’inférence à poids ouverts », ont-ils écrit.
FAQ
Que les chercheurs ont-ils démontré dans l’étude sur le ver IA ?
Des chercheurs de l’Université de Toronto, du Vector Institute, de l’Université de Cambridge et de ServiceNow ont démontré une preuve de concept de ver propulsé par l’IA, capable d’identifier des vulnérabilités, de générer des stratégies d’attaque et de se propager de façon autonome à travers des réseaux, tout en adaptant ses tactiques à différentes cibles.
Comment le ver IA a-t-il performé lors des tests ?
Sur la base de 15 expériences dans un réseau virtuel isolé contenant 33 systèmes, le ver a identifié en moyenne 31,3 vulnérabilités, a compromis avec succès 23,1 hôtes et s’est propagé à environ 20 machines au cours de sept jours d’opération autonome. Lors de certains tests, le logiciel malveillant a atteint sept générations de réplication auto-réplicative.
Pourquoi l’équipe de recherche a-t-elle retenu des détails techniques ?
Les auteurs ont reconnu le caractère dual de la démarche et ont volontairement omis certains détails techniques afin de réduire le risque qu’un acteur malveillant utilise leur méthode pour créer des logiciels malveillants, tout en fournissant une profondeur suffisante pour permettre à la communauté d’étudier cette menace nouvelle.
