L'université de Tel-Aviv a découvert une attaque de type HalluSquatting, où des illusions générées par l'IA peuvent être exploitées pour constituer des réseaux de zombies.

Des chercheurs de l'Université de Tel-Aviv, du Technion en Israël et d'Intuit ont dévoilé dans leur article « Méfiez-vous des réseaux zombies d'agents : réalisation d'attaques évolutives de Promptware non directionnel via le HalluSquatting universel et transférable » une nouvelle méthode d'attaque nommée « HalluSquatting » qui exploite le phénomène d'illusion de l'IA pour inciter les agents à télécharger du code malveillant.

Mécanisme d'attaque HalluSquatting : principe technique de la prédiction et de l'enregistrement anticipé des ressources d'illusion de l'IA

Selon les chercheurs, les étapes de l'attaque HalluSquatting consistent à : prévoir que le modèle d'IA générera des liens falsifiés vers des dépôts logiciels et ressources en ligne, s'enregistrer à l'avance sous ces noms, puis y insérer des commandes malveillantes ; lorsque l'agent d'IA tentera de récupérer ces ressources d'illusion, il considérera le contenu contrôlé par l'attaquant comme légitime et l'exécutera.

Ce mécanisme est similaire au « typosquatting » traditionnel, qui exploite les erreurs de frappe humaines — mais le HalluSquatting cible les erreurs d'illusion du modèle d'IA. Avec l'extension des capacités des assistants IA, passant de répondre à des questions à accéder à des fichiers, rechercher sur le web, écrire du code et exécuter des commandes, cette menace voit son impact s'élargir considérablement.

Données de test : 85 % pour les dépôts de code et 100 % pour l'installation de compétences

Selon les résultats des tests, le taux d'illusion HalluSquatting est le suivant :

Scénario de clonage de dépôts de code : taux d'illusion de 85 %

Scénario d'installation de compétences : taux d'illusion de 100 %

L'équipe de recherche a testé quatre assistants de codage IA et agents :

Cursor : affecté

GitHub Copilot : affecté

Gemini CLI : affecté

OpenClaw : affecté

Questions fréquentes

Qu'est-ce que l'attaque HalluSquatting et en quoi diffère-t-elle des attaques réseau traditionnelles ?

Selon les chercheurs, l'attaque HalluSquatting consiste à prévoir des liens vers de fausses ressources générés par le modèle d'IA, à s'enregistrer à l'avance sous ces noms et à y insérer des commandes malveillantes. Contrairement au typosquatting, qui exploite les erreurs de frappe humaines, le HalluSquatting cible les erreurs d'illusion du modèle d'IA. La recherche a été publiée par l'Université de Tel-Aviv, le Technion et Intuit.

Quels outils IA sont affectés par l'attaque HalluSquatting ?

Les tests montrent que Cursor, GitHub Copilot, Gemini CLI et OpenClaw sont tous vulnérables ; le taux d'illusion dans le scénario d'installation de compétences atteint 100 %, et dans le clonage de dépôts, 85 %. La gravité de l'impact et les mesures de mitigation dépendent des annonces officielles de chaque développeur d'outil.

Comment le HalluSquatting peut-il conduire à la formation d'un réseau zombie d'IA ?

Les chercheurs expliquent que si un agent IA récupère des ressources malveillantes contrôlées par l'attaquant et les exécute comme légitimes, l'attaquant peut contrôler ces agents à distance pour exécuter du code, créant ainsi un réseau zombie composé d'agents IA compromis. Ce réseau peut être utilisé pour des attaques par déni de service, le minage de cryptomonnaies, la propagation de logiciels malveillants ou des attaques par ransomware. Les scénarios précis sont détaillés dans l'article.