Une mine de Bitcoin révèle une fraude manipulant ChatGPT et Google pour des escroqueries aériennes

Source : Criptonoticias Titre original : Une mineure de Bitcoin dévoile une fraude manipulant ChatGPT et Google Lien original :

La découverte

Aurascape, une entreprise de cybersécurité et d’intelligence artificielle créée par Auradine mais opérée de manière indépendante dans l’écosystème d’Aura Labs, a révélé un nouveau modèle d’escroquerie sur Internet.

Les fraudes mentionnées dans un communiqué du 8 décembre affectent des plateformes d’IA comme ChatGPT, Google, Perplexity et d’autres assistants basés sur de grands modèles de langage génératif.

Selon l’enquête, ce modèle de fraude repose sur la manipulation systématique de contenus sur le web pour détourner les utilisateurs vers de faux numéros de téléphone du service client des compagnies aériennes.

Comment fonctionne l’attaque

Les chercheurs expliquent que les attaquants n’essaient pas de modifier le fonctionnement interne des assistants IA (les programmes qui répondent aux questions via des modèles avancés).

Au lieu de cela, ils interviennent dans l’environnement à partir duquel ces systèmes obtiennent leurs informations. Ils manipulent des pages légitimes sur le web pour que, lors de la recherche de coordonnées des compagnies aériennes, les assistants finissent par afficher des numéros de téléphone falsifiés menant à des centres d’arnaque visant à obtenir des paiements ou des données sensibles.

En pratique, l’attaque ne vise pas directement le modèle d’IA lui-même, mais le matériel qu’il consulte. C’est pourquoi, plutôt que de tromper directement l’utilisateur, les attaquants apprennent à influencer les systèmes qui synthétisent les réponses, ce qui amplifie la portée de la fraude.

Le mécanisme : “Poisoning du numéro de téléphone LLM”

Selon Aurascape, les escrocs mènent un processus que les chercheurs décrivent comme envenimation des numéros de téléphone pour les modèles de langage.

Ce mécanisme consiste à modifier des contenus légitimes sur Internet pour que les assistants IA les lisent et recommandent des numéros falsifiés comme s’ils étaient officiels.

Les chercheurs expliquent que les attaquants s’attaquent à Internet lui-même. Pour y parvenir, ils insèrent du contenu faux sur des sites d’organismes publics, universitaires, blogs WordPress, descriptions YouTube et avis sur des plateformes comme Yelp.

De plus, les hackers utilisent d’autres techniques connues sous le nom de Generation Engine Optimization et Answer Engine Optimization, pour influencer la façon dont les systèmes sélectionnent et synthétisent les informations disponibles.

Grâce à ces deux techniques, ils parviennent à occuper l’espace que les assistants IA considèrent comme “la bonne réponse”.

Exemples de fraude en action

Lors d’une démonstration interne, Aurascape a montré qu’en recherchant “le numéro officiel de réservation d’Emirates Airlines”, Perplexity a renvoyé en toute sécurité un numéro frauduleux :

Une requête similaire sur British Airways a donné le même numéro, présenté comme “une ligne couramment utilisée”.

Même, comme on le voit sur l’image suivante, la fonction AI Overview de Google a présenté plusieurs numéros falsifiés comme s’ils étaient officiels, accompagnés d’instructions étape par étape pour réserver des vols :

Le croisement entre minage de Bitcoin et IA

Auradine est une entreprise américaine spécialisée dans la conception de matériel pour le minage de Bitcoin. D’autres mineurs comme MARA et Genesis Digital Assets ont déjà acquis leurs équipements ASIC.

Cependant, la recherche d’Aurascape illustre aussi un phénomène croissant : l’intersection entre les entreprises de minage de Bitcoin et l’industrie de l’IA.

Les mineurs élargissent leurs lignes de business vers des activités liées à l’intelligence artificielle. Ces entreprises, habituées à exploiter de grandes infrastructures matérielles et des centres de données, cherchent à réduire leur exposition à la volatilité du marché minier en diversifiant leurs services.

L’analyse de sécurité réalisée par Auradine est un exemple de l’évolution de cette intersection et de la manière dont les mineurs exploitent leur expertise technique pour pénétrer des secteurs où la demande en calcul, analyse et cybersécurité croît de façon soutenue.