Penambangan Bitcoin ungkap penipuan yang memanipulasi ChatGPT dan Google untuk penipuan maskapai penerbangan

Sumber: Criptonoticias Judul Asli: Seorang penambang Bitcoin bongkar penipuan yang memanipulasi ChatGPT dan Google Tautan Asli:

Penemuan

Aurascape, sebuah perusahaan keamanan siber dan kecerdasan buatan yang didirikan oleh Auradine tetapi beroperasi secara independen dalam ekosistem Aura Labs, mengungkapkan model penipuan baru di internet.

Penipuan yang disebutkan dalam sebuah pernyataan pada 8 Desember mempengaruhi platform AI seperti ChatGPT, Google, Perplexity dan asisten berbasis model bahasa generatif besar lainnya.

Menurut penelitian, model penipuan ini bergantung pada manipulasi sistematis konten di web untuk mengarahkan pengguna ke nomor telepon palsu layanan pelanggan maskapai penerbangan.

Cara kerja serangan

Para peneliti menjelaskan bahwa penyerang tidak berusaha mengubah fungsi internal asisten AI (program yang menjawab pertanyaan melalui model canggih).

Sebaliknya, mereka mengintervensi lingkungan tempat sistem tersebut mendapatkan informasi. Mereka memanipulasi halaman web yang sah agar, saat mencari data kontak maskapai, asisten akhirnya menampilkan nomor telepon palsu yang mengarah ke pusat penipuan yang bertujuan mendapatkan pembayaran atau data sensitif.

Secara praktis, serangan ini tidak langsung menargetkan model AI itu sendiri, melainkan materi yang dikonsultasikan oleh model tersebut. Oleh karena itu, lebih dari sekadar menipu pengguna secara langsung, penyerang belajar mempengaruhi sistem yang menyintesis jawaban, yang memperbesar jangkauan penipuan.

Mekanisme: “Keracunan nomor telepon LLM”

Menurut Aurascape, para penipu menjalankan proses yang digambarkan oleh para peneliti sebagai keracunan nomor telepon untuk model bahasa.

Mekanisme ini melibatkan mengubah konten sah di internet agar asisten AI membacanya dan merekomendasikan nomor palsu seolah-olah mereka resmi.

Para peneliti menjelaskan bahwa penyerang menyerang web itu sendiri. Untuk melakukannya, mereka menyisipkan konten palsu di situs badan publik, universitas, blog WordPress, deskripsi YouTube, dan ulasan di platform seperti Yelp.

Selain itu, para peretas menggunakan teknik lain yang dikenal sebagai Generative Engine Optimization dan Answer Engine Optimization, untuk mempengaruhi bagaimana sistem memilih dan menyintesis informasi yang tersedia.

Melalui kedua teknik ini, mereka berhasil mengisi ruang yang dianggap oleh asisten AI sebagai “jawaban yang benar”.

Contoh penipuan yang sedang berlangsung

Dalam demonstrasi internal, Aurascape menunjukkan bahwa saat menanyakan “nomor resmi reservasi Emirates Airlines”, Perplexity dengan aman mengembalikan nomor yang penipuan:

Pertanyaan serupa tentang British Airways menghasilkan nomor yang sama, yang disajikan sebagai “saluran yang umum digunakan”.

Bahkan, seperti yang terlihat pada gambar berikut, fungsi AI Overview dari Google menampilkan beberapa nomor palsu seolah-olah resmi, disertai petunjuk langkah demi langkah untuk memesan penerbangan:

Persimpangan antara penambangan Bitcoin dan AI

Auradine adalah perusahaan Amerika yang bergerak di pembuatan perangkat keras untuk penambangan Bitcoin. Penambang lain seperti MARA dan Genesis Digital Assets telah membeli perangkat ASIC mereka.

Namun, penelitian Aurascape juga menggambarkan fenomena lain yang semakin berkembang setiap hari: persimpangan antara perusahaan penambangan Bitcoin dan industri AI.

Para penambang memperluas lini bisnis mereka ke aktivitas terkait kecerdasan buatan. Perusahaan-perusahaan ini, yang terbiasa mengoperasikan infrastruktur perangkat keras dan pusat data besar, berusaha mengurangi paparan terhadap volatilitas pasar penambangan dengan diversifikasi layanan mereka.

Analisis keamanan yang dilakukan oleh Auradine adalah contoh bagaimana persimpangan ini berkembang dan bagaimana para penambang menggunakan pengalaman teknis mereka untuk memasuki sektor di mana permintaan akan komputasi, analisis, dan keamanan siber terus meningkat.