Google telah mengajukan gugatan terhadap Outsider Enterprise, sebuah jaringan kejahatan siber berbasis di China yang dituduh menjalankan operasi phishing bertenagai AI yang menargetkan pengguna Android melalui pesan teks dan situs web palsu. Perusahaan itu menuduh kelompok tersebut menggunakan AI Gemini milik Google untuk membuat situs web penipuan yang menyamar sebagai Google, YouTube, dan lembaga pemerintah, dengan menjalankan model phishing-as-a-service melalui Telegram. Google mengatakan jaringan itu terkait dengan 9.000 situs web palsu, lebih dari 1 juta URL penipuan, dan 2,5 juta pesan teks yang dikirim ke pengguna Android, dengan sekitar 55.000 teks spam yang ditandai selama periode dua minggu pada bulan Mei. Ini menandai kasus pertama di mana Google mengambil tindakan hukum langsung terhadap sebuah kelompok yang dituduh menggunakan Gemini sebagai bagian dari alur penipuan. Gugatan tersebut menyoroti pergeseran dari kekhawatiran penyalahgunaan AI yang bersifat abstrak menjadi operasi penipuan yang terdokumentasi, karena alat AI generatif menurunkan hambatan teknis bagi penjahat untuk menskalakan kampanye phishing.
Outsider Enterprise Mengoperasikan Phishing-as-a-Service via Telegram
Google mengatakan kelompok itu beroperasi melalui Telegram dan menawarkan alat phishing-as-a-service kepada para kriminal yang tidak memerlukan keahlian teknis tingkat lanjut. Jaringan itu, menurut tuduhan, menyediakan instruksi untuk menggunakan AI Gemini milik Google guna membangun situs web penipuan yang meniru Google, YouTube, dan lembaga pemerintah, termasuk sistem E-ZPass milik New York.
Google mengatakan kelompok itu menawarkan hampir 300 templat penipuan dan terkait dengan 9.000 situs web palsu serta lebih dari 1 juta URL penipuan. Kampanye tersebut menghasilkan lebih dari 2,5 juta pesan teks yang dikirim ke pengguna Android, termasuk sekitar 55.000 teks spam yang ditandai selama periode dua minggu pada bulan Mei.
Pesan-pesan tersebut sering memperingatkan pengguna tentang masalah akun, isu paket, pembayaran tol, atau klaim mendesak lainnya. Korban yang mengklik tautan kemudian diarahkan ke situs web palsu yang dirancang terlihat sah, tempat penyerang mencoba mencuri informasi pribadi, detail perbankan, dan kredensial pembayaran.
AI Gemini Diduga Dipakai untuk Menghasilkan Situs Web Penipuan dalam Skala Besar
Penggunaan AI generatif yang diduga dilakukan mengubah ekonomi phishing. Halaman penipuan yang sebelumnya memerlukan kerja desain manual kini bisa diproduksi lebih cepat, diadaptasi lintas merek, dan diterapkan lewat templat siap pakai. Ini menurunkan hambatan bagi kriminal yang kurang teknis dan memungkinkan jaringan penipuan untuk menskalakan kampanye di ribuan URL.
Bagi perusahaan teknologi, kasus ini juga menyoroti ketegangan produk yang sulit. Sistem AI dibangun untuk mengikuti instruksi dan menghasilkan keluaran yang rapi, tetapi kemampuan yang sama dapat disalahgunakan untuk membuat situs web palsu yang meyakinkan, pesan layanan pelanggan, dan halaman penyamaran merek. Guardrail yang lebih kuat dapat mengurangi penyalahgunaan, namun penyerang sering mencari prompt tidak langsung, penggunaan ulang templat, atau alur kerja eksternal yang menghindari deteksi.
Google Berkoordinasi dengan FBI dan Operator Telekomunikasi untuk Memblokir Pesan Berbahaya
Google mengatakan pihaknya bekerja sama dengan divisi kejahatan siber FBI dalam penyelidikan kriminal paralel dan juga berkoordinasi dengan AT&T, Verizon, dan T-Mobile untuk memblokir pesan teks berbahaya yang terkait dengan kampanye tersebut.
Perusahaan itu juga menunjuk pertahanan produknya sendiri. Google mengatakan alat pesanannya mencegat lebih dari 10 miliar pesan berbahaya setiap bulan, sementara deteksi penipuan Android dapat menandai panggilan dan kontak mencurigakan secara real time. Pertahanan tersebut mungkin membatasi jumlah upaya phishing yang berhasil, meskipun Google tidak memperkirakan berapa banyak uang yang dicuri melalui kampanye Outsider Enterprise.
Tantangannya adalah operator kelompok tersebut tetap tidak teridentifikasi. Bahkan jika nama akhirnya ditetapkan, penegakan menjadi lebih sulit ketika pelaku yang diduga berada di luar Amerika Serikat. Google dapat mengejar domain penipuan, akun Telegram, infrastruktur hosting, dan aset terkait, tetapi operasi yang mendasarinya dapat bergeser ke merek baru, domain baru, atau saluran pengiriman baru.
"Kriminal semakin menggunakan AI untuk membuat penipuan seperti ini lebih meyakinkan dan lebih sulit dideteksi," kata Brett Leatherman dari Divisi Siber FBI.
Google Mendukung Legislasi Federal yang Menargetkan Penipuan Berbantuan AI
Google menggunakan gugatan ini untuk memperbarui dukungan terhadap legislasi federal yang ditujukan bagi penipuan berbantuan AI, manipulasi pasar, dan peningkatan kesadaran publik. Perusahaan tersebut telah mendukung beberapa proposal bipartisan, termasuk National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act, dan Stop SCAMS Against Seniors Act.
Sebagian besar legislasi yang diusulkan akan mengarahkan lembaga federal untuk berkoordinasi lebih erat atas penipuan berbasis AI, membentuk satuan tugas, atau meningkatkan pendidikan publik terkait penggunaan berbahaya AI. Pendekatan itu mencerminkan pandangan yang berkembang bahwa pencegahan penipuan tidak dapat ditangani hanya lewat moderasi platform swasta atau gugatan hukum setelah kejadian.
Masalah kebijakan yang lebih luas adalah bahwa penipuan yang dihasilkan AI akan menjadi lebih sulit diidentifikasi seiring model makin membaik. Kampanye kesadaran publik dapat membantu pengguna mengenali taktik umum, tetapi penyerang kemungkinan akan terus menyempurnakan pesan, halaman, dan teknik penyamaran. Ini membuat perusahaan teknologi besar menghadapi beban ganda: membangun produk AI yang ingin digunakan orang sambil mencegah alat-alat tersebut menjadi infrastruktur untuk penipuan berskala industri.
FAQ
Apa yang dituduhkan Google kepada Outsider Enterprise?
Google menuduh Outsider Enterprise, sebuah jaringan kejahatan siber berbasis di China, menjalankan operasi phishing bertenagai AI yang menggunakan AI Gemini milik Google untuk membuat situs web palsu yang menyamar sebagai Google, YouTube, dan lembaga pemerintah. Kelompok itu, menurut tuduhan, mengoperasikan model phishing-as-a-service melalui Telegram, dengan menyediakan hampir 300 templat penipuan kepada para kriminal. Google mengatakan jaringan itu terkait dengan 9.000 situs web palsu, lebih dari 1 juta URL penipuan, dan 2,5 juta pesan teks yang dikirim ke pengguna Android.
Bagaimana Google berupaya mengganggu operasi phishing?
Google mengatakan pihaknya bekerja sama dengan divisi kejahatan siber FBI dalam penyelidikan kriminal paralel dan telah berkoordinasi dengan AT&T, Verizon, dan T-Mobile untuk memblokir pesan teks berbahaya yang terkait dengan kampanye tersebut. Perusahaan itu juga menyatakan alat pesanannya mencegat lebih dari 10 miliar pesan berbahaya setiap bulan, dan deteksi penipuan Android dapat menandai panggilan serta kontak mencurigakan secara real time. Google mengejar domain penipuan, akun Telegram, dan infrastruktur hosting yang terkait dengan jaringan tersebut.
Legislasi federal apa yang didukung Google untuk memerangi penipuan berbantuan AI?
Google telah mendukung beberapa proposal bipartisan, termasuk National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act, dan Stop SCAMS Against Seniors Act. Sebagian besar legislasi yang diusulkan akan mengarahkan lembaga federal untuk berkoordinasi lebih erat atas penipuan berbasis AI, membentuk satuan tugas, atau meningkatkan pendidikan publik terkait penggunaan berbahaya AI.
