金曜日、Googleは、いわゆる中国のサイバー犯罪ネットワークであるOutsider Enterpriseに対し、同社のGemini AIを使って、米国の多数の被害者に向けた詐欺的なテキストメッセージ配信を自動化したとして訴訟を起こした。被告らは、裁判書類によれば、Gemini AIを使って、正規の通信事業者のポータルを装う偽のウェブサイトのためのコードとテンプレートを生成したとされる。FBIは、この作戦が多数の国で8,000件以上のフィッシングサイトを展開し、推定で3.87 millionのクレジットカード番号を盗んだほか、2023年7月以降の損失はおよそ19億ドルに上ると述べた。
Google、フィッシング・キャンペーンでのGemini AIの不正利用を主張
Googleは、Gemini AIを使って詐欺的なキャンペーンを動かしたとされるとして、Outsider Enterpriseをニューヨークの連邦裁判所に提訴した。裁判書類によれば、被告らは2.5 million件の詐欺メッセージを送信し、8,000件のフィッシングサイトを作成して、金融口座を狙ったとされる。
Googleは、6月1日に終わる2週間の期間にGoogleメッセージ上で不審なメッセージに関する約55,000件の通報を受けており、その多くはOutsider Enterpriseに関連しているとされる。フィッシングサイトは、暗号資産ウォレットや取引所の認証情報など、さまざまな金融口座を標的にしていたとされる。
FBI、2023年7月以降に3.87 millionのクレジットカード番号が盗まれたと報告
FBIは、当該作戦が3.87 millionのクレジットカード番号を盗み、2023年7月以降の損失が19億ドルに及んだと見積もっている。捜査機関は、2025年にインターネット犯罪に関する合計1,008,597件の通報を受けており、そのうち暗号資産関連の通報が181,565件で、損失は11 billionドルだった――これはいかなるカテゴリよりも最大だった。
FBIのインターネット犯罪苦情センターが、約25年の歴史の中で初めて、人工知能（AI）詐欺に関するセクションを設けた。同セクションが生んだのは22,364件の苦情で、2025年に米国人の負担は約893 millionドルにのぼった。
FBIは2024年に「Operation Level Up」を開始
2024年に開始されたFBIのOperation Level Upは、8,000件以上の暗号資産詐欺の被害者に通知し、潜在的な損失として5億ドル超を防いできた。Googleの訴訟は、金融システムに対してAIツールを武器化する悪事を行った者の責任を追及しようとする上での転換点（ウォーターシェッド）を示している。
よくある質問
GoogleはOutsider Enterpriseに何をしたとしているの？
Googleは金曜日、Outsider Enterpriseに対し、Gemini AIを使って、米国の多数の被害者を狙った詐欺的なテキストメッセージ配信を自動化したとして訴訟を起こした。被告らは、Gemini AIを使って、正規の通信事業者ポータルを装う偽のウェブサイトのためのコードとテンプレートを生成し、2.5 million件の詐欺メッセージを送信し、金融口座を標的にする8,000件のフィッシングサイトを作成したとされる。
FBIは、この作戦でいくら失われたと見積もった？
FBIは、この作戦が3.87 millionのクレジットカード番号を盗み、2023年7月以降の損失が19億ドルに及んだと見積もっている。Googleメッセージ上で不審なメッセージに関する通報は、6月1日に終わる2週間の期間に約55,000件あり、その多くはOutsider Enterpriseに関連しているとされる。
FBIは2025年にAI詐欺の苦情を何件受け取ったの？
FBIのインターネット犯罪苦情センターは、約25年の歴史の中で初めて、人工知能（AI）詐欺に関するセクションを設けた。そこでは22,364件の苦情が出て、2025年に米国人の負担が約893 millionドルに達した。FBIは2025年にインターネット犯罪に関する合計1,008,597件の通報を受けており、暗号資産関連の通報が181,565件で、損失は11 billionドルだった。
