Google 已針對 Outsider Enterprise 提起訴訟，該公司是一家位於中國的網路犯罪網路，被指控透過簡訊與假網站對 Android 使用者進行由 AI 驅動的釣魚行動。公司指稱該團體使用 Google 的 Gemini AI 建立詐欺性網站，冒充 Google、YouTube 與政府機關，並透過 Telegram 運作「釣魚即服務」模式。Google 表示，該網路與 9,000 個假網站、超過 1 百萬個詐欺性 URL 以及發送給 Android 使用者的 250 萬則簡訊相關；其中約 55,000 則垃圾簡訊在 5 月一段為期兩週的期間內被標記。這是 Google 首次針對被指控在詐騙工作流程中使用 Gemini 的團體採取直接的法律行動。此訴訟凸顯詐欺從「抽象的 AI 濫用疑慮」轉向「有記錄的詐欺作業」，因為生成式 AI 工具降低了犯罪者擴大釣魚行動規模的技術門檻。
Outsider Enterprise 透過 Telegram 經營「釣魚即服務」
Google 表示，該團體透過 Telegram 運作，並向不需要進階技術能力的犯罪者提供「釣魚即服務」工具。該網路被指稱提供使用 Google 的 Gemini AI 來建置冒充 Google、YouTube 與政府機關（包含紐約的 E-ZPass 系統）的詐騙性網站之指引。
Google 表示，該團體提供近 300 個詐騙模板，並與 9,000 個假網站及超過 1 百萬個詐欺性 URL 相關。該行動導致超過 250 萬則簡訊送達 Android 使用者，其中約 55,000 則垃圾簡訊在 5 月一段為期兩週的期間內被標記。
這些訊息常常警告使用者帳戶問題、包裹疑慮、通行費繳款，或其他緊急指稱。點擊連結的受害者會被導向設計得看似正規的假網站，攻擊者試圖竊取個人資訊、銀行資料以及付款憑證。
據稱使用 Gemini AI 以規模化方式產生詐欺性網站
據稱使用生成式 AI 會改變釣魚的經濟性。過去需要人工設計的詐欺頁面，如今可以更快產出、跨品牌進行調整，並透過現成模板部署。這降低了對技術能力較不足的犯罪者的門檻，並讓詐騙網路能夠在數千個 URL 的規模上擴大行動。
對科技公司而言，此案也凸顯一項艱難的產品張力。AI 系統被打造來遵循指示並生成精緻的輸出，但相同能力也可能被濫用來製作令人信服的假網站、客服訊息，以及品牌冒充頁面。更強的防護欄柵能夠降低濫用，但攻擊者往往會尋找間接指令、模板重複使用，或能繞過偵測的外部工作流程。
Google 與 FBI 及電信業者協作以封鎖惡意訊息
Google 表示，正與 FBI 的網路犯罪部門進行平行的刑事調查，並同時與 AT&T、Verizon 與 T-Mobile 協調，以封鎖與該行動相關的惡意簡訊。
該公司也指出其自家產品防護機制。Google 表示，其訊息工具每個月會攔截超過 100 億則惡意訊息，而 Android 的詐騙偵測能在即時偵測可疑通話與聯絡人。這些防護可能已將成功釣魚的嘗試數量限制住，儘管 Google 沒有估計透過 Outsider Enterprise 行動竊取了多少金錢。
難題在於該團體的操作者仍未被辨識。即使之後確認了姓名，當被指控的行為者位於美國境外時，執法會變得更困難。Google 能追查詐欺性網域、Telegram 帳號、託管基礎設施以及相關資產，但這項底層作業可能會轉向新的品牌、新的網域或新的投遞管道。
「犯罪分子日益使用 AI 讓這類詐欺更具說服力、更難被偵測，」FBI 網路部門的發言人表示。
Google 支持鎖定「AI 協助詐騙」的聯邦立法
Google 正在利用此訴訟，來延續對針對 AI 協助詐騙、操弄市場與提升公眾認知之聯邦立法的支持。該公司支持多項跨黨派提案，包括《National Strategy for Combating Scams Act》、《Strategic Task Force on Scam Prevention Act》、《AI Plan Act》以及《Stop SCAMS Against Seniors Act》。
大多數所提立法將要求聯邦機關在 AI 驅動詐欺上更緊密協調、成立工作小組，或強化公眾教育，以因應 AI 的惡意用途。這種做法反映出一種日益增長的觀點：防詐欺不能僅仰賴私人平台的內容審查或事後的訴訟。
更廣泛的政策問題在於，隨著模型愈趨成熟，AI 生成的詐騙將變得更難辨識。公眾宣導活動或許能協助使用者辨識常見手法，但攻擊者很可能持續精進訊息、頁面與冒充技巧。這使大型科技公司面臨雙重負擔：一方面要打造人們想使用的 AI 產品，另一方面要避免那些工具成為用於工業規模詐欺的基礎設施。
FAQ
Google 指控 Outsider Enterprise 做了什麼？
Google 指控 Outsider Enterprise（這是一個位於中國的網路犯罪網路）運作一項由 AI 驅動的釣魚行動，該行動使用 Google 的 Gemini AI 來建立冒充 Google、YouTube 與政府機關的假網站。該集團被指稱透過 Telegram 經營「釣魚即服務」模式，向犯罪者提供近 300 個詐騙模板。Google 表示，該網路與 9,000 個假網站、超過 1 百萬個詐欺性 URL，以及送達 Android 使用者的 250 萬則簡訊相關。
Google 如何協助打斷這項釣魚行動？
Google 表示，正與 FBI 的網路犯罪部門進行平行的刑事調查，並已與 AT&T、Verizon 與 T-Mobile 協調以封鎖與該行動相關的惡意簡訊。該公司也表示，其訊息工具每個月會攔截超過 100 億則惡意訊息，而 Android 的詐騙偵測能在即時標記可疑通話與聯絡人。Google 正追查與該網路相關的詐欺性網域、Telegram 帳號與託管基礎設施。
Google 支持哪些聯邦立法以打擊 AI 協助的詐騙？
Google 支持多項跨黨派提案，包括《National Strategy for Combating Scams Act》、《Strategic Task Force on Scam Prevention Act》、《AI Plan Act》以及《Stop SCAMS Against Seniors Act》。大多數所提立法將要求聯邦機關在 AI 驅動詐欺上更緊密協調、成立工作小組，或強化公眾教育，以因應 AI 的惡意用途。
