谷歌已对 Outsider Enterprise 提起诉讼。Outsider Enterprise 是一家总部位于中国的网络犯罪组织，被指控运营一套由 AI 驱动的网络钓鱼行动。该行动通过短信和假网站瞄准了 Android 用户。该公司指控该组织使用谷歌的 Gemini AI 来构建冒充谷歌、YouTube 以及政府机构的欺诈网站，并通过 Telegram 运营“网络钓鱼即服务”的模式。谷歌表示，该网络与 9,000 个虚假网站、超过 1,000,000 个欺诈 URL 以及发送给 Android 用户的 250 万条短信有关，其中在 5 月为期两周的时间里，有约 55,000 条垃圾短信被标记。此案是谷歌首次对一个被指将 Gemini 用于诈骗工作流的团伙采取直接的法律行动。诉讼凸显了从“抽象的 AI 误用担忧”转向“已被记录的诈骗行动”，因为生成式 AI 工具降低了犯罪分子扩大网络钓鱼活动规模的技术门槛。
Outsider Enterprise 通过 Telegram 运营“网络钓鱼即服务”
谷歌表示，该组织通过 Telegram 开展业务，并向不需要高深技术技能的犯罪分子提供“网络钓鱼即服务”工具。据称，该网络提供使用谷歌 Gemini AI 来构建模仿谷歌、YouTube 以及政府机构的欺诈网站的指导，包括纽约州的 E-ZPass 系统。
谷歌称，该组织提供了近 300 个诈骗模板，并与 9,000 个假网站以及超过 1,000,000 个欺诈 URL 有关。该行动导致向 Android 用户发送了超过 250 万条短信，其中约 55,000 条垃圾短信在 5 月为期两周的时间里被标记。
这些短信常常警告用户存在账户问题、包裹问题、通行费支付问题或其他紧急事项。受害者点击链接后，会被引导至旨在看起来真实可信的假网站，攻击者试图窃取个人信息、银行信息以及支付凭证。
据称使用 Gemini AI 在规模上生成欺诈网站
据称使用生成式 AI 改变了网络钓鱼的经济性。曾经需要人工设计的诈骗页面，如今可以更快地生成、在不同品牌间进行适配，并通过现成模板部署。这降低了对技术要求较低的犯罪分子的门槛，并使诈骗网络能够在成千上万的 URL 上扩大投放规模。
对科技公司而言，此案也凸显了一个棘手的产品张力。AI 系统被构建为遵循指令并生成打磨精良的输出，但这些能力同样可能被滥用于制作令人信服的假网站、客户服务信息以及品牌冒充页面。更强的防护栏杆可以减少滥用，但攻击者往往会寻找间接提示、模板复用或绕过检测的外部工作流。
谷歌与 FBI 及电信运营商协作阻断恶意短信
谷歌表示，它正在与 FBI 的网络犯罪部门开展并行的刑事调查，并且还与 AT&T、Verizon 和 T-Mobile 协调，以阻断与此次行动相关的恶意短信。
该公司还提到了自身的产品防御措施。谷歌表示，其消息工具每月会拦截超过 100 亿条恶意消息，而 Android 的诈骗检测可以实时标记可疑来电和联系人。尽管这些防御措施可能减少了成功的网络钓鱼尝试数量，但谷歌并未估计通过 Outsider Enterprise 的相关行动实际被盗走了多少钱。
挑战在于：该组织的运营者仍未被识别。即使最终确认了姓名，当被指控的肇事者位于美国境外时，执法会变得更加困难。谷歌可以追查欺诈域名、Telegram 账号、托管基础设施以及相关资产，但底层行动可能会转向新的品牌、新的域名或新的投递渠道。
“犯罪分子越来越多地使用 AI，让这种诈骗变得更具说服力、也更难被识别，”FBI 网络部门的 Brett Leatherman 说。
谷歌支持针对 AI 辅助诈骗的联邦立法
谷歌正在利用这起诉讼来重申对旨在打击 AI 辅助诈骗、市场操纵以及提升公众认知的联邦立法的支持。该公司支持多项两党提案，包括《打击诈骗国家战略法案》（National Strategy for Combating Scams Act）、《防范诈骗战略工作组法案》（Strategic Task Force on Scam Prevention Act）、《AI 规划法案》（AI Plan Act）以及《阻止针对长者的 SCAMS 法案》（Stop SCAMS Against Seniors Act）。
大多数拟议立法将要求联邦机构在 AI 赋能的欺诈方面加强协同，设立工作组，或提升公众教育以应对 AI 的恶意使用。这种做法反映出一种不断增长的观点：诈骗预防不能仅依赖私营平台的内容审核，或事后才通过诉讼来处理。
更广泛的政策问题在于：随着模型不断改进，AI 生成的诈骗将会变得更难识别。公众认知宣传可能有助于用户识别常见手法，但攻击者很可能持续完善诈骗信息、页面以及冒充技巧。于是，大型科技公司将面临双重负担：既要打造人们愿意使用的 AI 产品，又要阻止这些工具沦为面向工业规模诈骗的基础设施。
常见问题
谷歌指控 Outsider Enterprise 做了什么？
谷歌指控 Outsider Enterprise（一个总部位于中国的网络犯罪组织）运营一套由 AI 驱动的网络钓鱼行动，该行动使用谷歌的 Gemini AI 创建冒充谷歌、YouTube 以及政府机构的假网站。该组织据称通过 Telegram 运营“网络钓鱼即服务”的模式，为犯罪分子提供近 300 个诈骗模板。谷歌表示，该网络与 9,000 个假网站、超过 1,000,000 个欺诈 URL 以及发送给 Android 用户的 250 万条短信有关。
谷歌将如何努力打断这起网络钓鱼行动？
谷歌表示，它正在与 FBI 的网络犯罪部门合作开展并行的刑事调查，并且已与 AT&T、Verizon 和 T-Mobile 协调，以阻断与此次行动相关的恶意短信。该公司还表示，其消息工具每月会拦截超过 100 亿条恶意消息，而 Android 诈骗检测能够实时标记可疑来电和联系人。谷歌正在追查与该网络相关的欺诈域名、Telegram 账号以及托管基础设施。
谷歌支持哪些联邦立法来打击 AI 辅助诈骗？
谷歌支持多项两党提案，包括《打击诈骗国家战略法案》（National Strategy for Combating Scams Act）、《防范诈骗战略工作组法案》（Strategic Task Force on Scam Prevention Act）、《AI 规划法案》（AI Plan Act）以及《阻止针对长者的 SCAMS 法案》（Stop SCAMS Against Seniors Act）。大多数拟议立法将要求联邦机构在 AI 赋能的欺诈方面加强协同，设立工作组，或提升公众教育以应对 AI 的恶意使用。
