Google ได้ยื่นฟ้อง Outsider Enterprise ซึ่งเป็นเครือข่ายอาชญากรรมไซเบอร์ที่ตั้งอยู่ในจีน โดยถูกกล่าวหาว่าดำเนินการฟิชชิงที่ขับเคลื่อนด้วย AI โดยกำหนดเป้าผู้ใช้ Android ผ่านข้อความ SMS และเว็บไซต์ปลอม บริษัทอ้างว่ากลุ่มดังกล่าวใช้ AI ของ Google อย่าง Gemini เพื่อสร้างเว็บไซต์หลอกลวงที่ปลอมตัวเป็น Google, YouTube และหน่วยงานภาครัฐ โดยดำเนินรูปแบบฟิชชิงในเชิงบริการ (phishing-as-a-service) ผ่าน Telegram Google ระบุว่าเครือข่ายนี้เชื่อมโยงกับเว็บไซต์ปลอมจำนวน 9,000 แห่ง มากกว่า 1 ล้าน URL ปลอม และส่งข้อความ 2.5 ล้านข้อความไปยังผู้ใช้ Android โดยมีข้อความสแปมประมาณ 55,000 ข้อความที่ถูกตรวจพบในช่วง 2 สัปดาห์ของเดือนพฤษภาคม คดีนี้ถือเป็นกรณีแรกที่ Google ดำเนินการทางกฎหมายโดยตรงต่อกลุ่มที่ถูกกล่าวหาว่าใช้ Gemini เป็นส่วนหนึ่งของเวิร์กโฟลว์ในการหลอกลวง คำฟ้องยังสะท้อนการเปลี่ยนจากความกังวลเรื่องการใช้ AI อย่างผิดวัตถุประสงค์ในเชิงนามธรรม ไปสู่ปฏิบัติการฉ้อโกงที่มีหลักฐานชัดเจน เนื่องจากเครื่องมือ AI เชิงสร้างสรรค์ทำให้ผู้กระทำผิดสามารถขยายแคมเปญฟิชชิงได้ในระดับใหญ่ โดยลดอุปสรรคทางเทคนิค
Outsider Enterprise Operated Phishing-as-a-Service via Telegram
Google ระบุว่ากลุ่มดังกล่าวดำเนินการผ่าน Telegram และเสนอเครื่องมือแบบ phishing-as-a-service ให้กับอาชญากรที่ไม่จำเป็นต้องมีทักษะด้านเทคนิคขั้นสูง เครือข่ายดังกล่าวถูกกล่าวหาว่าให้คำแนะนำสำหรับการใช้ Gemini AI ของ Google เพื่อสร้างเว็บไซต์ปลอมที่เลียนแบบ Google, YouTube และหน่วยงานภาครัฐ รวมถึงระบบ E-ZPass ของนิวยอร์ก
Google ระบุว่ากลุ่มดังกล่าวมีเทมเพลตสำหรับหลอกลวงเกือบ 300 แบบ และเชื่อมโยงกับเว็บไซต์ปลอม 9,000 แห่ง และมากกว่า 1 ล้าน URL ปลอม แคมเปญดังกล่าวส่งผลให้มีการส่งข้อความมากกว่า 2.5 ล้านข้อความไปยังผู้ใช้ Android รวมถึงข้อความสแปมประมาณ 55,000 ข้อความที่ถูกตรวจพบในช่วง 2 สัปดาห์ของเดือนพฤษภาคม
ข้อความมักเตือนผู้ใช้เกี่ยวกับปัญหาบัญชี ปัญหาเกี่ยวกับพัสดุ ค่าผ่านทาง หรือข้อกล่าวอ้างเร่งด่วนอื่นๆ ผู้เสียหายที่กดลิงก์จะถูกพาไปยังเว็บไซต์ปลอมที่ออกแบบให้ดูน่าเชื่อถือ ซึ่งผู้โจมตีพยายามขโมยข้อมูลส่วนบุคคล รายละเอียดด้านการเงิน และข้อมูลสำหรับการชำระเงิน
Gemini AI Allegedly Used to Generate Fraudulent Websites at Scale
การกล่าวอ้างการใช้งาน AI แบบเจนเนอเรทีฟเปลี่ยนเศรษฐศาสตร์ของการฟิชชิง หน้าเว็บปลอมที่เคยต้องอาศัยการออกแบบด้วยมือสามารถผลิตได้เร็วขึ้น ปรับใช้ข้ามแบรนด์ และนำไปใช้งานผ่านเทมเพลตที่พร้อมใช้งานอยู่แล้ว ซึ่งลดอุปสรรคสำหรับอาชญากรที่มีทักษะด้านเทคนิคน้อยกว่า และทำให้เครือข่ายหลอกลวงสามารถขยายแคมเปญไปยัง URL จำนวนหลายพันรายการได้
สำหรับบริษัทเทคโนโลยี กรณีนี้ยังชี้ให้เห็นถึงความตึงเครียดของผลิตภัณฑ์ที่แก้ยาก ระบบ AI ถูกออกแบบมาเพื่อทำตามคำสั่งและสร้างผลลัพธ์ที่ดูดี แต่ความสามารถเดียวกันนั้นสามารถถูกนำไปใช้ในทางที่ผิดเพื่อสร้างเว็บไซต์ปลอมที่น่าเชื่อถือ ข้อความสำหรับฝ่ายบริการลูกค้า และหน้าเว็บปลอมตัวเป็นแบรนด์ได้ แผงกั้นการใช้งานที่เข้มงวดยิ่งขึ้นอาจลดการนำไปใช้ในทางที่ผิดได้ แต่ผู้โจมตีมักมองหาพรอมป์ต์แบบอ้อมๆ การนำเทมเพลตกลับมาใช้ซ้ำ หรือเวิร์กโฟลว์ภายนอกที่หลีกเลี่ยงการตรวจจับ
Google Coordinates with FBI and Telecom Carriers to Block Malicious Messages
Google ระบุว่า กำลังทำงานร่วมกับฝ่ายไซเบอร์อาชญากรรมของ FBI ในการสืบสวนทางอาญาแบบคู่ขนาน และยังได้ประสานกับ AT&T, Verizon และ T-Mobile เพื่อบล็อกข้อความ SMS ที่เป็นอันตรายซึ่งเชื่อมโยงกับแคมเปญนี้
บริษัทก็ชี้ถึงระบบป้องกันของตนเองด้วยเช่นกัน Google ระบุว่าเครื่องมือด้านข้อความของตนสามารถสกัดกั้นข้อความที่เป็นอันตรายได้มากกว่า 10 พันล้านข้อความในแต่ละเดือน ขณะที่การตรวจจับการหลอกลวงใน Android สามารถตรวจพบสายที่น่าสงสัยและรายชื่อติดต่อได้แบบเรียลไทม์ การป้องกันเหล่านี้อาจช่วยจำกัดจำนวนความพยายามฟิชชิงที่ประสบความสำเร็จ แม้ว่า Google จะไม่ได้ประเมินว่ามีเงินเท่าใดถูกขโมยผ่านแคมเปญของ Outsider Enterprise
ความท้าทายคือผู้ปฏิบัติการของกลุ่มยังไม่ถูกระบุตัว แม้จะมีการตั้งชื่อได้ในภายหลัง การบังคับใช้กฎหมายจะยากขึ้นเมื่อผู้กระทำที่ถูกกล่าวหาอยู่นอกสหรัฐอเมริกา Google สามารถดำเนินการกับโดเมนปลอม บัญชี Telegram โครงสร้างพื้นฐานด้านโฮสติ้ง และสินทรัพย์ที่เกี่ยวข้องได้ แต่ปฏิบัติการเบื้องหลังอาจเปลี่ยนไปใช้แบรนด์ใหม่ โดเมนใหม่ หรือช่องทางการส่งมอบแบบใหม่
"Brett Leatherman จากฝ่าย Cyber Division ของ FBI กล่าวว่า “อาชญากรใช้ AI มากขึ้นเพื่อทำให้การฉ้อโกงแบบนี้น่าเชื่อถือขึ้นและตรวจจับได้ยากขึ้น”"
Google Backs Federal Legislation Targeting AI-Assisted Scams
Google กำลังใช้คดีความเพื่อขอเสียงสนับสนุนกฎหมายระดับรัฐบาลกลางที่มุ่งเป้าไปที่การหลอกลวงที่ช่วยด้วย AI การบิดเบือนตลาด และการสร้างความตระหนักรู้สาธารณะ บริษัทได้หนุนข้อเสนอหลายฉบับที่มาจากทั้งสองพรรคการเมือง รวมถึง National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act และ Stop SCAMS Against Seniors Act
กฎหมายส่วนใหญ่ที่เสนอจะให้หน่วยงานรัฐบาลกลางประสานงานกันอย่างใกล้ชิดมากขึ้นเกี่ยวกับการฉ้อโกงที่ใช้พลัง AI จัดตั้งคณะทำงาน หรือยกระดับการให้ความรู้แก่สาธารณะเกี่ยวกับการใช้ AI ในทางที่เป็นอันตราย แนวทางดังกล่าวสะท้อนมุมมองที่เพิ่มขึ้นว่า การป้องกันการฉ้อโกงไม่อาจจัดการได้ด้วยการกลั่นกรองเนื้อหาในแพลตฟอร์มเอกชนเพียงอย่างเดียว หรือด้วยการฟ้องร้องหลังเกิดเหตุเท่านั้น
ปัญหานโยบายในภาพรวมคือ การหลอกลวงที่สร้างโดย AI จะยิ่งระบุได้ยากขึ้นเมื่อโมเดลพัฒนาขึ้น แคมเปญสร้างความตระหนักรู้ต่อสาธารณะอาจช่วยให้ผู้ใช้จดจำกลยุทธ์ที่พบบ่อยได้ แต่ผู้โจมตีน่าจะยังคงปรับปรุงข้อความ หน้าเว็บ และเทคนิคการปลอมตัวอย่างต่อเนื่อง ส่งผลให้บริษัทเทคโนโลยีขนาดใหญ่ต้องแบกรับภาระคู่ ทั้งการสร้างผลิตภัณฑ์ AI ที่ผู้คนอยากใช้ พร้อมทั้งป้องกันไม่ให้เครื่องมือเหล่านั้นกลายเป็นโครงสร้างพื้นฐานสำหรับการฉ้อโกงระดับอุตสาหกรรม
FAQ
Google กล่าวหาว่า Outsider Enterprise ทำอะไร?
Google กล่าวหา Outsider Enterprise ซึ่งเป็นเครือข่ายอาชญากรรมไซเบอร์ที่ตั้งอยู่ในจีน ว่าดำเนินการปฏิบัติการฟิชชิงที่ขับเคลื่อนด้วย AI โดยใช้ Gemini AI ของ Google เพื่อสร้างเว็บไซต์ปลอมที่ปลอมตัวเป็น Google, YouTube และหน่วยงานภาครัฐ เครือข่ายดังกล่าวถูกกล่าวหาว่าดำเนินรูปแบบฟิชชิงในเชิงบริการผ่าน Telegram โดยให้เทมเพลตสำหรับหลอกลวงเกือบ 300 แบบแก่เหล่าอาชญากร Google ระบุว่าเครือข่ายนี้เชื่อมโยงกับเว็บไซต์ปลอม 9,000 แห่ง มากกว่า 1 ล้าน URL ปลอม และข้อความ 2.5 ล้านข้อความที่ส่งไปยังผู้ใช้ Android
Google ทำอะไรเพื่อสกัดกั้นปฏิบัติการฟิชชิง?
Google ระบุว่า กำลังทำงานร่วมกับฝ่ายไซเบอร์อาชญากรรมของ FBI ในการสืบสวนทางอาญาแบบคู่ขนาน และได้ประสานกับ AT&T, Verizon และ T-Mobile เพื่อบล็อกข้อความ SMS ที่เป็นอันตรายซึ่งเชื่อมโยงกับแคมเปญดังกล่าว บริษัทระบุด้วยว่าเครื่องมือด้านข้อความของตนสกัดกั้นข้อความที่เป็นอันตรายได้มากกว่า 10 พันล้านข้อความต่อเดือน และการตรวจจับการหลอกลวงบน Android สามารถตรวจพบสายที่น่าสงสัยและรายชื่อติดต่อได้แบบเรียลไทม์ Google กำลังดำเนินการกับโดเมนปลอม บัญชี Telegram และโครงสร้างพื้นฐานด้านโฮสติ้งที่เกี่ยวข้องกับเครือข่ายนี้
Google สนับสนุนกฎหมายระดับรัฐบาลกลางฉบับใดเพื่อรับมือการหลอกลวงที่ช่วยด้วย AI?
Google ได้หนุนข้อเสนอหลายฉบับที่มาจากทั้งสองพรรคการเมือง รวมถึง National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act และ Stop SCAMS Against Seniors Act กฎหมายส่วนใหญ่ที่เสนอจะให้หน่วยงานรัฐบาลกลางประสานงานกันอย่างใกล้ชิดมากขึ้นเกี่ยวกับการฉ้อโกงที่ใช้พลัง AI จัดตั้งคณะทำงาน หรือยกระดับการให้ความรู้แก่สาธารณะเกี่ยวกับการใช้ AI ในทางที่เป็นอันตราย
