Laut Googles rechtlicher Einreichung hat das Unternehmen das chinesische Cybercrime-Netzwerk Outsider Enterprise im vergangenen Monat verklagt, weil es Gemini-KI genutzt habe, um Phishing-Betrugsmaschen zu automatisieren. Über Telegram agierend, gab Outsider Enterprise Anweisungen, wie man Gemini verwendet, um betrügerische Websites zu erstellen, die Google, YouTube und Regierungsbehörden nachahmen, und bot den Nutzern fast 300 Betrugs-Templates an.
Die von dem Netzwerk ermöglichten Betrügereien führten zu mehr als 2,5 Millionen Textnachrichten, die an Android-Nutzer gesendet wurden, darunter 55.000 Nachrichten in einem zweiwöchigen Zeitraum im vergangenen Monat. Google hat 9.000 gefälschte Websites sowie 1 Million URLs erfasst, die mit der Aktion in Verbindung stehen. Google arbeitete mit AT&T, Verizon und T-Mobile zusammen, um die schädlichen Nachrichten zu blockieren.