Theo hồ sơ pháp lý của Google, công ty đã kiện mạng lưới tội phạm mạng người Trung Quốc Outsider Enterprise vào tháng trước vì sử dụng Gemini AI để tự động hóa các vụ lừa đảo lừa người qua email. Hoạt động qua Telegram, Outsider Enterprise cung cấp hướng dẫn cách dùng Gemini để tạo các trang web gian lận giả mạo Google, YouTube và các cơ quan chính phủ, cung cấp gần 300 mẫu lừa đảo cho người dùng.
Các vụ lừa đảo do mạng lưới này gây ra đã dẫn đến việc gửi hơn 2,5 triệu tin nhắn văn bản tới người dùng Android, trong đó 55.000 tin nhắn được gửi trong giai đoạn hai tuần vào tháng trước. Google đã theo dõi 9.000 trang web giả và 1 triệu URL liên quan đến chiến dịch này. Google đã phối hợp với AT&T, Verizon và T-Mobile để chặn các tin nhắn độc hại.