Grok NSFW-Inhalte machen über 50 % des Traffics aus; das Premium-Abo kostet 300 US-Dollar pro Monat.

Laut Beating haben ehemalige xAI-Mitarbeiter offengelegt, dass über die Hälfte des Grok-Traffics von Erwachseneninhalten stammt, darunter NSFW-Bilder, -Videos und Rollenspiel-Gespräche. Die Premium-Abonnementstufe Grok Imagine generiert beträchtliche Einnahmen in Höhe von 300 US-Dollar pro Monat, während xAIs Codegenerierungsmodelle aufgrund niedrigerer Betriebskosten ebenfalls für die Erstellung von Erwachsenenbildern umfunktioniert werden. SpaceXs Börsengang-Unterlagen offenbarten, dass die KI-Abteilung im Jahr 2025 Einnahmen in Höhe von 3,2 Milliarden US-Dollar erzielte und bis zum ersten Quartal 2026 monatlich 10 Milliarden Bild- und 2 Milliarden Videogenerierungen erreichte.

Die Lockerung der Inhalte hat behördliche Prüfung und interne Abgänge ausgelöst. Die EU, Frankreich und das Vereinigte Königreich haben Untersuchungen zur Erstellung von Material über sexuellen Kindesmissbrauch durch Grok eingeleitet. Innerhalb von xAI führten Bedenken hinsichtlich der Erstellung von Deepfake-Nacktbildern zu Abgängen, wobei einige Ingenieure zur Entwicklung des sexualisierten Avatars „Ani“ umgesetzt wurden. SpaceXs Einreichung warnt, dass die Fähigkeit von Grok, „offene, ungefilterte Inhalte“ zu generieren, Reputations- und Risiken durch explizite Bilder birgt.