Und jetzt rate, wofür Elon Musks KI-Chatbot Grok vor allem genutzt wird
Das KI-Modell Grok des Unternehmens xAI wird einem Bericht zufolge überwiegend zur Erzeugung pornografischer Inhalte verwendet. Mehr als die Hälfte des gesamten Datenverkehrs entfalle auf nicht jugendfreie Anfragen, sagten zwei frühere Mitarbeiter dem US-Magazin «The Information». Darunter seien Bilder und Videos sowie Chats mit erotischen Rollenspielen.
Dem Bericht zufolge greifen Nutzer für solche Inhalte sogar auf das eigentlich für Programmieraufgaben gedachte Modell zurück, weil dessen Nutzung günstiger ist. Für die Premiumversion Grok Imagine verlangt xAI bis zu 300 US-Dollar im Monat, umgerechnet gut 240 Franken.
Gemäss den Angaben im Börsenprospekt des inzwischen mit xAI verschmolzenen Raumfahrtkonzerns SpaceX erzeugte Grok im ersten Quartal 2026 monatlich rund zehn Milliarden Bilder und zwei Milliarden Videos.
Schwierige Abgrenzung zu illegalem Material
Intern stellt die Abgrenzung zu strafbaren Inhalten das Unternehmen laut den journalistischen Recherchen vor Probleme. Ingenieure hätten in mehreren Sitzungen beraten, wie sich Anfragen nach Darstellungen sexuellen Missbrauchs von Kindern unterbinden liessen, ohne sämtliche Inhalte für Erwachsene zu sperren. Eine schnelle technische Lösung gebe es nicht; das grosse Sprachmodell (LLM) müsse den Unterschied erst durch menschliche Rückmeldungen lernen.
Bereits Ende vergangenen Jahres hatten Nutzer auf der Plattform X massenhaft veränderte Bilder realer Personen erzeugt, indem sie das Grok-Konto in ihren Beiträgen markierten. X schränkte diese Funktion später ein.
Anfang dieses Jahres kündigten Aufsichtsbehörden in der EU, in Frankreich und in Grossbritannien Untersuchungen an, da Grok auch sexualisierte Darstellungen Minderjähriger erzeugt haben soll.
Konkurrenten setzen engere Grenzen
Nach eigenen Angaben hat xAI seine Filter verschärft und untersagt pornografische Darstellungen realer Personen. Diese Sperren sollen sich «The Information» zufolge aber vergleichsweise leicht umgehen lassen.
Andere Anbieter gehen zurückhaltender vor. Anthropic untersagt in seinen Nutzungsbedingungen sexuell explizite Inhalte und bietet keine Modelle zur Bild- oder Videoerzeugung an. Und der ChatGPT-Entwickler OpenAI hatte im Herbst angekündigt, erwachsenen Nutzern erotische Inhalte zu ermöglichen, die Pläne dann aber zurückgestellt. Auch Google und der Bilddienst Midjourney verbieten solche Inhalte.
Verwendete Quellen
- theinformation.com: XAI Bets on Grok’s Racy Side (kostenpflichtig)
- docs.x.ai: FAQ – Grok Website / Apps
- T-Online-Recherche
(dsc/t-online)
