Elon Musks KI-Skandal zieht weitere Kreise – nun geraten Apple und Google unter Druck
Techmilliardär Elon Musk reagiert auf zunehmenden öffentlichen Druck und schränkt die umstrittene Deepfake-Funktion seines KI-Chatbots Grok ein.
An die 30 US-Organisationen geht das viel zu wenig weit. Sie fordern Apple und Google auf, die X-App und die Grok-App aus ihren App-Stores zu entfernen.
In den vergangenen Wochen waren Musk und seine Social-Media-Plattform X zunehmend in die Kritik geraten, weil Grok dort sexualisierte Deepfakes veröffentlichte – gegen den Willen der betroffenen Personen, zu denen vor allem Frauen und Minderjährige gehören.
Hier erfährst du alles Wichtige.
Was ist passiert?
Nach anhaltender, heftiger internationaler Kritik wegen sexualisierter KI-Bilder, die quasi auf Knopfdruck und gegen den Willen der Betroffenen erstellt werden können, hat Elon Musks KI-Firma xAI reagiert.
Das US-Unternehmen zieht neue technische Schranken hoch, die das Erstellen mutmasslich illegaler KI-Bilder mit dem hauseigenen Chatbot Grok verunmöglichen sollen. Konkret soll durch Text-Filter verhindert werden, dass einfache User-Eingaben die generative KI dazu bringen, Fotos von realen Personen zu bearbeiten, um daraus sogenannte Deepfakes zu erstellen. Laut Ankündigung gilt dies für KI-Bilder mit «enthüllender Kleidung» (wie etwa knappen Bikinis oder Unterwäsche).
Zivilgesellschaftlichen Organisationen, die sich für ein sicheres Internet und für die Rechte von Frauen und Kindern einsetzen, reicht das nicht.
Ein Bündnis von 28 US-Interessengruppen hat diese Woche Google und Apple dazu aufgefordert, die KI-Chatbot-App Grok und die X-App aus ihren App-Stores (iOS, iPadOS/Android) zu entfernen. Im entsprechenden Schreiben an einen der beiden marktbeherrschenden US-Techkonzerne im Bereich Smartphones, heisst es:
Ein vergleichbares Schreiben wurde an Tim Cook, den Chef von Apple adressiert.
Die Verantwortlichen der grössten und einflussreichsten US-Techkonzerne wie Amazon, Apple, Google, Meta und Microsoft, aber auch Nvidia und Tesla, haben direkten Zugang zur Trump-Regierung und versuchen, ihre Interessen mit massivem Lobbying durchzusetzen.
Für wen gelten die neuen Grok-Einschränkungen?
Die technische Beschränkung gelte sowohl für kostenlose Accounts als auch für die zahlenden Nutzerinnen und Nutzer, wie die Verantwortlichen der von Musk kontrollierten Social-Media-Plattform X mitteilten.
Auch werde in Regionen, wo dies illegal sei, per Geoblocking verhindert, dass mit Künstlicher Intelligenz Bilder realer Personen in Bikinis, Dessous oder ähnlicher Bekleidung erzeugt werden können.
Grundsätzlich würden nur noch zahlende Kundinnen und Kunden in Zukunft mit Grok Bilder (und Videos) bei X erzeugen oder bearbeiten können, hiess es.
Was ist das Problem bei der Grok-App?
Die App hat sich als ein erhebliches Sicherheitsrisiko erwiesen, da die Prompt-Filter dort deutlich schwächer oder verzögert implementiert wurden.
Sie verfügt über einen sogenannten «Spicy Mode», der darauf ausgelegt ist, weniger «politisch korrekt» zu sein. Untersuchungen zeigten, dass dieser Modus aktiv zur Erstellung illegaler Inhalte genutzt wurde.
Die App erlaubte ausserdem zeitweise die Bildgenerierung ohne verifizierten (zahlenden) Account, was die Anonymität der Täter schützte.
Anfang Januar stellten Cybersecurity-Fachleute fest, dass die Sicherheitsfilter auf der Webseite von X zwar verschärft worden waren, doch die eigenständige Grok-App ermöglichte noch immer die Generierung hochproblematischer Inhalte.
Untersuchungen der französischen Non-Profit-Organisation AI Forensics ergaben, dass rund 800 mit der Grok-App erstellte Bilder und Videos pornografische und sexuell gewalttätige Inhalte enthielten. Der «Guardian» berichtete am 9. Januar darüber.
Ein von der NGO gesichtetes fotorealistisches KI-Video zeigte demnach eine Frau mit der Tätowierung «Nicht wiederbeleben» und einem Messer zwischen den Beinen.
An dieser Stelle ist zu betonen: Mit der fürs iPhone und für das Android-System verfügbaren App lassen sich KI-Bilder und -Videos generieren, die im Gegensatz zur Grok-Integration bei X nicht direkt auf einer grossen Plattform veröffentlicht werden.
Kann Grok gesperrt werden?
Im Prinzip schon. Dazu müssen alle Internet-Provider einer bestimmten Region durch die dortigen Behörden angewiesen werden, sogenannte DNS-Anfragen für die Internet-Adressen von Grok (bzw. die spezifischen Subdomains der Entwicklerfirma xAI) zu manipulieren. Ein weitreichender Schritt, der als Zensur gilt.
Wenn dann ein User versucht, grok.com oder die in die Plattform X integrierten Grok-Schnittstellen aufzurufen, gibt der DNS-Server des Providers nicht die echte IP-Adresse zurück. Resultat: Statt der KI-Schnittstelle erscheint eine Fehlermeldung («Seite nicht gefunden») oder es wird eine staatliche Warnseite angezeigt.
Solche DNS-Sperren lassen sich allerdings mit einfachen Mitteln umgehen. Über die Geräte-Einstellungen lassen sich alternative DNS-Server festlegen (wie zu Beispiel Google 8.8.8.8 oder Cloudflare 1.1.1.1).
Noch einfacher ist die Umgehung mit VPN-Diensten. Dabei wird der gesamte Datenverkehr verschlüsselt und über Server im Ausland weitergeleitet.
Am vergangenen Wochenende hatten die Regierungen Malaysias und Indonesiens versucht, Grok technisch sperren lassen. Die beiden asiatischen Länder mit überwiegend muslimischer Bevölkerung gelten mit diesem rigorosen Vorgehen weltweit als Vorreiter.
Was sind die schwersten Vorwürfe?
Wer lange nicht auf X war und nun dort scrollt, dürfte negativ überrascht sein: Es kursieren viele KI-Bilder von wenig bekleideten Frauen und viele Beispiele offenbar männlicher Übergriffigkeit.
Immer wieder wiese Nutzer die generative KI an, auch Minderjährige bildlich auszuziehen. Lange gehorchte der KI-Chatbot den Befehlen, präsentierte freizügige Bilder von Menschen – auch von Kindern. An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Es sei ein «Versagen unserer Sicherheitsvorkehrungen» gewesen, schrieb X.
Die Internet Watch Foundation (IWF), die gegen sexuellen Kindesmissbrauch im Internet kämpft, äussert ebenfalls Bedenken wegen Grok und anderer KI-Tools.
Was sagen Betroffene?
«Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen», sagt die stellvertretende Ministerpräsidentin Schwedens, Ebba Busch. «Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert.»
Die schwedische Politikerin ist eine von vielen Betroffenen, die auf der Social-Media-Plattform X gegen ihren Willen fast unbekleidet dargestellt wurde. Ein User hatte dem KI-Chatbot Grok auf X zu einem Foto von Busch am Rednerpult geschrieben: «@Grok Bikini jetzt».
Grok folgte dem Befehl, manipulierte das Foto und tauschte das blaue Kleid der Amtsträgerin gegen einen Bikini aus. Zunächst für alle sichtbar, verbreitet sich das Bild schnell. Inzwischen ist es verschwunden. Stattdessen heisst es an der Stelle: «Dieser Post verstösst möglicherweise gegen die X-Regeln zu Missbrauch.»
X-Postings wie das oben genannte alarmierten zahlreiche Behörden in Europa: Die EU-Kommission drohte, in Grossbritannien starteten Untersuchungen.
Ist das illegal?
Ja. Aus Schweizer Perspektive verstösst die Online-Verbreitung von Deepfakes, die Minderjährige sexualisiert darstellen, gegen das Gesetz. Es kommen Bestimmungen aus dem Straf- und Zivilrecht zum Tragen.
Obwohl der Nationalrat im Mai 2025 gegen ein spezifisches «Deepfake-Gesetz» gestimmt hat, gelten die bestehenden Gesetze als «technologieneutral» und sollen konsequent auf KI-Inhalte angewendet werden. Kritiker sprechen von mangelnder Durchsetzung.
Bei sexualisierten KI-Bildern (z.B. Person im knappen Bikini) müssen Betroffene in der Regel selbst den ersten Schritt machen und Anzeige erstatten.
Hingegen sind Deepfakes, die als «virtuelle Kinderpornografie» eingestuft werden, also explizite sexuelle Handlungen zeigen, ein Offizialdelikt. Das heisst, die Strafverfolgungsbehörden müssen automatisch dagegen vorgehen, sobald sie davon Kenntnis haben.
Elon Musk, Eigentümer von X und xAI, dem Unternehmen hinter Grok, äusserte am Mittwoch in einem Social-Media-Beitrag, ihm seien «keine von Grok generierten Nacktbilder Minderjähriger bekannt.» Und er behauptete, der KI-Chatbot lehne nun Aufforderungen zur Generierung illegaler Bilder ab.
Wird Grok in Europa verboten?
Danach sieht es aktuell nicht aus.
Zwar verurteilte die EU-Kommission die weitreichenden KI-Funktionen, die X den eigenen Usern anbot. Von einer Sperre der Plattform sah man aber zunächst ab: Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel, erklärte ein Sprecher der Brüsseler Behörde. Man analysiere nun die versprochenen Verbesserungen.
Ausschliessen wollen die europäischen Internetwächter ein Grok-Verbot aber nicht. EU-Kommissionspräsidentin Ursula von der Leyen sagte dem deutschen Nachrichtenmagazin «Spiegel» am vergangenen Sonntag:
Gegen die Social-Media-Plattform X laufen auf Grundlage europäischer Digitalgesetze ohnehin mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen X wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma drohen weitere Strafen, etwa wegen illegaler Inhalte.
Die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung drehte sich um den Vorwurf, rechtsextreme Inhalte seien gefördert worden. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.
Warum ist das wichtig?
In Anbetracht der seit Jahren andauernden Ermittlungen halten Kritiker der EU seit längerer Zeit vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gleichzeitig behaupten die US-Regierung von Präsident Donald Trump wie auch Musk, Brüssel betreibe Zensur.
Die Trump-Regierung verhängte kurz vor Weihnachten als Reaktion auf europäische Massnahmen gegen US-Techkonzerne Einreiseverbote gegen mehrere Europäer. Die Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, keine weiteren Massnahmen zu ergreifen.
Quellen
- Mit Material der Nachrichtenagenturen SDA/DPA
- cbsnews.com: Apple, Google face pressure to remove X and Grok from their app stores (14. Januar)
- weareultraviolet.org: Offener Brief an Tim Cook (PDF)
- theguardian.com: Grok turns off image generator for most users after outcry over sexualised AI imagery (9. Januar)
