Was als KI-Bildfunktion begann, entwickelte sich schnell zu einer internationalen Krise. Nachdem Grok pornografische Deepfakes erzeugt hatte, versuchte X, die Folgen einzudämmen, indem der Zugriff eingeschränkt wurde.
Der Versuch des Unternehmens, die Kontroverse einzudämmen, indem es die Bildgenerierung von Grok auf zahlende Abonnenten beschränkte, hat weitere Kritik ausgelöst. Laut einem CNN-Bericht vom 9. Jan. hat diese Reaktion die Kritiker keineswegs besänftigt: Regierungsvertreter aus den USA, dem Vereinigten Königreich, der EU und Asien fordern angesichts der Sicherheits- und Ethikversäumnisse von Grok schärfere Maßnahmen.
Seit Beginn der Kontroverse am 28. Dez. 2025 haben sich zahlreiche Ereignisse unter Beteiligung mehrerer Länder ereignet. Hier sind fünf der wichtigsten Geschichten, die den bisherigen Verlauf dieser Nachrichten geprägt haben.
- 1. US-Senatoren fordern Apple und Google auf, Grok und die übergeordnete Plattform X zu entfernen
- 2. Das Vereinigte Königreich erwägt ein Verbot von X
- 3. Angebliche Mutter von Elons 13. Kind unter den Betroffenen
- 4. Indien droht mit strengen Regeln, während Malaysia den Druck verstärkt
- 5. Elon Musk nimmt offenbar eine doppelte Haltung zur Kontroverse ein
- Wie geht es für X, die Betroffenen und andere weiter?
1. US-Senatoren fordern Apple und Google auf, Grok und die übergeordnete Plattform X zu entfernen
Drei US-Senatoren fordern Apple und Google auf , X und seine unabhängige KI-App Grok aus ihren App-Stores zu entfernen. Unter Verweis auf Verstöße gegen die Vertriebsbedingungen der App-Stores schrieben die Senatoren einen Brief an die Tech-Giganten, in dem es heißt:
„Ein Auge vor dem eklatanten Verhalten von X zu verschließen, würde Ihre Moderationspraktiken der Lächerlichkeit preisgeben. Wenn Sie nicht handeln, würden Sie zudem Ihre öffentlichen und vor Gericht vorgebrachten Behauptungen untergraben, dass Ihre App-Stores eine sicherere Nutzererfahrung bieten, als wenn Nutzer Apps direkt auf ihre Telefone herunterladen.“
Der Brief, der von den US-Senatoren Roy Wyden, Ben Ray Luján und Edward J. Markey unterzeichnet wurde, enthält eine Frist für eine Antwort bis zum 23. Jan. Bis dahin erwarten Beobachter, dass die Tech-Giganten entscheiden, auf wessen Seite sie stehen.
2. Das Vereinigte Königreich erwägt ein Verbot von X
Das Office of Communications (Ofcom) des Vereinigten Königreichs erwägt laut diesem BBC-Bericht.
ein Verbot von X und Grok. Liz Kendell, die britische Technologieministerin, befürwortet das Verbot und sagt, sie werde Ofcom unterstützen, falls die Behörde es vorantreibt. Der Status von X im Land bleibt ungewiss, derzeit ist der Dienst jedoch aktiv.
Laut der BBC haben 13 Labour-Abgeordnete in ihren WhatsApp-Gruppen bereits die britische Regierung aufgefordert, X nicht länger als Kommunikationskanal zu nutzen. Der Aufruf deutet auf wachsende Unterstützung für das weiterhin erwogene Verbot hin.
Zwar gibt es bislang keine offiziellen Schritte, um einen Antrag für dieses Verbot zu verabschieden oder eine mögliche Geldstrafe zu verhängen, doch führende Regierungsvertreter haben X allesamt für die Tat verurteilt. Der britische Premierminister Keir Starmer bezeichnete sie als „skandalös“ und „widerlich“ und forderte X auf, unverzüglich zu handeln.
3. Angebliche Mutter von Elons 13. Kind unter den Betroffenen
Die Kinderbuchautorin Ashley St. Clair erklärte gegenüber The Independent, dass sie in diesem Sexskandal von einigen X-Nutzern ins Visier genommen worden sei. Ihren Angaben zufolge gehörten einige ihrer Fotos, darunter eines aus der Zeit, als sie 14 war, zu den Bildern, die von Grok AI sexuell verändert wurden.
Sie ist nicht die Einzige, die betroffen ist. Viele weitere Frauen und Kinder sahen sich mit manipulierten Fotos konfrontiert. Die entsprechenden Anfragen wiesen die KI an, sie auszuziehen, ihnen Bikinis anzuziehen oder ihre Körperhaltung in eine sexuell anzügliche zu verändern.
In einem X-Post bat sie außerdem alle, die von der Flut der von Grok erzeugten sexuellen Bilder betroffen waren, sich bei ihr zu melden. Seitdem hat sie Schritte unternommen, um ihre manipulierten Bilder entfernen zu lassen, wie mehrere X-Posts zeigen. Ein Post von ihr vom 10. Jan. deutet jedoch darauf hin, dass X ihr Verifizierungs-Häkchen entzogen hat , und zwar schneller, als das Unternehmen auf ihre Löschanfrage reagierte.
4. Indien droht mit strengen Regeln, während Malaysia den Druck verstärkt
Indien, wo mehr als 23 Millionen Menschen der Bevölkerung X nutzen und das Land damit die fünftgrößte Nutzerbasis stellt, hat sich gemeinsam mit Malaysia anderen Ländern angeschlossen und fordert von X, das Richtige zu tun.
Die indische Regierung empfiehlt über ihren Parlamentsausschuss , die Plattform wegen dieser Bedenken im Land zu regulieren, da sie nach eigenen Angaben gegen die dortigen Gesetze verstoßen.
Die malaysische Regierung hat X wiederholt aufgefordert, die Nutzung seiner KI zur Erzeugung sexueller Bilder von Frauen und Kindern einzudämmen, und nun Schritte unternommen, um Grok im Land vorübergehend einzuschränken.
Ein Bericht des lokalen Nachrichtenmediums The Star vom 11. Jan. behauptet, die Malaysian Communications and Multimedia Commission (MCMC) habe diese Einschränkung gemeldet und erklärt:
„Die Einschränkung wird als vorbeugende und verhältnismäßige Maßnahme verhängt, während rechtliche und regulatorische Verfahren laufen.“
5. Elon Musk nimmt offenbar eine doppelte Haltung zur Kontroverse ein
Angesichts zahlreicher Aufrufe von Regierungsvertretern auf verschiedenen Kontinenten, gegen X’ Grok-KI vorzugehen, hat sich Musk entschuldigt – oder scheint dies zumindest getan zu haben – und in einem Fall die Drohungen als Angriff auf X bezeichnet.
Der milliardenschwere CEO behauptete, die britische Regierung versuche, die freie Meinungsäußerung zu unterdrücken. Seine Aussage, die Drohung des Vereinigten Königreichs sei ein Angriff auf X, erfolgte, nachdem er damit geprahlt hatte, dass Grok im Vereinigten Königreich weiterhin die am häufigsten heruntergeladene App sei.
Am 3. Januar veröffentlichte er auf X folgende Aussage: „Wer Grok zur Erstellung illegaler Inhalte nutzt, muss mit denselben Konsequenzen rechnen wie jemand, der illegale Inhalte hochlädt.“
X beschränkte Groks Fähigkeit zur Bildgenerierung aus einem Post auf Nutzer mit Abonnement. Die eigenständige App steht jedoch weiterhin allen offen, und sämtliche Funktionen sind verfügbar. Infolgedessen erntete X noch mehr Kritik von betroffenen Personen und Regierungen.
Grok selbst hat sich entschuldigt, als es von einem X-Nutzer dazu aufgefordert wurde , und auf Anfrage eines anderen Nutzers eine „trotzige Nicht-Entschuldigung“ veröffentlicht,” was auf eine doppelte Haltung hindeutet.
Wie geht es für X, die Betroffenen und andere weiter?
Im Gegensatz zu früheren Problemen in Bezug auf Datenschutz und Regulierung ist dieser Fall anders gelagert. In den kommenden Tagen erwarten wir, dass X Wiedergutmachung leistet, Nutzer bestraft, die an diesem Verhalten beteiligt waren, öffentlich eine Entschuldigung ausspricht und strenge Schutzvorkehrungen für Grok.
implementiert. Angesichts der Schwere des Falls besteht außerdem die Möglichkeit, dass X-Nutzer, die an dieser Tat beteiligt waren, verklagt werden. Derzeit ist das jedoch ungewiss.
Die beteiligten Länder könnten eine Reihe von Maßnahmen ergreifen. Vollständige Verbote, teilweise Einschränkungen und sogar rechtliche Schritte im Namen betroffener Bürger gehören zu den Möglichkeiten der kommenden Tage.
Auch hohe Geldstrafen sind möglich, wobei ein Teil des Geldes möglicherweise den Betroffenen zugutekommen könnte. Bislang gibt es hierzu jedoch keine Berichte.
Lesen Sie auch: Auch Familien im Vereinigten Königreich werden vor Deepfakes gewarnt, wobei eine neue Kampagne mit dem Titel „Fake or Real?“ praktische Orientierung bietet.