Grok hat seine Funktionen zur Bilderstellung und -bearbeitung für die meisten Nutzer deaktiviert, nachdem es international empörte Reaktionen auf den Missbrauch des Tools zur Erstellung sexuell expliziter und gewalttätiger Bilder gegeben hatte.
Das KI-Tool wurde von Elon Musks xAI entwickelt und in die Social-Media-Plattform X integriert.
Die Entscheidung fällt inmitten wachsenden politischen und regulatorischen Drucks, insbesondere im Vereinigten Königreich, wo hochrangige Minister gewarnt haben, dass X mit hohen Geldstrafen rechnen oder sogar gesperrt werden könnte, wenn die Plattform die Verbreitung von schädlichen, KI-generierten Inhalten.
Nach öffentlichem Druck verhängte Einschränkungen
In einem Beitrag auf X bestätigte der Grok-Account die Änderung mit den Worten: „Die Bilderstellung und -bearbeitung ist derzeit auf zahlende Abonnenten beschränkt.“
Infolgedessen können die überwältigende Mehrheit der X-Nutzer keine Bilder mehr mit Grok erstellen. Nur zahlende Abonnenten behalten Zugriff auf die Funktion – ein Schritt, der den Nutzerkreis erheblich einschränkt und die Bilderstellung an Konten mit verifizierten Zahlungsdaten bindet.
Diese Nutzer haben X vollständige persönliche Angaben und Kreditkartendaten zur Verfügung gestellt und können daher identifiziert werden, wenn das Tool missbraucht wird. Kritiker argumentieren jedoch, dass die Zugangsbeschränkung nicht weit genug geht, da die zugrunde liegende Fähigkeit zur Erstellung schädlicher Inhalte weiterhin verfügbar ist.
Auch die öffentlich zugänglichen Funktionen des @Grok-Accounts auf X zur Bilderstellung wurden stark eingeschränkt. Bedenken bestehen jedoch weiterhin hinsichtlich einer separaten Grok-App, über die Bilder nicht öffentlich geteilt werden. Nicht zahlende Nutzer berichten, dass sie mit dieser App weiterhin sexualisierte Bilder von Frauen und Kindern erstellen können.
Grok zur Erstellung nicht einvernehmlicher und gewalttätiger Inhalte verwendet
Die Proteste wurden durch zahlreiche Berichte ausgelöst, wonach Grok dazu verwendet worden war, Bilder von Frauen zu manipulieren, indem man ihnen die Kleidung entfernte oder sie ohne ihre Zustimmung in sexualisierten Positionen darstellte. Vom Guardian veröffentlichte Recherchen ergaben, dass das Tool auch dazu verwendet worden war, ohne deren Zustimmung pornografische Videos von Frauen zu erstellen sowie drastische Bilder, auf denen Frauen erschossen und getötet werden.
In den vergangenen zwei Wochen wurden Berichten zufolge Tausende sexualisierte Bilder von Frauen erstellt, nachdem Groks Funktion zur Bilderstellung Ende Dezember aktualisiert worden war. Aktivisten und Abgeordnete forderten Musk und xAI wiederholt auf, die Funktion zu entfernen oder einzuschränken, da sie großflächigen Missbrauch ermögliche. Bislang hatte X jedoch keine sichtbaren Maßnahmen ergriffen.
Die Kontroverse hat die Debatte über die Verantwortung von KI-Entwicklern und Plattformen neu entfacht, die Erstellung nicht einvernehmlicher sexueller Bilder zu verhindern – eine Form des digitalen sexuellen Missbrauchs, wie Aktivisten sie häufig bezeichnen.
Britische Regierung droht mit regulatorischen Maßnahmen
Der Druck nahm in dieser Woche zu, nachdem Keir Starmer, der britische Premierminister, die Verbreitung von KI-generierten sexuellen Bildern auf X öffentlich verurteilt und angedeutet hatte, dass strenge regulatorische Maßnahmen folgen könnten.
Er forderte X auf, die von ihm als Flut von KI-erstellten Bildern teilweise bekleideter Frauen und Kinder beschriebene Situation „in den Griff zu bekommen“, und bezeichnete das Material als „schändlich“ und „ekelhaft“.
Starmer deutete an, dass ein faktisches Verbot von X erwogen werden sollte, und sagte, die britische Kommunikationsaufsicht Ofcom „hat unsere volle Unterstützung, um diesbezüglich Maßnahmen zu ergreifen“.
Nach dem britischen Online Safety Act ist Ofcom in schwerwiegenden Fällen befugt, bei Gericht eine Anordnung zur Sperrung einer Website oder App im Vereinigten Königreich zu beantragen. Die Behörde kann außerdem Geldstrafen von bis zu 10 % des weltweiten Jahresumsatzes eines Unternehmens verhängen – eine potenziell erhebliche Strafe für eine Plattform von der Größe von X.
Starmer sagte: „Es ist rechtswidrig. Wir werden das nicht tolerieren. Ich habe darum gebeten, alle Optionen auf den Tisch zu legen. Es ist ekelhaft. X muss seine Angelegenheiten in Ordnung bringen und dieses Material entfernen. Wir werden diesbezüglich handeln, denn es ist schlicht nicht hinnehmbar.“
Belege für Missbrauch außerhalb der X-Plattform
Einige der extremsten mit Grok in Verbindung gebrachten Inhalte werden nicht auf der X-Plattform selbst erstellt, sondern über ein Tool namens Grok Imagine, das in das KI-System integriert ist.
Untersuchungen der in Paris ansässigen gemeinnützigen Organisation AI Forensics identifizierten rund 800 von der Grok-Imagine-App erstellte Bilder und Videos, die pornografisches und sexuell gewalttätiges Material enthielten. Paul Bouchaud, Forscher bei AI Forensics, sagte: „Das sind vollständig pornografische Videos, und sie sehen professionell aus.“
„Insgesamt ist der Inhalt deutlich expliziter als der zuvor auf X beobachtete Bikini-Trend“, sagte Bouchaud.
Ungewisse Zukunft für Grok und X
Musk und xAI sehen sich nun weltweit der Prüfung durch Aufsichtsbehörden ausgesetzt, während Regierungen darum ringen, wie bestehende Gesetze auf sich rasant weiterentwickelnde generative KI-Technologien angewendet werden können. Der Fall Grok dürfte als Test dafür gelten, ob Plattformen dazu gezwungen werden können, KI-Funktionen, die großflächigen Schaden ermöglichen, neu zu gestalten oder zurückzuziehen.
Elon Musks Klage gegen Sam Altmans OpenAI wird vor Gericht verhandelt werden, nachdem ein US-Richter entschieden hat, dass ausreichende Beweise vorliegen, damit eine Jury die Vorwürfe prüfen kann, das KI-Unternehmen habe seine ursprüngliche gemeinnützige Mission aufgegeben.