Drei hochrangige Demokraten im US-Repräsentantenhaus setzen den Milliardär und Unternehmer Elon Musk wegen seines KI-Chatbots Grok unter Druck. Sie werfen seinem Unternehmen vor, nicht verhindert zu haben, dass ohne deren Zustimmung sexualisierte Deepfake-Bilder realer Menschen erstellt werden.
In einem am Donnerstag verschickten Brief kritisierten die Abgeordneten Frank Pallone, Jan Schakowsky und Yvette Clarke, allesamt hochrangige Demokraten im Ausschuss für Energie und Handel des Repräsentantenhauses, die ihrer Beschreibung nach „Untätigkeit“ von Musk und seinem Unternehmen für künstliche Intelligenz, xAI.
„Wir sind zutiefst besorgt über die Weigerung von xAI, die Erstellung nicht einvernehmlicher sexualisierter Bilder zu stoppen, insbesondere von Kindern“, schrieben die Abgeordneten in dem Brief, laut NBC News. „Diese obszönen Beiträge setzen Frauen, Männer und Kinder einem extrem hohen Schadensrisiko aus“, heißt es in dem Brief.
Die Demokraten fordern bis zum 5. März detaillierte Antworten, unter anderem darauf, wann Musk erstmals davon erfuhr, dass Nutzer Grok dazu aufforderten, ohne Zustimmung explizite Bilder von Frauen oder Minderjährigen zu erstellen.
Wie die Kontroverse begann
Die Bildgenerierungsfunktionen von Grok stießen im Januar auf breite Kritik , nachdem Nutzer entdeckt hatten, dass sie Fotos verändern konnten, um Kleidung zu entfernen oder sexualisierte Darstellungen realer Personen zu erstellen.
Forscher und Watchdogs erklärten, das Tool ermögliche Belästigung und wecke Bedenken hinsichtlich der möglichen Erstellung von Material über sexuellen Kindesmissbrauch. Zeitweise sollen jede Stunde Tausende solcher Bilder erstellt und auf X geteilt worden sein.
Musk sagte zuvor, ihm seien keine Nacktbilder von Minderjährigen bekannt gewesen, und argumentierte, Grok „werde sich weigern, irgendetwas Illegales zu produzieren“. Außerdem deutete er an, dass der Missbrauch auf Versuche zurückgehen könnte, das System zu manipulieren, schrieb auf X: „Es kann vorkommen, dass adversäres Hacking von Grok-Prompts etwas Unerwartetes bewirkt. Wenn das passiert, beheben wir den Fehler sofort.“
EU leitet formelle Untersuchungen ein
Während US-Abgeordnete nun Antworten fordern, haben europäische Regulierer die Angelegenheit bereits eskaliert.
Die Europäische Kommission leitete im vergangenen Monat nach dem Gesetz über digitale Dienste (DSA) eine formelle Untersuchung gegen X ein. Im Mittelpunkt stehen die mit dem Einsatz von Grok innerhalb der Europäischen Union verbundenen Risiken.
In einer Stellungnahme erklärte die Kommission, sie werde prüfen, ob X die mit Groks Funktionen verbundenen Risiken angemessen bewertet und eingedämmt habe, darunter „die Verbreitung illegaler Inhalte in der EU, etwa manipulierter sexuell expliziter Bilder, einschließlich Inhalten, die als Material über sexuellen Kindesmissbrauch einzustufen sein könnten“.
„Diese Risiken scheinen sich verwirklicht zu haben und Bürger in der EU ernsthaften Schäden auszusetzen“, erklärte die Kommission. Sollten Verstöße nachgewiesen werden, könnten sie einen Verstoß gegen mehrere Bestimmungen des DSA darstellen.
Unabhängig davon kündigte die irische Datenschutzkommission am Dienstag an, dass sie eine Untersuchung gegen X einleitet , und zwar nach den strengen Datenschutzvorschriften der EU-Datenschutz-Grundverordnung (DSGVO). Die irische Aufsichtsbehörde ist die federführende EU-Regulierungsstelle für X, da sich der europäische Hauptsitz des Unternehmens in Dublin befindet. Die Untersuchung soll klären, ob X rechtswidrig personenbezogene Daten verarbeitet hat, um „potenziell schädliche“ nicht einvernehmliche intime Bilder mit Bezug zu Europäern, darunter Kindern, zu erstellen.
Am selben Tag erklärte der spanische Ministerpräsident Pedro Sánchez, seine Regierung habe die Staatsanwaltschaft angewiesen, gegen X sowie Meta und TikTok wegen mutmaßlicher Straftaten im Zusammenhang mit KI-generiertem Material über sexuellen Kindesmissbrauch zu ermitteln. „Diese Plattformen greifen die psychische Gesundheit, die Würde und die Rechte unserer Söhne und Töchter an“, schrieb Sánchez auf X.
Zunehmender politischer Druck in den USA
Zurück in den USA beschränkt sich die Sorge über KI-generierte Deepfakes nicht auf die Demokraten. Der republikanische Senator Ted Cruz, der im vergangenen Jahr dazu beitrug, ein bundesweites Verbot nicht einvernehmlicher Deepfake-Pornografie zu verabschieden, sagte zuvor, viele von Grok erzeugte Beiträge schienen „eindeutig gegen“ das Gesetz zu verstoßen. Er wies jedoch darauf hin, dass X signalisiert habe, die Angelegenheit ernst zu nehmen.
Die Untersuchung des Kongresses verstärkt den wachsenden rechtlichen und regulatorischen Druck auf Musks Plattform zu einem Zeitpunkt, an dem generative KI-Tools sich rasch verbreiten und Schutzvorkehrungen sich noch weiterentwickeln.
Lesen Sie auch: xAI testet still und leise sogenannte „menschliche Emulatoren“, laut einem ehemaligen xAI-Ingenieur.