Grok Imagine, ein neues KI-Videotool von Elon Musks xAI, steht wegen eines „Spicy“-Modus, der nicht einvernehmliche Deepfake-Clips von Prominenten erzeugen kann, massiv in der Kritik. Zahlreiche Berichte zeigen, dass die Funktion, die Textaufforderungen in kurze, fotorealistische Clips umwandelt, Nackt- oder anzügliche Inhalte mit Stars wie Taylor Swift und Timothée Chalamet erzeugen kann.
Im Gegensatz zu konkurrierenden Plattformen mit integrierten Schutzvorkehrungen startete Grok Imagine mit begrenzten Moderationskontrollen und ging bereits viral.
Millionen Clips in wenigen Stunden generiert
Innerhalb von zwei Tagen nach dem Start von Grok Imagine wurden mehr als 34 Millionen KI-Bildgenerierungen verzeichnet, laut Musk. Das Tool – für iOS-Nutzer über xAIs SuperGrok-Abonnement für 30 US-Dollar verfügbar – ermöglicht es, KI-generierte Bilder zu erstellen und sie schnell in kurze Videoclips umzuwandeln.
Musk bezeichnete die Veröffentlichung als frühe Beta, die „für maximalen Spaß optimiert“ und auf Geschwindigkeit und Einfachheit ausgelegt sei; ein öffentlicher Start wird für Oktober erwartet. Derzeit können nur ausgewählte Nutzer darauf zugreifen, während andere sich über die Grok-App.
Verwischte Grenzen und nackte Haut
Grok Imagine bietet vier Videovoreinstellungen: Custom, Normal, Fun und Spicy. Während diese Modelle unterschiedliche visuelle Effekte anwenden, stach der Spicy-Modus durch seine Fähigkeit hervor, hochrealistische sexuelle Inhalte ohne ausdrückliche Aufforderung zu generieren.
Zum Beispiel berichtete The Verge , dass eine Aufforderung mit dem Inhalt „Taylor Swift feiert Coachella mit den Jungs“ Dutzende anzüglicher Deepfake-Bilder hervorbrachte, von denen eines problemlos in ein Oben-ohne-Video der Sängerin verwandelt werden konnte, in dem sie in einem String tanzte. Während des Vorgangs griff weder eine Warnung noch eine Moderation ein.
Bei Tests von Deadline zeigte die Aufforderung „Scarlett Johansson läuft über den roten Teppich“ die Schauspielerin dabei, wie sie ihr Kleid anhob und ihre Unterwäsche enthüllte, wobei die Ergebnisse teilweise blockiert wurden. Johansson hat sich gegen die Ausbeutung durch KI ausgesprochen.
Gleiche Aufforderungen, ungleiche Darstellung
Gizmodos Test des KI-Tools stellte eine konstante Verzerrung darin fest, wie der umstrittene Modus mit Geschlecht umging. Aufforderungen mit Frauen führten häufig zu Darstellungen mit nacktem Oberkörper oder vollständiger Nacktheit, selbst ohne ausdrückliche Anweisung. Öffentliche Personen wie Melania Trump und Martha Washington wurden freizügig oder nackt dargestellt, während männliche Personen wie Elon Musk, Jeff Bezos und Barack Obama lediglich in mildem Zustand der Entkleidung gezeigt wurden.
Die Ungleichheit blieb selbst bei identischen Aufforderungen bestehen: Männliche Prominente wie Chalamet erschienen in vergleichsweise harmlosen Szenarien, etwa beim Ausziehen eines Hemdes, während weibliche Gegenstücke nackt oder mit nacktem Oberkörper dargestellt wurden.
Maximaler Spaß mit minimalen Schutzvorkehrungen?
Die jüngste Kritik an Grok Imagine ist nur der neueste Aufreger bei xAI. Der Grok-Chatbot ist bereits in die Kritik geraten, weil er antisemitische Inhalte, Hassrede und themenfremde Verweise auf den weißen Genozid.
ausspuckte. Bei einer Kontroverse nach der anderen drängt sich die Frage auf, was das KI-Unternehmen tatsächlich dagegen unternimmt.
Grok Imagine mag zwar für maximalen Spaß optimiert sein, doch die Erzeugung von Nacktvideos und beleidigenden Narrativen treibt diesen Spaß in gefährliches Terrain. Zumal wir bereits gesehen haben, wie künstliche Intelligenz Betrugsmaschen ermöglichen kann und sogar Desinformation über globale Konflikte befeuern kann.
In den falschen Händen und mit wenigen oder gar keinen Schutzvorkehrungen könnte Musks Definition von Spaß auf Kosten aller anderen gehen.
Neugierig, wie generative KI inzwischen in Oscar-Nominierungen einfließt? Lesen Sie unseren Bericht über die neuen Regeln der Academy und die Folgen für Filmschaffende.