OpenAI hat die Verwendung des Abbilds von Martin Luther King Jr. in Sora gestoppt, nachdem Nutzer gefälschte Clips erstellt hatten, die den Bürgerrechtler auf „respektlose“ Weise darstellten. Das Unternehmen bestätigte diesen Schritt nach wachsender Kritik an KI-generierten Videos, die offenbar die Stimme und das Aussehen von Dr. King imitierten.
In einer gemeinsamen Stellungnahme auf X erklärten OpenAI und das King Estate, dass Sora-Generierungen mit Dr. King pausiert werden, während das Unternehmen die „Schutzvorkehrungen für historische Persönlichkeiten“ verstärkt.
Wenn eine Hommage geschmacklos wird
Der Aufruhr folgte auf die Verbreitung hyperrealistischer Clips, die einen digitalen Dr. King beim Sprechen und Verhalten auf eine Weise zeigten, die weit vom tatsächlichen Bild des Aktivisten entfernt war. Die Deepfakes, die mit dem Sora-Tool von OpenAIgeneriert wurden, verwischten die Grenze zwischen Hommage und Ausbeutung und entfachten schnell öffentlichen Unmut darüber, wie leicht Technologie das historische Gedächtnis verdrehen kann.
Die gemeinsame Stellungnahme auf X stellte die Pause als Teil eines umfassenderen Bestrebens dar, die Schutzvorkehrungen für Personen des öffentlichen Lebens zu verschärfen. OpenAI erklärte, man erkenne das Spannungsfeld zwischen kreativer Freiheit und dem Respekt vor dem Vermächtnis an, und betonte, dass Familien und Nachlassinhaber ein Mitspracherecht bei der Verwendung ihres Abbilds haben sollten.
Das KI-Unternehmen fügte hinzu, die Maßnahme sei durch den Austausch mit Dr. Bernice A. King, John Hope Bryant und dem AI Ethics Council von OpenAI über die Wahrung der Würde bei digitalen Darstellungen geprägt worden.
Soras wachsende Liste roter Linien
Während OpenAI sich bemüht, reale Gesichter zu schützen, sorgen die fiktiven für neue Auseinandersetzungen.
Seit der Veröffentlichung von Sora 2 produzieren Nutzer massenhaft Videos mit bekannten Figuren wie SpongeBob, Pikachu und Mario, die die kreativen Grenzen und rechtlichen Beschränkungen des KI-Tools ausreizen.
Um die Flut einzudämmen, hat OpenAI damit begonnen, Rechteinhabern zu ermöglichen, der Nutzung zu widersprechen und die Nachbildung ihrer Figuren oder Werke zu untersagen. Disney gehörte zu den ersten Unternehmen, die diese Option nutzten, und blockierte damit faktisch Spider-Man und Darth Vader in Sora-Generierungen.
Die neue Richtlinie entspricht OpenAIs Vorgehen bei menschlichen Abbildern. So wie Nachlässe nun Personen des öffentlichen Lebens wie Dr. King schützen können, können auch Studios und Künstler eigene Grenzen ziehen und entscheiden, wo Kreativität endet und eine Rechtsverletzung beginnt.
Digitale Unsterblichkeit ohne Würde
Das Abbild von Dr. King ist nur das jüngste Beispiel dafür, wie die zunehmende Praxis der Wiederbelebung durch KI um sich greift. In den vergangenen Wochen hat Zelda Williams, die Tochter von Robin Williams, Videos verurteilt, in denen digitale Nachbildungen ihres Vaters verwendet wurden, und sie als „widerlich“ sowie als „Verschwendung von Zeit und Energie“ bezeichnet. Sie sagte, die Clips reduzierten die Erinnerung an einen Menschen auf etwas, das nur „vage wie diese Person aussieht und klingt“.
Ein weiteres KI-generiertes Video zeigte den Rapper Tupac Shakur beim zwanglosen Einkaufen in einer Target-Filiale – eine Szene, die viele Zuschauer verstörend fanden. Während der Realismus rasant zunimmt, versuchen Hollywood und die Nachlässe von Prominenten verzweifelt, die Kontrolle zurückzugewinnen.
Was als kreatives Spiel begann, wirft nun grundlegendere Fragen zu Eigentum, Erinnerung und Respekt auf. Eine Nachbildung ohne Zustimmung macht aus Innovation Besitz.
Walmart und OpenAI machen aus dialogorientierter KI ein Shopping-Tool – und erhöhen damit die Anforderungen an das Vertrauen.