OpenAI hat Sora 2 veröffentlicht, sein neues und verbessertes Videogenerierungsmodell. Das herausragende Feature sind „Cameos“: Nutzer können einen realistischen Avatar von sich selbst oder einen beliebigen Menschen, ein Tier oder Objekt in einen generierten Clip einsetzen.
Um ein Cameo zu erstellen, muss ein Nutzer lediglich einmalig ein kurzes Video sowie eine Audioaufnahme von sich aufnehmen. Diese können anschließend gespeichert und über die neue eigenständige „Sora“-App von OpenAI in verschiedene Videos eingefügt werden, die gemeinsam mit Sora 2 auf den Markt kommt.
Die App ist als neue soziale Netzwerkplattform konzipiert, die von Sora 2 angetrieben wird, und nicht als einfacher KI-Videogenerator. Gerüchte über die Erschließung des Marktes für soziale Apps durch OpenAI machten bereits im April die Runde.
Neben dem Erstellen eigener Videos können Freunde in der Sora-App auch die Videos der jeweils anderen bearbeiten und deren Cameos einfügen. „In einer Zeit, in der sich alle großen Plattformen vom sozialen Graphen wegbewegen, glauben wir, dass Cameos die Gemeinschaft stärken werden“, schrieb das Sora-Team in seiner Ankündigung.
Gleichzeitig ist sich OpenAI bewusst, dass die nicht einvernehmliche Verwendung des Abbilds einer Person, die zu einem echten Problem in der KI-Branche geworden ist und von dem die Gesetzgeber bisher keine Ahnung haben. Nutzer können festlegen, wer Zugriff auf ihr Cameo hat, Berechtigungen jederzeit widerrufen, alle Videos entfernen, in denen es vorkommt, und sämtliche Videos überprüfen, die ihr Cameo enthalten. Die soziale Plattform wird außerdem nur auf Einladung zugänglich sein, was dabei helfen könnte, Bot- und Betrugskonten einzudämmen.
Die neue Sora-App stellt jedem Nutzer einen personalisierten Feed im Stil von TikTok oder Instagram Reels bereit, um neue Videos zu entdecken. Laut OpenAI wird dieser Feed von den Personen geprägt, denen Nutzer folgen, den Inhalten, mit denen sie interagieren, ihrem ChatGPT-Verlauf und dem, was der Algorithmus als Inspiration für eigene Videos vorhersagt – statt sie einfach nur weiter zuschauen zu lassen.
Wenn Nutzer mit ihrem Feed nicht zufrieden sind, können sie ihn mithilfe von Prompts in natürlicher Sprache anpassen. Außerdem wird die Sora-App die Nutzer regelmäßig zu ihrem Wohlbefinden befragen und vorschlagen, den Feed anzupassen. „Bedenken wegen Doomscrolling, Sucht, Isolation und RL-optimierten Feeds stehen ganz oben auf unserer Agenda“, schrieb das Team.
Sie fügten hinzu, dass „viele Probleme bei anderen Apps daraus entstehen, dass das Monetarisierungsmodell Entscheidungen begünstigt, die dem Wohlbefinden der Nutzer entgegenstehen“. Damit spielten sie darauf an, dass Technologieunternehmen dazu neigen, ihre Produkte so zu gestalten, dass sie die Aufmerksamkeit der Nutzer möglichst lange binden und dadurch mehr Werbeeinnahmen erzielen.
OpenAI lehnt dieses Vorgehen zwar ab, wird Nutzern aber letztlich die Möglichkeit bieten, für die Erstellung eines zusätzlichen Videos zu bezahlen, wenn die Nachfrage die verfügbaren Rechenressourcen übersteigt. Zahlende ChatGPT-Pro-Nutzer werden außerdem zu den Ersten gehören, die Zugriff auf das experimentelle Sora-2-Pro-Modell mit höherer Qualität erhalten.
Sora 2 kann noch realistischere Videos erzeugen
OpenAI erklärt, Sora 2 sei „physikalisch genauer, realistischer und besser steuerbar“ als sein Vorgänger. Das Modell kann beispielsweise beim Generieren eines Turners, der auf einem Paddleboard einen Rückwärtssalto macht, die Dynamik von Auftrieb und Steifigkeit präzise darstellen. Außerdem folgt es den Gesetzen der Physik – selbst wenn das bedeutet, einem Prompt nicht zu gehorchen.
„Wenn ein Basketballspieler beispielsweise einen Wurf verfehlt, kann der Ball spontan zum Korb teleportiert werden“, erklärte das Sora-Team. „Wenn ein Basketballspieler in Sora 2 einen Wurf verfehlt, prallt der Ball vom Brett ab.“
OpenAI zufolge folgt Sora 2 Anweisungen über mehrere Aufnahmen hinweg besser und bewahrt dabei den Zustand der Welt. Das wurde in diesem Jahr auch in der Werbung für mehrere KI-Videomodelle hervorgehoben, darunter Runways Gen-4, Googles Genie 3, Mirage, und Manus.
OpenAI nimmt die Sicherheit von Jugendlichen ernst
Der Schutz von Kindern vor KI steht derzeit besonders im Fokus, nachdem es zu einer Reihe von tragischen Vorfällen im Zusammenhang mit Chatbots gekommen ist. OpenAI selbst wird von den Eltern eines 16-jährigen Jungen verklagt, der durch Suizid starb. Sie behaupten, ChatGPT habe seine düsteren Gedanken verstärkt und Informationen darüber geliefert, wie er sein Leben beenden könnte.
Diese Woche hat das Unternehmen zahlreiche neue Jugendschutzfunktionen zu ChatGPT hinzugefügt, darunter ein Prüfsystem, das Eltern möglicherweise benachrichtigt, wenn ihr Kind während der Nutzung des Chatbots Gedanken an Selbstverletzung äußert. Für Sora gibt es ebenfalls ähnliche Jugendschutzfunktionen: Eltern können damit die Personalisierung des Algorithmus und das endlose Scrollen deaktivieren sowie festlegen, ob ihr Teenager Direktnachrichten senden und empfangen darf. Das setzt allerdings voraus, dass Eltern von diesen Funktionen wissen und wissen, wie sie verwendet werden.
Darüber hinaus begrenzt OpenAI die Zahl der KI-Videos, die Jugendliche täglich ansehen können, führt strengere Berechtigungen für Cameos ein und setzt Teams menschlicher Moderatoren ein, die mögliche Fälle von Mobbing überprüfen.
Die Sora-iOS-App steht jetzt zum Download bereit, und Konten erhalten nach und nach Zugriff. Derzeit können sich nur Nutzer in den USA und Kanada registrieren, der Zugang soll jedoch bald auf weitere Länder ausgeweitet werden. Sora 1 Turbo bleibt verfügbar, und alle Videos bleiben in der Sora-Bibliothek des jeweiligen Nutzers erhalten.
Für Creator wird es erforderlich sein, sich aktiv dagegen zu entscheiden, dass ihre urheberrechtlich geschützte Figur von Sora 2 nachgebildet wird. OpenAI informiert darüber auch Talentagenturen und Studios.