OpenAIs Sora 2 steht in der Kritik, weil das Modell lebensechte Fälschungen und digitale Belästigung ermöglicht, die laut Verbraucherschützern die Privatsphäre und das Vertrauen im Internet gefährden. Kritiker bezeichneten den Dienst als einen weiteren überhasteten Start ohne Schutzvorkehrungen, die seiner Leistungsfähigkeit gerecht würden.
In einem Schreiben forderte Public Citizen OpenAI auf, Sora 2 aus dem öffentlichen Zugang zu entfernen, und bezeichnete die Veröffentlichung als „rücksichtslos und gefährlich“. Die Gruppe warnte, dass der unkontrollierte Realismus des Modells die Privatsphäre und die demokratische Stabilität gefährde, weil es dadurch nahezu unmöglich werde, gefälschte, nicht autorisierte Videos vom echten Material zu unterscheiden.
Von Grund auf unsicher
Public Citizen erklärte, dass OpenAI Sora 2 veröffentlicht habe und dies überhastet und unsicher geschehen sei – als Teil eines anhaltenden, gefährlichen Musters. Die Gruppe forderte CEO Sam Altman auf, vor jedem öffentlichen Start.
übersandte der Verbraucherschützer sein Schreiben auch an den US-Kongress, wodurch der Streit über einen unternehmensinternen Richtlinienkonflikt hinaus zu einer Forderung nach öffentlicher Rechenschaft im Vorfeld wichtiger Wahlen eskalierte.
Ein Demokratierisiko im Gewand viraler Inhalte
Die Warnung von Public Citizen ging weit über Streitigkeiten um Urheberrechte oder die Abbilder von Prominenten hinaus. Die Gruppe verwies auf eine Welle nicht einvernehmlich erstellter und sexualisierter Videos, die mit Sora 2 erzeugt wurden, und erklärte, das KI-Tool sei bereits zu einem Werkzeug für digitale Belästigung geworden, insbesondere gegen Frauen.
Forscher und Nutzer meldeten Clips, die Frauen in erniedrigenden oder gewalttätigen Situationen zeigen. Verbraucherschützer stellten dabei fest, dass sich die Filter von Sora offenbar leicht umgehen lassen.
Im Gespräch mit The Associated Press erklärte der Public-Citizen-Vertreter J.B. Branch , die „größte Sorge sei die potenzielle Bedrohung für die Demokratie“. Er warnte, dass die Technologie das Vertrauen der Öffentlichkeit in das, was Menschen im Internet sehen, untergraben könnte. „Wir treten in eine Welt ein, in der die Menschen dem, was sie sehen, nicht mehr wirklich vertrauen können“, sagte Branch der Nachrichtenagentur.
Wenn Wasserzeichen keine Spuren hinterlassen
Forscher und Verbraucherschützer erklärten, die Sicherheitssysteme von Sora 2 hätten sich kurz nach dem Start als schwach erwiesen.
Berichten zufolge wurden Filter gegen Identitätsmissbrauch innerhalb von 24 Stunden umgangen, und die „verpflichtenden“ Wasserzeichen des Modells lassen sich mit einfachen Bearbeitungsprogrammen leicht entfernen. Public Citizen wies außerdem auf Unstimmigkeiten beim urheberrechtlichen „Opt-out“-Verfahren hin, durch die geschützte Bilder und die Abbilder von Prominenten ohne Genehmigung erscheinen konnten.
Die Nachlässe mehrerer verstorbenen Persönlichkeiten des öffentlichen Lebens haben wegen solcher Nutzungen Beschwerden eingereicht und damit die allgemeine Sorge verstärkt, dass das Modell KI-generierte Desinformationverbreiten könnte. Befürworter warnten, dass Sora 2 ohne stärkere Schutzvorkehrungen zu einem leicht verfügbaren Werkzeug für politische Deepfakes und andere täuschende Inhalte werden könnte, je näher die Wahlen 2026 rücken.
Zuhören reicht nicht
OpenAI hat auf die Forderung von Public Citizen nach einem Rückzug von Sora 2 bislang nicht direkt reagiert. Das Unternehmen erklärte jedoch, es „höre sich Feedback an“ und arbeite mit Studios und Rechteinhabern daran, die Schutzvorkehrungen zu verbessern.
In den vergangenen Wochen kündigte das Unternehmen Gespräche mit Gruppen aus der Unterhaltungs- und Kreativbranche an, darunter solche in Japan, um den Missbrauch bekannter Figuren und urheberrechtlich geschützten Materials zu verhindern.
Befürworter erklärten, diese Schritte reichten nicht aus. Sie argumentierten, OpenAIs Muster, zunächst zu starten und später nachzubessern, zeige, wie schnell Innovation der Verantwortung davonlaufen könne. Public Citizen und andere Verbraucherschützer sahen in Sora 2 eine Erinnerung daran, dass der Schaden für Wahrheit und Vertrauen womöglich ebenso schwer rückgängig zu machen ist, sobald Realismus reibungslos verfügbar wird.
Morgan Freeman sprach sich gegen KI-Systeme aus, die seine Stimme ohne seine Zustimmung für Onlinevideos kopieren