Sora 2 d’OpenAI fait l’objet d’un examen attentif pour avoir permis la création de faux contenus hyperréalistes et le harcèlement numérique, ce qui, selon des organisations de défense des droits, menace la vie privée et la confiance en ligne. Ses détracteurs y voient une nouvelle sortie précipitée, dépourvue de garde-fous à la hauteur de sa puissance.
Dans une lettre, Public Citizen a demandé à OpenAI de retirer Sora 2 de l’accès public, qualifiant sa sortie d’« imprudente et dangereuse ». Le groupe a averti que le réalisme incontrôlé du modèle mettait en danger la vie privée et la stabilité démocratique, en rendant presque impossible la distinction entre les vidéos truquées et non autorisées et les vidéos réelles.
Dangereux de par sa conception
Public Citizen a déclaré que OpenAI avait lancé Sora 2 de manière précipitée et dangereuse — une nouvelle manifestation d’un schéma constant et inquiétant. Le groupe a pressé le CEO Sam Altman d’adopter un « processus de pré-déploiement mesuré, éthique et transparent », assorti de garde-fous clairs, avant tout lancement public.
L’organisation a également envoyé sa lettre au Congrès, faisant passer le différend d’un simple conflit sur la politique de l’entreprise à une démarche de responsabilisation publique, à l’approche d’élections à forts enjeux.
Un risque pour la démocratie emballé dans des contenus viraux
L’avertissement de Public Citizen allait bien au-delà des litiges liés aux droits d’auteur ou à la ressemblance de célébrités. Le groupe a évoqué une vague de vidéos sexualisées et réalisées sans consentement avec Sora 2, affirmant que l’outil d’IA était déjà devenu un vecteur de harcèlement numérique, visant particulièrement les femmes.
Des chercheurs et des utilisateurs ont signalé des extraits montrant des femmes dans des contextes dégradants ou violents, des organisations de défense des droits soulignant que les filtres de Sora semblaient faciles à contourner.
Interrogé par The Associated Press, le J.B. Branch de Public Citizen a déclaré que « la plus grande préoccupation est la menace potentielle pour la démocratie », avertissant que cette technologie pourrait éroder la confiance du public dans ce qu’il voit en ligne. « Nous entrons dans un monde où les gens ne peuvent plus vraiment faire confiance à ce qu’ils voient », a déclaré Branch au média.
Quand les filigranes ne laissent aucune trace
Des chercheurs et des organisations de défense des droits ont déclaré que les systèmes de sécurité de Sora 2 s’étaient révélés peu efficaces peu après son lancement.
Les filtres anti-usurpation auraient été contournés en moins de 24 heures, et les filigranes « obligatoires » du modèle peuvent être facilement supprimés à l’aide d’outils de retouche élémentaires. Public Citizen a également relevé des incohérences dans le processus d’« opt-out » concernant les droits d’auteur, qui permettait à des images protégées et à des ressemblances de célébrités d’apparaître sans autorisation.
Les ayants droit de plusieurs personnalités publiques décédées ont déposé des plaintes concernant ces utilisations, alimentant les craintes plus larges que le modèle puisse amplifier la désinformation générée par l’IA. Des défenseurs des droits ont averti que, sans garde-fous plus stricts, Sora 2 risquait de devenir un outil tout trouvé pour créer des deepfakes politiques et autres contenus trompeurs à l’approche des élections de 2026.
Être à l’écoute ne suffit pas
OpenAI n’a pas encore répondu directement à la demande de Public Citizen de retirer Sora 2. Cependant, l’entreprise a déclaré qu’elle « écoutait les retours » et travaillait avec des studios et des ayants droit pour améliorer les mesures de protection.
Ces dernières semaines, elle a annoncé des discussions avec des organisations des secteurs du divertissement et de la création, notamment au Japon, afin d’empêcher l’utilisation abusive de personnages connus et de contenus protégés par le droit d’auteur.
Les défenseurs des droits ont estimé que ces mesures étaient insuffisantes. Selon eux, l’habitude d’OpenAI de lancer ses produits d’abord et de les corriger ensuite montre à quel point l’innovation rapide peut prendre de vitesse la responsabilité. Public Citizen et d’autres organisations de défense des droits considèrent Sora 2 comme un rappel que, lorsque le réalisme devient accessible sans effort, les dommages causés à la vérité et à la confiance pourraient être tout aussi difficiles à réparer.
Morgan Freeman s’est élevé contre des systèmes d’IA qui copient sa voix pour des vidéos en ligne sans son accord.