OpenAI a lancé Sora 2, son nouveau modèle amélioré de génération vidéo. Sa fonctionnalité phare est celle des « caméos », qui permet aux utilisateurs d’intégrer un avatar réaliste d’eux-mêmes, ou de n’importe quel être humain, animal ou objet, à un clip généré.
Pour générer un caméo, il suffit à l’utilisateur d’enregistrer une courte vidéo et un enregistrement audio de lui-même, une seule fois. Ceux-ci peuvent ensuite être sauvegardés et intégrés à différentes vidéos via la nouvelle application autonome « Sora » d’OpenAI, lancée parallèlement à Sora 2.
L’application est conçue comme une nouvelle plateforme de réseau social propulsée par Sora 2, plutôt que comme un simple générateur de vidéos par IA. Les rumeurs selon lesquelles OpenAI se lancerait sur le marché des applications sociales circulaient déjà en avril.
En plus de créer leurs propres vidéos, les amis présents sur l’application Sora pourront modifier celles des autres et intégrer leurs caméos respectifs. « À l’heure où toutes les grandes plateformes s’éloignent du graphe social, nous pensons que les caméos renforceront la communauté », a écrit l’équipe de Sora dans son annonce.
Dans le même temps, OpenAI est consciente de la nécessité d’empêcher l’utilisation non consentie de l’image d’une personne, devenue un véritable problème dans le secteur de l’IA auquel les législateurs n’ont pas encore trouvé de réponse. Les utilisateurs peuvent contrôler qui a accès à leur caméo, révoquer les autorisations à tout moment, supprimer les vidéos qui l’utilisent et consulter toutes celles qui incluent leur caméo. La plateforme sociale sera également accessible uniquement sur invitation, ce qui pourrait contribuer à contenir les comptes automatisés et les escroqueries.
La nouvelle application Sora fournira à chaque utilisateur un fil personnalisé de type TikTok ou Instagram Reels pour découvrir de nouvelles vidéos. Selon OpenAI, ce fil sera façonné par les personnes que les utilisateurs suivent, les contenus avec lesquels ils interagissent, leur historique ChatGPT et ce que l’algorithme prédit comme susceptible de les inspirer à créer leurs propres vidéos, plutôt que de simplement les inciter à continuer de regarder.
Si les utilisateurs ne sont pas satisfaits de leur fil, ils peuvent l’ajuster à l’aide d’instructions en langage naturel. L’application Sora interrogera également périodiquement les utilisateurs sur leur bien-être et leur proposera d’ajuster leur fil. « Les inquiétudes liées au doomscrolling, à la dépendance, à l’isolement et aux fils optimisés par apprentissage par renforcement sont au premier plan de nos préoccupations », a écrit l’équipe.
Elle a ajouté que « nombre des problèmes rencontrés avec les autres applications découlent d’un modèle de monétisation qui encourage des décisions allant à l’encontre du bien-être des utilisateurs », faisant allusion à la tendance des entreprises technologiques à concevoir leurs produits de manière à retenir l’attention des utilisateurs le plus longtemps possible afin d’extraire davantage de revenus publicitaires.
Bien qu’OpenAI y soit opposée, l’entreprise finira par offrir aux utilisateurs la possibilité de payer pour générer une vidéo supplémentaire si la demande dépasse les capacités de calcul disponibles. Les utilisateurs payants de ChatGPT Pro seront également parmi les premiers à accéder à son modèle expérimental Sora 2 Pro, de meilleure qualité.
Sora 2 peut générer des vidéos encore plus réalistes
OpenAI affirme que Sora 2 est « plus précis sur le plan physique, plus réaliste et plus contrôlable » que son prédécesseur. Il peut modéliser avec précision les dynamiques de flottabilité et de rigidité lorsqu’il génère, par exemple, une gymnaste réalisant un salto arrière sur une planche à pagaie. Il respectera également les lois de la physique, même si cela signifie désobéir à son instruction.
« Par exemple, si un basketteur rate un tir, le ballon peut se téléporter spontanément dans le panier », a déclaré l’équipe de Sora. « Dans Sora 2, si un basketteur rate un tir, le ballon rebondira sur la planche. »
OpenAI affirme que Sora 2 est plus performant pour suivre des instructions sur plusieurs plans tout en préservant l’état du monde. Cet argument a également été mis en avant cette année dans la promotion de plusieurs modèles de génération vidéo par IA, notamment Gen-4 de Runway, Genie 3 de Google, Mirage, et Manus.
OpenAI prend au sérieux la sécurité des adolescents
La protection des enfants contre l’IA est actuellement au centre des préoccupations après une série d’ incidents tragiques impliquant des chatbots. OpenAI fait elle-même l’objet d’une poursuite intentée par les parents d’un garçon de 16 ans mort par suicide, qui affirment que ChatGPT a renforcé ses pensées les plus sombres et lui a fourni des informations sur la manière de mettre fin à ses jours.
Cette semaine, l’entreprise a ajouté toute une série de nouveaux contrôles parentaux à ChatGPT, notamment un système de surveillance susceptible d’alerter les parents si leur enfant exprime des pensées d’automutilation lors de l’utilisation du chatbot. Sora propose également des contrôles parentaux similaires, qui permettent aux parents de désactiver la personnalisation algorithmique et le défilement infini, et de choisir si leur adolescent peut envoyer et recevoir des messages privés. Cela suppose toutefois que les parents soient au courant de leur existence et sachent les utiliser.
En outre, OpenAI limite le nombre de vidéos générées par IA que les adolescents peuvent regarder chaque jour et met en place des autorisations plus strictes pour les caméos, tout en faisant appel à des équipes de modérateurs humains pour examiner tout cas potentiel de harcèlement.
L’application Sora pour iOS est désormais disponible au téléchargement, et l’accès aux comptes sera accordé progressivement. Pour l’instant, seuls les utilisateurs situés aux États-Unis et au Canada peuvent s’inscrire, mais l’accès sera bientôt étendu à d’autres pays. Sora 1 Turbo reste disponible, et toutes les vidéos resteront dans la bibliothèque Sora de l’utilisateur.
Les créateurs devront refuser activement que leur personnage protégé par le droit d’auteur soit recréé par Sora 2, et OpenAI en informe les agences artistiques et les studios.