YouTube étend son outil de détection des ressemblances générées par IA aux agences artistiques, aux sociétés de management et aux célébrités qu’elles représentent, élargissant un programme qui avait déjà commencé à être déployé auprès des créateurs, des responsables politiques, des responsables gouvernementaux et des journalistes.
Cette mise à jour place plus directement l’entreprise au cœur d’un conflit grandissant autour de l’usurpation d’identité par IA : des vidéos non autorisées qui imitent le visage d’une personne réelle et se diffusent avant que celle-ci puisse réagir.
Cette évolution s’accompagne toutefois d’une importante réserve. YouTube a indiqué que les suppressions effectivement effectuées par le système étaient jusqu’à présent « très peu nombreuses », ce qui signifie qu’un accès élargi ne se traduit pas encore par une protection éprouvée à grande échelle.
Selon le rapport de TechCrunch sur cette expansion, l’outil analyse les vidéos mises en ligne à la recherche de correspondances visuelles générées par IA avec le visage d’une personne inscrite, puis envoie les correspondances probables à cette personne ou à ses représentants pour vérification.
L’entreprise n’exige pas des artistes qu’ils disposent de leur propre chaîne YouTube pour utiliser l’outil, ce qui facilite un déploiement à grande échelle par l’intermédiaire des agences et des managers. Le soutien de CAA, UTA, WME et Untitled Management montre que YouTube cherche à accélérer l’inscription.
Comment ça fonctionne
YouTube indique que le système s’inspire de Content ID, mais qu’il a été adapté pour détecter l’image d’une personne plutôt qu’une œuvre protégée par le droit d’auteur. Lorsqu’une correspondance probable est trouvée, le participant inscrit peut l’examiner et décider de demander sa suppression via la procédure de YouTube relative au respect de la vie privée.
L’entreprise a également précisé que la parodie, la satire et les autres usages présentant un intérêt public resteraient protégés : une correspondance n’entraîne donc pas automatiquement le retrait de la vidéo.
L’outil constitue donc un système de détection et de vérification, et non un dispositif d’application automatique des règles. Lors de son déploiement initial auprès des responsables publics et des journalistes, YouTube avait indiqué que les participants devaient vérifier leur identité avant de s’inscrire et que les données fournies servaient à la vérification et au fonctionnement de la fonctionnalité, et non à l’entraînement des modèles d’IA générative de Google.
Ce déploiement s’inscrit également dans l’effort plus large de YouTube pour réduire les contenus IA de piètre qualité et réagir au type de vidéos truquées de célébrités et de publicités frauduleuses qui font l’objet d’une attention croissante.
Ses limites
La limite la plus évidente est que l’outil se concentre encore sur les visages. TechCrunch indique qu’une prise en charge de la voix est prévue dans une future version, laissant pour l’instant l’une des formes les plus courantes d’usurpation d’identité par IA en dehors du système.
La procédure de retrait elle-même pose également problème. La University of Baltimore Law Review soutient que les revendications relatives à l’image d’une personne s’intègrent moins facilement au droit d’auteur que les revendications liées à Content ID, ce qui laisse les plateformes qui détectent un préjudice potentiel sans voie juridique clairement établie dans tous les cas. Cela explique pourquoi le faible nombre de suppressions est si important.
YouTube a mis en place une couche de détection plus performante, mais le plus difficile reste de transformer ces correspondances en mesures concrètes. Le même problème se retrouve dans la réaction plus large aux deepfakes, où repérer les abus est souvent plus facile que de les faire cesser.
Pour l’instant, cette expansion est importante parce qu’elle offre aux célébrités et à leurs équipes un meilleur moyen de repérer les abus potentiels. Il est toutefois encore trop tôt pour y voir un remède solide. Tant que YouTube n’aura pas fourni davantage d’informations sur la précision, les faux positifs et les suppressions, l’outil semble plus utile comme système d’alerte que comme solution complète.
À lire également : Meta renforce la protection des créateurs sur Facebook alors qu’il s’attaque à l’usurpation d’identité et aux imitateurs.