YouTube a commencé à déployer un système de vérification de l’âge reposant sur l’intelligence artificielle, avec pour objectif affiché de créer un environnement plus sûr pour les jeunes publics. Ce déploiement a rapidement suscité la contestation d’utilisateurs, qui s’inquiètent de la confidentialité des données, de la fiabilité du système et de ce qu’ils perçoivent comme une extension de la surveillance en ligne.
Le nouveau « modèle d’estimation de l’âge » utilise l’apprentissage automatique pour déterminer si un utilisateur connecté a moins de 18 ans. Il analyse les habitudes de visionnage, l’activité de recherche et l’historique du compte afin d’évaluer si l’utilisateur pourrait avoir moins de 18 ans. Si le modèle estime que le spectateur a moins de 18 ans, YouTube active automatiquement les paramètres de sécurité destinés aux adolescents, quelle que soit la date de naissance indiquée sur le compte.
Ces mesures de protection comprennent la suppression de la publicité personnalisée, l’activation de notifications intégrées favorisant le bien-être, la restriction de certaines recommandations de contenus et l’interdiction d’accéder aux vidéos signalées comme destinées aux adultes. Les utilisateurs identifiés comme ayant moins de 18 ans peuvent demander un réexamen en fournissant une preuve de leur âge, notamment une pièce d’identité officielle, une vérification par carte de paiement ou une image faciale.
James Beser, YouTube’s senior director of product management for youth products, a écrit dans un billet de blog de l’entreprise : « Cette technologie nous permettra de déduire l’âge d’un utilisateur, puis d’utiliser ce signal, quelle que soit la date de naissance indiquée sur le compte, afin de lui proposer des expériences et des protections adaptées à son âge. »
Les partisans y voient une mesure de sécurité, les détracteurs une surveillance
Selon YouTube, des systèmes similaires ont été déployés à l’étranger avec des retours positifs, et le lancement aux États-Unis commencera par une phase de test limitée avant une diffusion plus large. L’entreprise assure qu’elle ne conservera pas les informations issues des pièces d’identité ou des cartes de crédit à des fins publicitaires.
Mais de nombreux utilisateurs de YouTube sont mal à l’aise. Une pétition Change.org contestant le nouveau système de détection de l’âge par IA de YouTube a déjà recueilli plus de 77 000 signatures vérifiées. Les détracteurs avertissent que des adultes pourraient être classés à tort comme mineurs, ce qui les obligerait à communiquer des informations d’identification sensibles pour conserver un accès sans restriction.
L’auteur de la pétition, un créateur de contenus consacré aux jeux vidéo connu sous le nom de Gerfdas Gaming, a déclaré à Ars Technica que la procédure de contestation « soulève d’importantes inquiétudes en matière de confidentialité », s’interrogeant sur le lieu de stockage de ces données et sur leur niveau de sécurité.
Certains détracteurs estiment que cette approche revient à mettre en place une surveillance à grande échelle. Ils soulignent également que des adultes ayant pour passe-temps ou centres d’intérêt des contenus généralement associés aux jeunes publics — comme les critiques de jouets ou les séries d’animation — pourraient être classés par erreur parmi les mineurs.
Les inquiétudes portent notamment sur la protection des mineurs contre les contenus dangereux et sur la préservation de leur vie privée
Cette nouvelle politique intervient alors que les pressions politiques et parentales s’intensifient pour inciter les plateformes technologiques à protéger les mineurs contre les contenus dangereux. D’autres plateformes, notamment Instagram, TikTok et Discord, ont expérimenté ou mis en place des outils de détection de l’âge fondés sur l’IA tandis que des gouvernements aux États-Unis, au Royaume-Uni et dans différentes régions adoptent des règles plus strictes en matière de protection des jeunes.
Les défenseurs des droits numériques avertissent que de tels systèmes risquent d’éroder l’anonymat en ligne et de créer des risques pour la sécurité des données. Beser affirme que l’objectif de YouTube est de « fournir des protections en matière de sécurité tout en préservant la vie privée des adolescents ». Mais alors que les pétitions prennent de l’ampleur et que les réseaux sociaux regorgent de critiques, l’entreprise pourrait avoir du mal à convaincre ses détracteurs que les mesures de sécurité promises justifient les compromis potentiels en matière de confidentialité et d’autonomie des utilisateurs.
Que se passe-t-il lorsque le « parrain de l’IA » nous avertit — une fois de plus — que nous allons dans la mauvaise direction ? Découvrez-le ici.