Les lunettes connectées dotées d’une IA de Meta pourraient capturer bien plus de choses que ne le pensent les utilisateurs.
Les images enregistrées par ces appareils — y compris lors de moments très intimes — peuvent être examinées par des employés qui contribuent à entraîner les systèmes d’IA de l’entreprise. Selon la BBC, des prestataires externes chargés d’annoter les données affirment avoir été confrontés à des images extrêmement personnelles dans le cadre de leur travail.
Cette révélation soulève de nouvelles questions sur la manière dont les enregistrements capturés par les lunettes sont traités en coulisses.
Une autorité de contrôle commence à poser des questions
Ces inquiétudes sont désormais parvenues jusqu’aux autorités de régulation. L’Information Commissioner’s Office (ICO) a déclaré que ces allégations étaient « préoccupantes », confirmant qu’il contacterait Meta pour obtenir des précisions sur la manière dont l’entreprise collecte, traite et protège les données personnelles capturées par les lunettes.
L’autorité de contrôle a ajouté que les appareils qui traitent des données personnelles doivent offrir aux utilisateurs un contrôle clair et une transparence sur l’utilisation de ces informations, une exigence qu’elle attend des entreprises qui développent des objets connectés dotés d’une IA.
Quand les lunettes connectées capturent trop de choses
L’enquête a révélé qu’une partie de ces contenus se retrouve entre les mains d’annotateurs de données travaillant pour Sama, une société d’externalisation basée à Nairobi qui fournit des services d’entraînement à l’IA. Leur travail consiste à examiner les images capturées par les lunettes et à étiqueter ce qui y apparaît afin d’aider le système à mieux interpréter le monde qui entoure la personne qui les porte.
Des employés ont déclaré aux enquêteurs que les contenus pouvaient être extrêmement personnels. Dans certains cas, des examinateurs ont dit avoir vu des images de personnes utilisant les toilettes, regardant de la pornographie ou enregistrées après que les lunettes avaient été laissées en marche dans des espaces privés.
Leur rôle ne se limite pas aux images. Les annotateurs examinent les transcriptions des échanges avec l’IA afin de vérifier si le système a correctement répondu aux questions des utilisateurs sur ce que les lunettes voyaient.
Meta défend ses pratiques d’examen des données
Meta affirme que le processus d’examen participe à l’amélioration de l’expérience de ses lunettes dotées d’une IA. L’entreprise a déclaré à la BBC que lorsque des personnes partagent du contenu avec Meta AI, certaines images ou vidéos peuvent être examinées par des prestataires afin d’améliorer la manière dont le système comprend ce qu’il voit.
L’entreprise a ajouté que les données étaient filtrées avant leur examen afin de protéger la vie privée, notamment grâce à des mesures comme le floutage des visages dans les images. Toutefois, les sources citées dans l’enquête ont affirmé que ces protections ne fonctionnaient pas toujours comme prévu, ce qui signifie que des éléments permettant d’identifier les personnes peuvent encore apparaître dans certaines images.
Les compromis en matière de vie privée liés aux lunettes connectées dotées d’une IA
Les lunettes de Meta enregistrent des photos et des vidéos grâce à une petite caméra intégrée que les utilisateurs peuvent activer en appuyant sur un bouton ou en prononçant une commande vocale. Un petit voyant sur la monture est censé indiquer lorsqu’un enregistrement est en cours.
Pourtant, l’essor rapide des objets connectés dotés d’une IA suscite des inquiétudes plus générales quant à leur utilisation abusive. À mesure que ces appareils se répandent, leurs détracteurs avertissent qu’ils pourraient servir à filmer des personnes à leur insu, ajoutant un nouveau risque pour la vie privée dans les espaces du quotidien.
Ces inquiétudes se sont déjà manifestées dans des endroits inattendus. Selon CBS News, un juge californien a récemment réprimandé des membres de l’équipe de Mark Zuckerberg pour avoir porté des lunettes Ray-Ban Meta AI dans une salle d’audience de Los Angeles pendant un procès concernant les réseaux sociaux, en avertissant que tout enregistrement devrait être détruit.
À mesure que les lunettes dotées d’une IA s’intègrent davantage à la vie quotidienne, les questions sur la destination de leurs enregistrements et sur les personnes autorisées à les voir risquent de se multiplier.
Le chatbot de Meta est testé comme un outil permettant de consulter des produits et leurs prix.