Voici un nouveau rappel de la prudence à observer concernant ce que vous partagez avec votre chatbot d’intelligence artificielle préféré : les sous-traitants de Meta ont eu accès aux « photos explicites » que les utilisateurs ont envoyées à Meta AI. Parmi les autres « données personnelles non masquées » auxquelles ils ont eu accès par hasard figuraient des noms, numéros de téléphone, adresses e-mail, informations de genre, loisirs, lieux, identifiants de réseaux sociaux, intitulés de poste et selfies.
Meta fait appel à des sous-traitants pour lire les conversations entre les utilisateurs et le chatbot Meta AI afin d’évaluer ses performances. Bien que cette pratique soit courante dans le secteur de l’IA, elle a déjà été critiquée, notamment lorsque Facebook a été accusé d’avoir rémunéré des sous-traitants pour retranscrire des conversations vocales privées sur Messenger sans expliquer comment les fichiers audio avaient été recueillis.
Les sous-traitants affirment avoir régulièrement rencontré des informations sensibles sur les utilisateurs
Quatre sous-traitants d’Aligner et d’Outlier, cette dernière appartenant à Scale AI, qui a récemment reçu un investissement de 14 milliards de dollars US de la part de Meta, ont déclaré à Business Insider avoir rencontré des contenus extrêmement personnels dans les conversations des utilisateurs de Meta AI, allant de messages de drague à des confidences sur leurs relations et leurs difficultés personnelles.
Selon Business Insider, les détails personnels étaient soit communiqués par les utilisateurs au cours des conversations, soit intégrés aux données conversationnelles fournies par Meta aux sous-traitants afin de les aider à personnaliser les réponses de l’IA. L’un des sous-traitants a déclaré qu’il serait « tout à fait » possible de découvrir la véritable identité d’un utilisateur grâce à certaines des informations que Meta lui fournissait dans le cadre de son travail. Un autre a affirmé que ce type d’informations apparaissait dans jusqu’à 70 % des milliers de conversations qu’il examinait chaque semaine.
Meta affirme avoir mis en place des règles pour protéger les données des utilisateurs
Meta a déclaré à Business Insider avoir mis en place des « règles strictes » concernant les données personnelles associées aux conversations avec Meta AI auxquelles les sous-traitants peuvent accéder et « limiter intentionnellement » leur exposition à ces données. L’entreprise a ajouté que ces employés, qui doivent se soumettre à des évaluations en cybersécurité et en gestion des risques liés à la confidentialité, sont autorisés à consulter « certaines informations personnelles » dans le cadre de leur travail.
Les conditions d’utilisation de l’IA de Meta indiquent également que l’entreprise « peut examiner » les interactions des utilisateurs avec son IA, ce qui n’est pas très éloigné des avertissements de nombreux rivaux du secteur des Big Tech, qui autorisent l’utilisation des données de conversation pour entraîner leurs modèles.
Mais cela ne signifie pas que des erreurs ne peuvent pas se produire : des sous-traitants d’Apple auraient surpris des transactions de drogue en cours et des personnes en train d’avoir des rapports sexuels en examinant les fichiers audio de Siri. Les personnes chargées de l’examen chez Amazon ont rencontré des informations financières sensibles dans des enregistrements d’Alexa. Des sous-traitants de Microsoft ont écouté des appels Skype et des conversations avec Cortana, dont certaines avaient été enregistrées depuis des manettes Xbox.
Meta continue de subir les répercussions de scandales passés liés à la vie privée
Deux des sous-traitants qui se sont entretenus avec Business Insider avaient effectué de l’annotation de données ou de l’entraînement d’IA pour d’autres géants de la technologie, comme Google et OpenAI. Ils ont déclaré que les « données personnelles non masquées étaient plus courantes dans les projets de Meta sur lesquels ils avaient travaillé » que chez ses concurrents.
Ce n’est pas une bonne nouvelle pour Meta, qui tente de se défaire d’une réputation peu reluisante en matière de sécurité et de confidentialité. L’entreprise s’est vu infliger une amende de 5 milliards de dollars US par la Federal Trade Commission américaine pour avoir induit les utilisateurs en erreur sur la manière dont leurs données personnelles étaient traitées, ainsi que d’une amende de 1,2 milliard d’euros infligée par la Commission irlandaise de protection des données pour violation du RGPD.
Ces deux sanctions sont intervenues après le célèbre scandale Cambridge Analytica, au cours duquel les données de dizaines de millions d’utilisateurs de Facebook ont été collectées sans leur consentement et utilisées pour influencer des campagnes politiques dans le monde entier. Apple s’est servie des diverses infractions de Meta pour justifier son refus d’accorder aux tiers l’accès à sapile technologique afin qu’ils puissent concevoir des produits interopérables.
Les ambitions de Zuckerberg dans l’IA suscitent de nouvelles inquiétudes
Le rebranding de 2021 de Meta, qui l’a fait passer de Facebook à son nom actuel, devait à la fois signaler son engagement en faveur de la réalité virtuelle et détourner l’attention de son passé douteux. Alors qu’elle continue d’investir dans le métavers et les appareils connectés associés, l’entreprise se concentre désormais sur la course à l’IA, injectant des millions dans une nouvelle division destinée à développer un système qui pourrait dépasser les capacités humaines. Le CEO Mark Zuckerberg a mis l’accent sur l’idée d’une «superintelligence personnelle», une IA qui « connaît profondément son utilisateur», un concept qui nécessiterait vraisemblablement une grande quantité de données utilisateur pour fonctionner.
Malgré ces ambitions, les problèmes de Meta en matière de données persistent. En juin, des utilisateurs ont découvert que des requêtes privées, contenant notamment des informations médicales, des questions juridiques et même des confidences personnelles, étaient visibles dans un fil public. La semaine dernière, Business Insider a révélé que certaines conversations pouvaient effectivement apparaître dans les résultats de recherche Google. Les chatbots ont également tenu des conversations particulièrement inappropriées, et Meta est empêtrée dans des batailles juridiques avec des créateurs qui l’accusent d’avoir volé leurs œuvres pour constituer des données d’entraînement.
En mars, Amazon a envoyé un e-mail à certains utilisateurs d’Echo pour les avertir qu’ils devaient désormais consentir à l’envoi de leurs enregistrements vocaux Alexa vers le cloud de l’entreprise à des fins de traitement.