L’application de chatbot IA de Meta est dans la tourmente après que des utilisateurs ont découvert que leurs requêtes privées, comprenant des informations médicales, des questions juridiques et même des confessions personnelles, apparaissaient dans un fil public « Discover ». Des experts de la protection de la vie privée qualifient ces fuites de « très préoccupantes », car de nombreux utilisateurs semblent ignorer qu’ils ont rendu publiques des requêtes sensibles.
Des informations provenant de différentes sources confirment que le fil affiche des requêtes personnelles révélant des informations confidentielles. Bien que le partage nécessite une action de l’utilisateur, la conception déroutante de l’application a entraîné des divulgations involontaires et généralisées.
Quand des informations privées deviennent publiques
Dans le fil Discover de Meta, des requêtes personnelles qui semblaient destinées à rester privées apparaissent publiquement. TechCrunch rapporte notamment des requêtes médicales concernant des symptômes post-opératoires et de l’urticaire, certaines contenant des informations que les utilisateurs communiquent ouvertement sur leur âge et leur profession.
D’autres conversations portent sur des questions juridiques et universitaires. Malwarebytes a trouvé des utilisateurs demandant de l’aide pour rédiger des lettres de résiliation de bail, des avertissements scolaires et des déclarations destinées au tribunal. Ces messages contiennent souvent le nom d’établissements scolaires ou de villes et, dans certains cas, des contenus liés à des profils Instagram affichant les noms complets.
PCMag a relevé que certaines conversations révélaient des informations permettant d’identifier personnellement les utilisateurs, comme des adresses personnelles et des déclarations fiscales, tandis que d’autres divulguaient des sujets extrêmement sensibles, comme des confessions d’infidélité.
Les utilisateurs ont-ils été induits en erreur ? Les experts et Meta donnent leur avis
Selon des experts, la plateforme d’IA de Meta révèle un écart alarmant entre les attentes des utilisateurs et le fonctionnement réel de l’outil. Rachel Tobac, chief executive officer de Social Proof Security, a déclaré à la BBC que cela créait « un énorme problème d’expérience utilisateur et de sécurité », car les utilisateurs ne s’attendent pas à voir des conversations avec un chatbot d’IA apparaître dans un fil public.
Cette confusion a conduit des utilisateurs à confier des informations personnelles sans se rendre compte qu’elles seraient visibles publiquement. Calli Schroeder, de l’Electronic Privacy Information Center, a qualifié l’incident de « très préoccupant », soulignant les malentendus concernant le fonctionnement de la vie privée dans les outils d’IA.
Meta affirme que les conversations n’apparaissent publiquement que si les utilisateurs l’autorisent au terme d’un processus en plusieurs étapes. Mais même le chatbot de l’entreprise d’IA semblait reconnaître la confusion, en répondant à un utilisateur : « Certains utilisateurs peuvent partager involontairement des informations sensibles en raison d’une mauvaise compréhension des paramètres par défaut de la plateforme ou de changements apportés aux réglages au fil du temps. »
Le résultat ? Des confessions juridiques, des antécédents médicaux et d’autres informations profondément personnelles diffusés dans un fil accessible à n’importe quel utilisateur de la plateforme.
Toujours pas de règles claires pour l’IA et la vie privée
La vie privée reste un problème majeur dans l’intelligence artificielle. De l’exposition de conversations d’utilisateurs par Meta AI à l’utilisation de contenus en ligne sans autorisation, les entreprises continuent d’opérer sans normes claires. Elles invoquent l’usage équitable, tandis que les questions juridiques concernant la propriété des données et le consentement restent sans réponse.
En l’absence de lignes directrices définies et de règles applicables, les utilisateurs se retrouvent pris entre deux feux. Ce qui est saisi aujourd’hui pourrait être exposé demain.