Partager une conversation avec une IA avec un collègue ne devrait pas la rendre accessible à des inconnus.
La société de sécurité Claroc a découvert plus de 6 800 adresses accessibles correspondant à des partages publics créés par les utilisateurs de l’assistant IA Muse de Meta. Certaines des conversations examinées contenaient des documents professionnels confidentiels et des informations personnelles sensibles.
Pour les équipes informatiques, cette exposition montre pourquoi l’approbation d’un assistant IA doit aussi s’accompagner d’une vérification de ses fonctions de partage : les employés peuvent être en mesure de publier des informations de l’entreprise au-delà du destinataire prévu.
Des titres de conversations apparus dans les relevés Internet
Lorsqu’un utilisateur partageait une conversation Muse, l’assistant créait une page web publique contenant le titre de la conversation et un identifiant aléatoire dans son nom d’hôte. Dans son enquête GhostShares, la société de sécurité Claroc a fait remonter ces adresses jusqu’à cf.metaaiusercontent.com, le domaine hébergeant les pages.
Les chercheurs ont interrogé une base de données commerciale de DNS passif, qui consigne les recherches de domaines observées. Une requête a renvoyé des milliers de noms d’hôte de partage contenant des titres lisibles et leurs identifiants aléatoires. Les pages échantillonnées s’ouvraient sans connexion. Les instructions déconseillant l’exploration par les moteurs de recherche n’ont pas empêché cette découverte fondée sur le DNS.
Parmi les documents accessibles figuraient un examen du chiffre d’affaires d’une entreprise réservé au PDG et des notes confidentielles préparées pour une réunion de recherche de cadres avec un grand laboratoire d’IA. D’autres exemples comprenaient une demande de prêt pour une petite entreprise, une alerte bancaire pour fraude contenant une partie des informations de compte et le calendrier des congés d’un employé.
La plupart des quelques centaines de conversations examinées par Claroc étaient inoffensives. Néanmoins, les documents sensibles exposés par une simple commande de partage montrent pourquoi la gouvernance de l’IA doit couvrir les actions des employés au sein des outils approuvés.
Meta suspend le partage après le signalement de l’exposition par des chercheurs
Claroc a transmis ses conclusions au programme de chasse aux bugs de Meta le 8 oct., en fournissant des liens d’exemple et des instructions pour reproduire la découverte. Ses recherches ont été rendues publiques le 18 oct.
Le 20 oct., l’entreprise a suspendu la fonction de partage des conversations de Muse. La porte-parole Tracy Clayton a confirmé à The Verge que Meta examinait le rapport et envisageait des changements dans la manière dont les utilisateurs pouvaient découvrir les liens partagés.
Après la suspension, Claroc a retesté 40 pages auparavant accessibles et a constaté qu’aucune ne s’ouvrait. Les titres des conversations restaient visibles dans les relevés DNS historiques. Meta n’a pas annoncé quand le partage reprendrait ni détaillé de solution permanente, et Claroc a déclaré ne disposer d’aucun élément indiquant que quelqu’un avait fait un usage abusif des partages.
Ce qu’a constaté eWeek : les risques liés à la confidentialité du partage de conversations existaient avant le lancement de Muse
Avant le lancement de Muse, des conversations partagées depuis ChatGPT, Grok, et Claude étaient apparues dans les résultats de recherche. eWeek a comparé ces incidents antérieurs à la documentation officielle afin d’examiner la manière dont les plateformes gèrent actuellement le partage et les protections que les entreprises peuvent utiliser.
assistant IA | Exposition antérieure | Réponse et contrôles actuels du partage |
|---|---|---|
| Meta Muse | Des liens publics vers des conversations ont été découverts dans les relevés DNS. | Partage suspendu le 20 oct. |
| ChatGPT | Des conversations partagées sont apparues dans les recherches Google. | OpenAI a supprimé l’option de découverte par les moteurs de recherche. Liens professionnels restent dans l’espace de travail, tandis que les administrateurs Enterprise peuvent désactiver le partage. |
| Claude | Des conversations partagées et des Artifacts sont apparus dans les résultats de recherche. | Les invitations adressées à une adresse e-mail sont désormais utilisées par défaut. Le partage Team et Enterprise reste limité à l’organisation, et les administrateurs peuvent le désactiver. |
| Grok | Les conversations partagées publiquement étaient indexées par les moteurs de recherche. | Les utilisateurs peuvent révoquer les liens publics. Les administrateurs de Grok Business peuvent restreindre l’audience du partage ou désactiver cette fonction. |
Les incidents précédents avaient déjà démontré les risques liés aux liens publics vers des conversations avec une IA. L’exposition de Muse reposait sur une découverte via le DNS plutôt que sur l’indexation par les moteurs de recherche, mais la conséquence pratique était similaire : des informations sensibles sont devenues accessibles au-delà de leur audience prévue.
La comparaison met en évidence deux questions distinctes pour les entreprises : est-il facile de découvrir une conversation partagée, et de quelle autorisation faut-il disposer pour la lire ? Déconseiller l’exploration par les moteurs de recherche ne règle ni la question de l’authentification ni celle de l’autorisation du destinataire. La vérification de l’appartenance à un espace de travail ou les invitations liées à des comptes précis peuvent restreindre l’accès même lorsqu’un lien devient public.
Le type de compte compte également. Les contrôles de partage professionnels ne protègent pas nécessairement les employés qui utilisent des comptes personnels. Les équipes doivent vérifier quels comptes utilisent les employés et tester si les restrictions de leur organisation couvrent les conversations partagées.
Les entreprises d’IA qui introduisent des fonctions de partage devraient examiner ces défaillances antérieures et tester leurs propres restrictions d’accès avant leur lancement. La suspension du partage de Muse était une réaction immédiate appropriée. Son éventuel rétablissement permettra de vérifier dans quelle mesure l’entreprise a remédié à cette exposition.
Les utilisateurs et les entreprises peuvent prendre plusieurs précautions :
- Examiner les conversations Muse précédemment partagées et signaler toute exposition d’informations confidentielles.
- Remplacer les identifiants exposés et évaluer les éventuelles obligations de notification concernant des dossiers personnels.
- Vérifier les autorisations de partage et les contrôles administratifs avant d’utiliser des assistants IA pour des activités confidentielles.
À mesure que les entreprises confient davantage d’informations sensibles aux assistants IA, les fournisseurs devront davantage démontrer que les protections de la vie privée ont été testées avant le déploiement.
Davantage d’actualités sur l’IA : Microsoft veut que les entreprises traitent les agents IA comme des collaborateurs internes, avec des autorisations qui peuvent être modifiées ou disparaître lorsque leur comportement devient risqué.