L’entreprise d’intelligence artificielle d’Elon Musk, xAI, fait l’objet de critiques après que Google a indexé des centaines de milliers de conversations publiques avec son chatbot, Grok. L’exposition s’est produite via la fonctionnalité « partager » de Grok, qui permet aux utilisateurs de générer un lien unique pour envoyer la transcription de leurs échanges. Mais au lieu de rester privées, ces conversations partagées ont également été indexées par des moteurs de recherche comme Google, Bing et DuckDuckGo.
Forbes a rapporté que Google, à lui seul, avait indexé plus de 370 000 conversations avec Grok. Les transcriptions comprenaient des échanges anodins, comme des brouillons de tweets, mais aussi des contenus très sensibles tels que des questions médicales, des informations personnelles et des mots de passe.
Des contenus inquiétants parmi les conversations divulguées
Au-delà des demandes ordinaires, certaines conversations indexées révélaient des contenus alarmants. Selon Forbes, Grok a fourni des instructions détaillées pour fabriquer du fentanyl et des explosifs, et a même proposé un plan pour assassiner Elon Musk.
Ces résultats sont apparus malgré la politique affichée de xAI, qui interdit la promotion de la violence, des armes biologiques ou d’autres activités illicites.
Certains utilisateurs ont été surpris d’apprendre que leurs conversations partagées avaient été rendues publiques. Le journaliste britannique Andrew Clifford, qui avait utilisé Grok pour rédiger des tweets, a déclaré à Forbes : « Je serais un peu contrarié, mais il n’y avait rien qui n’aurait pas dû s’y trouver. » Il utilise depuis l’IA Gemini de Google.
D’autres, notamment des chercheurs en IA, ont fait part de leur inquiétude. Nathan Lambert, de l’Allen Institute for AI, a déclaré qu’il ignorait que le partage en interne avec des collègues rendrait également les conversations accessibles dans les recherches.
« J’ai été surpris de constater que les conversations Grok partagées avec mon équipe étaient automatiquement indexées sur Google, alors qu’aucun avertissement ne le signalait », a-t-il déclaré à Forbes.
Ce n’est pas la première atteinte à la confidentialité d’un chatbot d’IA
Ce n’est pas la première fois que des conversations avec un chatbot sont divulguées au-delà de ce que les utilisateurs avaient prévu.
Le ChatGPT d’OpenAI a récemment essuyé des critiques après que certaines conversations partagées sur ChatGPT ont été indexées par Google. L’entreprise a rapidement désactivé la fonctionnalité, la qualifiant d’« expérience de courte durée » et reconnaissant qu’elle présentait des risques d’exposition involontaire de données.
Le chatbot d’IA de Meta a également été critiqué plus tôt cette année lorsque des conversations partagées sont apparues dans un fil public « découvrir ».
Musk s’était auparavant moqué du problème d’OpenAI en publiant « Grok ftw » [pour la victoire] sur X lorsque des conversations de ChatGPT étaient apparues dans les résultats de recherche. Désormais, sa propre start-up d’IA fait face à des critiques similaires.
La leçon à retenir pour les utilisateurs d’IA
Les utilisateurs d’IA devraient considérer chaque interaction avec un chatbot comme une publication potentiellement publique et ne jamais partager d’informations permettant de les identifier personnellement. Tant que les entreprises n’auront pas intégré des protections plus solides et des avertissements plus clairs à leurs outils d’IA, le plus sûr est de supposer que tout ce qui est partagé avec un chatbot pourrait un jour apparaître dans un résultat de recherche.
Ce n’est pas la première fois que Grok suscite la controverse. L’outil vidéo IA de Grok a récemment fait l’objet de vives critiques pour avoir produit des vidéos deepfake non consenties de célébrités.