Trois hauts responsables démocrates de la Chambre des représentants pressent l’entrepreneur milliardaire Elon Musk au sujet de son chatbot d’IA, Grok, accusant son entreprise de ne pas empêcher la création, sans leur consentement, d’images deepfake sexualisées représentant des personnes réelles.
Dans une lettre envoyée jeudi, les représentants Frank Pallone, Jan Schakowsky et Yvette Clarke, tous trois membres éminents de la commission de l’Énergie et du Commerce de la Chambre des représentants, ont dénoncé ce qu’ils ont décrit comme une « inaction » de Musk et de son entreprise d’intelligence artificielle, xAI.
« Nous sommes profondément préoccupés par le refus de xAI de mettre fin à la création d’images sexualisées non consenties, en particulier celles représentant des enfants », ont écrit les parlementaires dans la lettre, selon NBC News. « Ces publications obscènes exposent les femmes, les hommes et les enfants à un risque extrême de préjudice », indique la lettre.
Les démocrates exigent des réponses détaillées d’ici au 5 mars, notamment sur la date à laquelle Musk a appris pour la première fois que des utilisateurs incitaient Grok à générer, sans leur consentement, des images explicites de femmes ou de mineurs.
Les débuts de la controverse
Les capacités de génération d’images de Grok ont suscité une vive réaction en janvier après que des utilisateurs ont découvert qu’ils pouvaient modifier des photos pour retirer des vêtements ou créer des représentations sexualisées de personnes réelles.
Des chercheurs et des organismes de surveillance ont déclaré que l’outil facilitait le harcèlement et ont fait part de leurs inquiétudes quant à la création potentielle de matériel d’abus sexuels sur mineurs. À un moment donné, des milliers de ces images auraient été générées chaque heure et partagées sur X.
Musk a précédemment déclaré qu’il ignorait l’existence d’images nues de mineurs et a affirmé que Grok « refusera de produire quoi que ce soit d’illégal ». Il a également suggéré que ces détournements pouvaient résulter de tentatives de manipulation du système, écrivant sur X : « Il peut arriver que le piratage adversarial des instructions de Grok provoque un comportement inattendu. Si cela se produit, nous corrigeons immédiatement le bug. »
L’UE ouvre des enquêtes officielles
Alors que les parlementaires américains cherchent désormais des réponses, les régulateurs européens ont déjà intensifié leur action.
La Commission européenne a ouvert le mois dernier une enquête officielle visant X au titre du règlement sur les services numériques (DSA), en se concentrant sur les risques associés au déploiement de Grok au sein de l’Union européenne.
Dans un communiqué, la Commission a déclaré qu’elle évaluerait si X avait correctement évalué et atténué les risques associés aux fonctionnalités de Grok, notamment « la diffusion de contenus illégaux dans l’UE, tels que des images sexuellement explicites manipulées, y compris des contenus susceptibles de constituer du matériel d’abus sexuels sur mineurs ».
« Ces risques semblent s’être concrétisés, exposant les citoyens de l’UE à de graves préjudices », a déclaré la Commission. Si des violations sont établies, elles pourraient constituer des infractions à plusieurs dispositions du DSA.
Par ailleurs, la Commission irlandaise de protection des données a annoncé mardi qu’elle ouvrait une enquête sur X dans le cadre des règles strictes du RGPD de l’UE en matière de protection de la vie privée. L’autorité irlandaise est le régulateur européen de référence pour X, car le siège européen de l’entreprise se trouve à Dublin. L’enquête cherchera à déterminer si X a traité illégalement des données à caractère personnel afin de créer des images intimes non consenties « potentiellement préjudiciables » mettant en scène des Européens, y compris des enfants.
Le même jour, le Premier ministre espagnol Pedro Sánchez a annoncé que son gouvernement avait ordonné aux procureurs d’enquêter sur X, ainsi que sur Meta et TikTok, au sujet de crimes présumés liés à du matériel d’abus sexuels sur mineurs généré par IA. « Ces plateformes s’attaquent à la santé mentale, à la dignité et aux droits de nos fils et de nos filles », a écrit Sánchez sur X.
La pression politique s’intensifie aux États-Unis
De retour aux États-Unis, les inquiétudes concernant les deepfakes générés par l’IA ne se limitent pas aux démocrates. Le sénateur républicain Ted Cruz, qui a contribué à faire adopter l’an dernier une interdiction fédérale de la pornographie deepfake non consentie, avait précédemment déclaré que de nombreuses publications générées par Grok semblaient constituer une « violation manifeste » de la loi. Il a toutefois indiqué que X avait fait savoir qu’elle prenait le problème au sérieux.
L’enquête du Congrès vient s’ajouter à la pression juridique et réglementaire croissante qui s’exerce sur la plateforme de Musk, à l’heure où les outils d’IA générative se répandent rapidement et où les garde-fous continuent d’évoluer.
À lire aussi : xAI teste discrètement ce qu’elle appelle des « émulateurs humains », selon un ancien ingénieur de xAI.