Les régulateurs de l’Union européenne ont ouvert une nouvelle enquête visant la plateforme de réseau social X d’Elon Musk. Elle porte sur son chatbot d’IA Grok et sur des allégations selon lesquelles celui-ci pourrait être utilisé pour générer des images deepfake sexualisées de femmes et de mineurs.
L’enquête, annoncée aujourd’hui (26 janv.), intervient alors que les critiques internationales contre l’outil se multiplient et que l’on s’inquiète de voir des utilisateurs transformer des photos ordinaires en contenus explicites à l’aide de simples instructions textuelles comme « mets-la en bikini » ou « enlève-lui ses vêtements ».
Cette initiative marque une intensification de la répression menée par l’UE contre les plateformes qu’elle estime incapables d’enrayer les contenus illégaux ou préjudiciables. Elle soulève également des questions plus larges sur la manière dont les outils d’IA générative, qui évoluent rapidement, seront encadrés par les lois existantes en matière de sécurité numérique.
- Ce qui a motivé la dernière enquête de l’UE
- Une levée de boucliers alimentée par les recherches d’un organisme de surveillance
- Pourquoi le règlement sur les services numériques est important ici
- Les deepfakes, une menace grandissante
- Une enquête élargie, liée aux précédentes mesures prises contre X
- Quelle sera la prochaine étape pour Grok et X ?
Ce qui a motivé la dernière enquête de l’UE
La Commission européenne a déclaré qu’elle cherchait à déterminer si X avait suffisamment pris en compte les « risques liés à la diffusion de contenus illégaux dans l’UE, tels que les images sexuellement explicites manipulées, y compris les contenus susceptibles de constituer du matériel pédosexuel ».
La présidente de la Commission européenne, Ursula von der Leyen, a présenté la question comme une ligne rouge à la fois juridique et morale.
« En Europe, nous ne tolérerons pas des comportements inimaginables, comme le déshabillage numérique de femmes et d’enfants », a-t-elle déclaré. « C’est simple : nous ne laisserons pas des entreprises technologiques s’arroger le consentement et la protection de l’enfance pour les bafouer et en tirer profit. Les dommages causés par les images illégales sont bien réels. »
L’affaire porte sur la manière dont Grok, un chatbot intégré à X, serait utilisé pour générer des images sexualisées à partir de photos avec des instructions minimales. Les détracteurs estiment que la facilité avec laquelle ces contenus peuvent être produits accroît les risques de harcèlement, d’exploitation et de diffusion de contenus illégaux, en particulier lorsque des mineurs sont concernés.
Une levée de boucliers alimentée par les recherches d’un organisme de surveillance
L’enquête intervient quelques jours après la publication d’une étude du Center for Countering Digital Hate (CCDH), un organisme de surveillance à but non lucratif, selon laquelle Grok aurait généré environ trois millions d’images sexualisées de femmes et d’enfants en l’espace de quelques jours.
Ce chiffre a accru la pression sur les régulateurs et sur X, sommés de démontrer l’efficacité de leurs garde-fous. Si les méthodes utilisées pour estimer l’ampleur de la génération d’images n’ont pas été détaillées dans cette brève annonce, le chiffre avancé a renforcé les craintes de voir les systèmes génératifs être détournés plus rapidement que les dispositifs de modération ne peuvent suivre.
Pour les détracteurs de la plateforme, cette controverse illustre une nouvelle fois la façon dont les produits d’IA peuvent introduire de nouvelles formes d’abus en automatisant des actions qui exigeaient auparavant davantage de compétences techniques — faisant de la création de deepfakes une pratique plus proche des usages quotidiens des réseaux sociaux.
Pourquoi le règlement sur les services numériques est important ici
Henna Virkkunen, responsable de la souveraineté technologique à la Commission européenne, a déclaré que l’enquête devait « déterminer si X a respecté ses obligations légales » au titre du règlement européen sur les services numériques (DSA), un texte majeur conçu pour limiter les risques posés par les plus grandes plateformes en ligne au monde.
Elle a ajouté que les droits des femmes et des enfants dans l’UE ne devaient pas être les « dommages collatéraux » des services de X.
Le DSA impose aux grandes plateformes d’identifier les risques systémiques et de prendre des mesures pour réduire les préjudices, notamment la diffusion de contenus illégaux. Concrètement, l’UE cherchera à établir que X en a fait suffisamment pour empêcher Grok de produire et de diffuser des contenus manipulés à caractère sexuel explicite — en particulier si ceux-ci franchissent le seuil du matériel pédosexuel.
Si les régulateurs concluent que X n’a pas correctement géré ces risques, l’entreprise pourrait se voir infliger de nouvelles sanctions, imposer des modifications de son produit ou faire l’objet d’un contrôle de conformité plus approfondi. Cette affaire pourrait également constituer un test important pour déterminer si le DSA est capable de lutter efficacement contre les préjudices liés à l’IA générative, alors même que la loi n’a pas été conçue spécifiquement pour les outils modernes de génération d’images.
Les deepfakes, une menace grandissante
Cette controverse reflète un problème qui prend rapidement de l’ampleur : les outils de « déshabillage numérique » et les deepfakes sexuels sont de plus en plus utilisés pour cibler des femmes, des personnalités publiques et des mineurs.
Même lorsque les images manipulées ne répondent pas à la définition juridique stricte du matériel pédosexuel, elles peuvent néanmoins causer de graves préjudices, notamment du harcèlement, du chantage, une atteinte à la réputation et des traumatismes psychologiques durables. Les victimes ont souvent peu de contrôle une fois que les contenus se propagent en ligne, tandis que les procédures de retrait peuvent être lentes, fragmentées ou incohérentes selon les plateformes et les juridictions.
Le vocabulaire employé par l’UE laisse entendre qu’elle ne considère pas la question comme un cas marginal, mais comme une défaillance directe en matière de sécurité, aux conséquences bien réelles — d’autant que les images peuvent être générées et partagées à grande échelle.
Une enquête élargie, liée aux précédentes mesures prises contre X
Bruxelles a déclaré élargir une enquête déjà ouverte visant X, qui portait initialement sur les contenus illégaux et la manipulation de l’information.
X fait l’objet d’un examen attentif de la part de l’UE depuis décembre 2023, en vertu des règles de l’Union sur les contenus numériques. En décembre, la Commission a précédemment infligé à X une amende de 120 millions d’euros (142 millions de dollars US) pour violation de ses obligations de transparence au titre du DSA, évoquant notamment le « design trompeur » de son système de vérification par « coche bleue » et son incapacité à donner aux chercheurs accès aux données publiques.
Cette amende a suscité de vives critiques de la part de l’administration du président américain Donald Trump, soulignant à quel point l’approche européenne de la régulation des technologies est devenue un sujet de tension dans la politique transatlantique.
Pour les responsables de l’UE, l’enquête sur Grok devrait être présentée comme la poursuite d’une politique de contrôle cohérente : imposer des obligations aux plateformes quelles que soient les pressions politiques, l’influence des entreprises ou la popularité de certaines technologies.
Quelle sera la prochaine étape pour Grok et X ?
L’enquête examinera probablement la manière dont Grok gère les requêtes sensibles, si X dispose de systèmes adéquats pour détecter et supprimer les images manipulées à caractère sexualisé, ainsi que la rapidité avec laquelle l’entreprise réagit lorsque les risques deviennent manifestes.
Son issue pourrait influencer le traitement réservé à d’autres outils d’IA générative dans le cadre du DSA, ainsi que la question de savoir si les plateformes devront mettre en place des restrictions par défaut plus strictes, une surveillance renforcée et une définition plus claire des responsabilités concernant les contenus générés par l’IA.
Pour le X de Musk, cette affaire vient renforcer la pression réglementaire croissante exercée en Europe, à un moment où les autorités signalent que les préjudices facilités par l’IA — en particulier lorsqu’ils concernent des femmes et des enfants — seront traités comme une priorité en matière de contrôle, et non comme un simple débat politique.
Dans un événement connexe, Grok AI fonctionnait toujours en Indonésie et en Malaisie, malgré une interdiction nationale.