Des gouvernements de trois continents ont lancé des enquêtes urgentes visant la plateforme X d’Elon Musk après que son chatbot d’IA Grok a commencé à générer des images sexuellement explicites de femmes et d’enfants.
Ce qui avait commencé par la découverte, par des utilisateurs, qu’il leur suffisait de demander à Grok de « déshabiller » des photos est désormais devenu une crise réglementaire internationale majeure.
Des articles publiés aujourd’hui (6 janv.) révèlent que X a été submergé de contenus générés par l’IA et inappropriés visant des femmes et des mineurs. La controverse a atteint son paroxysme lorsque des utilisateurs ont découvert que Grok répondait favorablement, à une fréquence alarmante, à des demandes comme « mets-la en bikini » ou « enlève-lui ses vêtements ».
Les autorités internationales ont réagi à une vitesse fulgurante après avoir pris la mesure des abus. CNBC a rapporté que plusieurs gouvernements avaient lancé des enquêtes officielles visant la plateforme de Musk, les organismes de réglementation d’Europe, d’Inde et de Malaisie menant la charge contre ce que les responsables ont qualifié de contenu « illégal, épouvantable et dégoûtant ».
Crise numérique
L’Inde a lancé l’ultimatum le plus sévère, donnant à X seulement 72 heures pour refondre entièrement les systèmes de sécurité de Grok sous peine de lourdes conséquences. Le ministère indien des Technologies de l’information a exigé des changements complets pour empêcher la génération de contenus « obscènes, pornographiques ou pédophiles ». En cas de non-respect, X pourrait perdre d’importantes protections juridiques contre les contenus générés par les utilisateurs.
Les responsables de la Commission européenne ont exprimé leur indignation face aux défaillances de la plateforme. Un porte-parole a déclaré que la situation n’avait pas sa place en Europe, a rapporté la BBC. L’UE examine des informations profondément préoccupantes concernant des images explicites d’enfants générées par les systèmes de Grok.
La Commission malaisienne des communications et du multimédia a rejoint l’enquête, annonçant son intention de convoquer les représentants de X pour un interrogatoire immédiat. Selon de récentes conclusions, la commission a souligné que toutes les plateformes opérant en Malaisie devaient mettre en place des mesures de protection adéquates, en particulier pour les fonctionnalités alimentées par l’IA et les outils de manipulation d’images.
L’ampleur des abus
De nouvelles recherches ont révélé l’étendue alarmante de l’utilisation abusive de Grok sur la plateforme. L’analyse de 50 000 mentions de Grok sur une semaine a montré qu’au moins 25 % d’entre elles étaient des demandes de génération d’images, a rapporté The Guardian. Les termes les plus fréquents comprenaient « elle », « mettre », « enlever », « bikini » et « vêtements ».
Plus alarmante encore, une enquête de Reuters a révélé qu’au cours d’une seule période de 10 minutes, les utilisateurs avaient effectué 102 tentatives pour déshabiller numériquement des photos à l’aide de Grok. L’IA a répondu favorablement à environ 21 demandes, générant des images de femmes vêtues de tenues révélatrices et dans des situations compromettantes.
Le plus troublant est qu’environ 2 % des images générées semblaient représenter des personnes de moins de 18 ans, certaines montrant des enfants âgés d’à peine 10 ans. L’IA a également créé des images représentant des substances ressemblant à des fluides corporels sur le visage et le corps de femmes et d’enfants.
La réaction controversée de Musk alimente davantage l’indignation
La réaction initiale d’Elon Musk a suscité une controverse supplémentaire lorsqu’il a répondu par des émojis de rire à des images en bikini générées par l’IA, a relevé The Washington Post. Il a ensuite publié des avertissements indiquant que les utilisateurs créant des contenus illégaux s’exposeraient à des sanctions équivalentes à celles encourues en mettant directement en ligne de tels contenus.
Malgré les promesses d’agir, des contenus troublants ont continué d’apparaître sur la plateforme. Le National Center for Sexual Exploitation a demandé l’ouverture d’enquêtes par le DOJ et la FTC, tandis que des experts juridiques ont estimé que les lois existantes de protection de l’enfance pourraient s’appliquer aux contenus générés par l’IA représentant des mineurs identifiables.
Réglementation de l’IA
La crise liée à Grok constitue un moment important pour la gouvernance de l’IA, alors que les pays s’efforcent de répondre à une technologie qui a clairement dépassé les lois existantes.
Alors que les enquêtes s’étendent à plusieurs continents et que les conséquences juridiques potentielles s’accumulent, cet incident pourrait redéfinir la manière dont les gouvernements réglementent les contenus générés par l’IA dans le monde entier.
Les prochaines semaines détermineront si les plateformes technologiques peuvent s’autoréguler ou si les gouvernements imposeront une surveillance plus stricte des systèmes d’IA capables de créer des contenus préjudiciables, aux conséquences dévastatrices et bien réelles pour les victimes.
xAI a lancé Grok Business and Grok Enterprise, deux nouvelles formules payantes destinées à intégrer son assistant d’IA phare dans les entreprises.