Grok Imagine, un nouvel outil vidéo d’IA développé par xAI, l’entreprise d’Elon Musk, fait l’objet de vives critiques en raison d’un mode Spicy capable de produire des vidéos hypertruquées non consenties de célébrités. De nombreux témoignages révèlent que cette fonctionnalité, qui transforme des prompts textuels en courtes vidéos photoréalistes, peut générer des contenus dénudés ou suggestifs mettant en scène des vedettes comme Taylor Swift et Timothée Chalamet.
Contrairement aux plateformes concurrentes dotées de garde-fous intégrés, Grok Imagine a été lancé avec des contrôles de modération limités et est déjà devenu viral.
Des millions de vidéos générées en quelques heures
Dans les deux jours suivant le lancement de Grok Imagine, l’outil avait généré plus de 34 millions d’images par IA, selon Musk. L’outil — accessible aux utilisateurs d’iOS via l’abonnement SuperGrok de xAI à 30 dollars US — permet de créer des images générées par IA, puis de les convertir rapidement en courtes vidéos.
Musk a décrit cette version comme une bêta précoce « optimisée pour un maximum de fun », conçue pour être rapide et simple, avec un lancement public prévu en octobre. Pour l’instant, seuls certains utilisateurs peuvent y accéder, les autres pouvant s’inscrire sur une liste d’attente via l’application Grok.
Des frontières floues et de la peau dénudée
Grok Imagine propose quatre préréglages vidéo : Custom, Normal, Fun et Spicy. Si ces modèles appliquent différents effets visuels, le mode Spicy s’est distingué par sa capacité à générer des contenus sexuels très réalistes sans demande explicite.
Par exemple, The Verge a rapporté qu’un prompt mettant en scène « Taylor Swift célébrant Coachella avec les garçons » avait produit des dizaines d’images suggestives hypertruquées, dont l’une avait facilement été transformée en vidéo montrant la chanteuse seins nus danser en string. Aucun avertissement ni contrôle de modération n’est intervenu au cours du processus.
Lors de tests menés par Deadline, le prompt « Scarlett Johansson marche sur le tapis rouge » montrait l’actrice soulevant sa robe pour révéler ses sous-vêtements, même si les résultats étaient parfois bloqués. Johansson a exprimé son opposition à l’exploitation de l’IA.
Des prompts identiques, une exposition inégale
L’analyse de Gizmodo de l’outil d’IA a révélé un biais constant dans la manière dont le mode controversé traitait les genres. Les prompts impliquant des femmes produisaient fréquemment des images seins nus ou entièrement nues, même sans instruction explicite. Des personnalités publiques comme Melania Trump et Martha Washington étaient représentées dans des scènes suggestives ou nues, tandis que des hommes comme Elon Musk, Jeff Bezos et Barack Obama n’étaient montrés que légèrement dévêtus.
La disparité persistait même lorsque les prompts étaient identiques : des célébrités masculines comme Chalamet apparaissaient dans des situations relativement anodines, comme retirer leur chemise, tandis que leurs homologues féminines étaient représentées nues ou seins nus.
Un maximum de fun avec un minimum de garde-fous ?
La récente controverse autour de Grok Imagine n’est que le dernier épisode en date des déboires de xAI. Son chatbot Grok a déjà été critiqué pour avoir produit du contenu antisémite, discours haineux, ainsi que des références au génocide blanc.
Après polémique sur polémique, il est inévitable de se demander ce que fait réellement l’entreprise d’IA pour y remédier.
Grok Imagine est peut-être optimisé pour un maximum de fun, mais la fabrication de vidéos de personnes nues et de récits offensants fait basculer ce divertissement dans une zone dangereuse. D’autant plus que nous avons déjà vu comment l’intelligence artificielle peut alimenter des escroqueries et même alimenter la désinformation sur les conflits mondiaux.
Entre de mauvaises mains, et avec peu ou pas de garde-fous, la définition du fun selon Musk pourrait se faire aux dépens de tous les autres.
Vous vous demandez comment l’IA générative intervient désormais dans les nominations aux Oscars ? Découvrez notre analyse des nouvelles règles de l’Academy et de leurs implications pour les cinéastes.