.jpg?w=1024)
Avertissement : cet article traite d’images sexuelles diffusées sans consentement et de contenus représentant des abus sexuels sur mineurs.
xAI poursuit un utilisateur de Grok qu’elle accuse d’avoir modifié à plusieurs reprises des prompts refusés jusqu’à ce que le chatbot produise des hypertrucages sexuels représentant des adultes et des enfants.
L’entreprise d’IA d’Elon Musk a engagé des poursuites contre Terry Wayne Harwood, un résident de Caroline du Sud, devant un tribunal fédéral du Texas. Reuters rapporte que Harwood aurait contourné les contrôles de sécurité et transformé des photographies ordinaires en images explicites sans consentement.
Même les personnes qui n’ont jamais utilisé Grok peuvent être entraînées dans ces abus. Un inconnu peut copier une photo scolaire ou une publication sur les réseaux sociaux dans un service d’IA sans que la personne concernée le sache. Lorsqu’elle découvre ce qui s’est passé, l’image modifiée peut déjà circuler.
Des prompts répétés après le refus du chatbot
Harwood a ouvert deux comptes en décembre 2025 et les a utilisés pendant environ deux mois, selon la plainte. Il a importé des photographies non sexuelles d’adultes et de mineurs avant de demander des images et des vidéos explicites.
Les filtres de sécurité ont bloqué de nombreuses demandes, mais Harwood a continué à modifier ses prompts et à réessayer, affirme xAI. Un incident concernait une fille entièrement habillée qui semblait avoir environ 10 ou 11 ans. Grok a refusé la première demande, puis a effectué d’autres tentatives avec une formulation modifiée.
Certaines productions auraient impliqué des mineurs et constitué des contenus représentant des abus sexuels sur mineurs. Des employés de l’entreprise ont finalement détecté l’activité et l’ont signalée aux autorités.
Harwood fait désormais face à huit chefs d’accusation criminels liés à l’exploitation sexuelle de mineurs en Caroline du Sud. xAI affirme qu’au moins certaines images liées à l’affaire pénale ont été générées ou modifiées par l’intermédiaire de son service.
Ni les chefs d’accusation ni les demandes civiles n’ont été établis par la justice.
Violation du contrat et dommages-intérêts réclamés
Les avocats de l’entreprise ont déposé une plainte pour rupture de contrat, distincte de l’affaire pénale. Harwood a accepté des règles d’utilisation interdisant la sexualisation de personnes réelles sans leur consentement. Des conditions supplémentaires interdisent l’exploitation des enfants et les tentatives de contournement des contrôles de sécurité.
Les avocats réclament des dommages-intérêts dont le montant n’est pas précisé ainsi qu’une ordonnance permanente empêchant Harwood d’ouvrir un autre compte ou d’utiliser le chatbot. Ils veulent également qu’il rembourse l’entreprise si des victimes déposent des plaintes au sujet des images.
En vertu d’une clause d’indemnisation figurant dans le contrat d’utilisation, Harwood pourrait être contraint de prendre en charge les frais de justice et autres coûts liés à de futures poursuites. Une décision favorable à xAI ferait peser une partie de son exposition financière sur la personne accusée d’avoir détourné le service.
Les photos ordinaires et les limites de la responsabilité des utilisateurs
Ironiquement, xAI est également poursuivie par des adolescents qui affirment qu’une autre personne a utilisé Grok pour créer des images sexuelles à partir de leurs photos. Leur action conteste les mêmes garde-fous que ceux que l’entreprise affirme que Harwood a contournés à plusieurs reprises. Les personnes dont les images sont copiées n’ont aucun contrôle sur la manière dont le service réagit ni sur le fait qu’il bloque ou non la demande.
L’affaire Harwood pourrait permettre à xAI de poursuivre un utilisateur abusif et de récupérer les coûts associés. Le recouvrement financier intervient après les dégâts. Les utilisateurs ont besoin que les systèmes d’IA refusent la demande avant qu’une image sexuelle diffusée sans consentement ne soit créée.
Réduire l’exposition à l’exploitation
L’affaire Harwood montre à quel point les personnes peuvent avoir peu de contrôle une fois que quelqu’un d’autre a obtenu leur photo.
Les précautions personnelles ne peuvent pas empêcher un autre utilisateur de détourner un outil d’IA, mais limiter l’accès aux images en haute résolution peut réduire la facilité avec laquelle elles sont copiées. Les parents peuvent également vérifier si les écoles, les équipes sportives ou les associations locales tiennent des galeries consultables en ligne et demander des contrôles d’accès plus stricts.
Évitez de publier des images qui révèlent le nom complet ou l’école d’un enfant. Les informations de localisation et les habitudes quotidiennes peuvent faciliter l’identification de la personne représentée sur une photo.
Si un hypertrucage présumé apparaît, conservez les preuves avant de le signaler. Enregistrez l’adresse web et faites des captures d’écran. Notez le nom du compte et le moment où le contenu est apparu, puis évitez de le partager davantage.
Signalez le contenu en vertu des règles de la plateforme concernant les images intimes diffusées sans consentement, l’usurpation d’identité ou l’exploitation sexuelle des enfants. Les affaires impliquant des mineurs, des menaces ou de l’extorsion peuvent également nécessiter l’aide des forces de l’ordre, d’un avocat ou d’une organisation d’aide aux victimes. Une documentation précoce peut augmenter les chances de supprimer le fichier et de remonter jusqu’au compte à l’origine de sa diffusion avant que d’autres copies ne circulent.
Ces mesures ne peuvent pas éliminer le risque. Elles peuvent toutefois limiter l’exposition inutile, conserver des informations susceptibles d’aider à identifier la personne responsable et faciliter les démarches de retrait ou l’obtention d’une aide juridique.
Le rôle de Grok présumé dans des opérations américaines liées à l’Iran transforme une action en justice environnementale contre xAI en point de tension pour la sécurité nationale.