Une femme désignée dans les documents judiciaires sous le nom de Jane Doe a poursuivi OpenAI en Californie, affirmant que l’entreprise n’avait pas agi malgré plusieurs avertissements signalant qu’un utilisateur de ChatGPT représentait un danger pour autrui. La plainte porte sur la question de savoir si une entreprise d’IA peut être tenue pour responsable lorsque les signes avant-coureurs présumés s’accumulent et qu’une victime nommément désignée affirme que la plateforme n’est toujours pas intervenue.
La plainte découle d’une affaire de harcèlement et de traque visant l’ancien partenaire de Doe, qui aurait utilisé ChatGPT pendant plusieurs mois d’une manière ayant renforcé ses convictions paranoïaques et grandioses. OpenAI n’avait pas répondu publiquement à ces accusations au moment de la publication des premières informations sur la plainte.
La plainte affirme qu’OpenAI a ignoré des avertissements répétés
Selon le compte rendu de TechCrunch consacré à la plainte, Doe affirme qu’OpenAI a ignoré trois avertissements distincts, dont un signalement automatisé interne classant l’activité de l’utilisateur comme impliquant des « armes causant un grand nombre de victimes ». Le même article indique que Doe a également demandé une ordonnance restrictive temporaire qui aurait contraint OpenAI à bloquer le compte de l’utilisateur, à empêcher la création de nouveaux comptes, à l’informer des tentatives d’accès et à conserver l’intégralité des journaux de conversation pour la communication des pièces.
OpenAI a accepté de suspendre le compte, mais les avocats de Doe affirment que l’entreprise a refusé les autres demandes. Ils allèguent également qu’OpenAI dissimule des informations sur des projets visant à faire du mal à Doe et à d’autres victimes potentielles, qui auraient pu être évoqués dans des conversations sur ChatGPT.
L’utilisateur a été arrêté en janvier pour quatre chefs d’accusation criminels, dont la communication de menaces à la bombe et des violences avec une arme dangereuse. Les avocats de Doe affirment également qu’il a été jugé inapte à être jugé et placé dans un établissement de santé mentale, mais qu’il pourrait être libéré prochainement en raison de ce qu’ils décrivent comme une défaillance procédurale de l’État.
La plainte affirme que le compte a d’abord été désactivé en août 2025 après un signalement de sécurité automatisé, puis rétabli à la suite d’un examen humain. Doe affirme également avoir soumis un signalement officiel pour abus en novembre, après avoir vu des captures d’écran de titres de conversations contenant des propos violents et troublants.
Les recherches sur la psychose pourraient peser sur l’affaire
L’issue du litige dépendra probablement en partie de la prévisibilité, c’est-à-dire de la question de savoir s’il était raisonnablement prévisible qu’un chatbot puisse renforcer une pensée délirante dangereuse chez un utilisateur vulnérable.
Cette question a gagné en importance à mesure que de nouvelles recherches apparaissent. The Guardian a rendu compte d’une analyse publiée en mars 2026 dans The Lancet Psychiatry qui concluait que les chatbots d’IA pouvaient valider ou amplifier les convictions délirantes, en particulier chez les personnes déjà vulnérables à la psychose. L’article soulignait également que les chercheurs n’ont pas établi que les chatbots provoquent l’apparition d’une psychose entièrement nouvelle chez des personnes ne présentant aucune vulnérabilité préalable.
Le même article de The Guardian indiquait que la nature interactive des chatbots pourrait accélérer l’intensification de la pensée délirante plus rapidement que les médias passifs, car les utilisateurs échangent avec un système qui répond, affirme leurs propos et construit une relation conversationnelle. Les chercheurs ont également indiqué qu’il était difficile de concevoir des garde-fous, car contester directement les convictions délirantes peut pousser les utilisateurs vulnérables à se replier davantage.
Pour OpenAI, cela ne règle pas l’affaire. Mais si le tribunal admet que les délires amplifiés par un chatbot constituaient un risque connu et documenté, il devient plus difficile de présenter le litige comme le résultat imprévisible d’un usage détourné d’un outil d’IA polyvalent.
À lire aussi : Le plan d’OpenAI pour la sécurité des enfants présente les dernières propositions de l’entreprise en faveur de systèmes de signalement plus robustes, d’une mise à jour des lois et de protections intégrées dès la conception contre les abus générés par l’IA.