Un pasteur de Floride a poursuivi OpenAI, affirmant que ChatGPT lui avait donné des conseils médicaux dangereux qui l’avaient conduit à retarder un traitement pour des symptômes qui se sont révélés être ceux d’une embolie pulmonaire potentiellement mortelle.
La plainte, déposée mercredi devant la Cour supérieure du comté de San Francisco, accuse OpenAI et son PDG Sam Altman de négligence et d’exercice illégal de la médecine.
Scott Winters affirme que le chatbot est allé au-delà des informations générales sur la santé en fournissant des diagnostics, des plans de traitement et des assurances répétées qui l’ont dissuadé de consulter en urgence.
Selon la plainte, Winters réclame des dommages et intérêts, un renforcement des garde-fous de sécurité encadrant les réponses médicales de ChatGPT, ainsi qu’une ordonnance judiciaire visant à suspendre le service ChatGPT Health d’OpenAI jusqu’à la réalisation d’évaluations de sécurité indépendantes.
La plainte affirme que ChatGPT a écarté des signes avant-coureurs
La plainte indique que Winters a commencé à utiliser ChatGPT-4o pour comprendre des étourdissements récurrents et d’autres problèmes de santé. Alors que le chatbot lui avait d’abord conseillé de consulter un professionnel de santé, la plainte affirme que ces avertissements ont progressivement disparu à mesure que les conversations se prolongeaient.
Au lieu de cela, ChatGPT aurait attribué ses symptômes à une dysautonomie et recommandé un plan de récupération l’incitant à rester chez lui et à limiter son activité. La plainte affirme également que le chatbot a rassuré Winters lorsque des membres de sa famille et de son église l’ont exhorté à se rendre à l’hôpital.
Le 13 juillet 2025, après que Winters lui a demandé si une douleur à l’aine nécessitait des soins médicaux, ChatGPT aurait répondu qu’il s’agissait « très probablement d’un autre petit élément de cette longue histoire » et que ce n’était « rien de dangereux ».
Quelques heures plus tard, il a été admis en soins intensifs pour ce que la plainte décrit comme une embolie pulmonaire massive provoquée par des caillots sanguins dans les deux poumons.
La plainte indique que les médecins ont ensuite conclu que ses étourdissements antérieurs pourraient avoir été causés par des embolies pulmonaires moins importantes et que plusieurs semaines de mobilité réduite avaient probablement contribué à l’événement potentiellement mortel.
OpenAI affirme que ChatGPT ne remplace pas les médecins
OpenAI conteste l’idée plus générale selon laquelle ChatGPT devrait être utilisé pour les soins médicaux.
« ChatGPT n’est pas un médecin et ne doit jamais être utilisé à la place de soins médicaux, d’un diagnostic ou d’un traitement », a déclaré le porte-parole d’OpenAI Drew Pusaterià CNET.
Il a ajouté : « Traiter les chatbots comme s’ils constituaient toute l’explication des décisions ou des résultats médicaux des personnes simplifie à l’excès un problème bien plus vaste et risque d’empêcher les gens d’accéder à de puissants outils nouveaux susceptibles de les aider dans leur parcours de santé. »
L’entreprise a également déclaré que les modèles d’IA plus récents étaient plus performants que GPT-4o pour reconnaître l’incertitude, demander les informations manquantes et repérer les situations dans lesquelles des soins médicaux professionnels sont nécessaires. GPT-4o a depuis été retiré.
Ce que cela pourrait signifier pour l’IA dans le domaine de la santé
La plainte intervient alors que les entreprises d’IA commercialisent de plus en plus d’outils liés à la santé et encouragent les utilisateurs à téléverser leur dossier médical ou à poser des questions sur leur santé. OpenAI a déclaré que des centaines de millions de personnes utilisaient ChatGPT chaque semaine pour poser des questions sur la santé et le bien-être.
Cette adoption croissante soulève une question délicate pour le secteur : à quel moment un assistant d’IA cesse-t-il d’agir comme un outil d’information pour commencer à fonctionner comme un conseiller médical aux yeux des utilisateurs ?
L’issue de cette affaire pourrait influencer la manière dont les entreprises d’IA conçoivent les garde-fous médicaux, affichent les avertissements et déterminent à quel moment un chatbot doit cesser de répondre aux questions et orienter les utilisateurs vers des soins d’urgence.
Elle pourrait également façonner les futures normes juridiques applicables aux produits d’IA à mesure que ceux-ci s’impliquent davantage dans des domaines sensibles comme la santé.
À lire aussi : OpenAI a déjà fait l’objet d’une plainte pour décès injustifié affirmant que ChatGPT avait donné des conseils dangereux sur des médicaments avant l’overdose mortelle d’un adolescent.