ChatGPT ne remplace pas les médecins, mais pourrait bien être l’ami paranoïaque dont vous avez besoin à 2 heures du matin

ChatGPT, docteur en médecine ?

Écoutez ça : un utilisateur de Reddit vient d’attribuer à ChatGPT le mérite d’avoir probablement sauvé la vie de sa femme.

Après le retrait d’un kyste, elle avait de la fièvre, mais lui a dit qu’elle voulait « attendre que ça passe ».

Le mari a saisi nonchalamment tous les détails dans ChatGPT (comme il le faisait souvent) et a été surpris de le voir leur conseiller de se rendre aux urgences, au plus vite.

Il a dit que, normalement, GPT était beaucoup plus détendu, et que cette urgence avait donc été un peu un choc.

Et devinez quoi ? Il avait raison.

Elle avait développé une septicémie.

Naturellement, les commentaires ont débordé d’histoires similaires

L’IA qui détecte des caillots sanguins, diagnostique des problèmes de vésicule biliaire et repère même des maladies rares qui avaient déconcerté 17 médecins différents. C’était franchement assez incroyable à lire ?? Et par « incroyable », nous voulons dire assez difficile à croire.

Par ailleurs, avant d’aller plus loin, nous devons préciser pour mémoire : 

Rien de tout cela ne constitue un avis médical et ne doit être interprété comme une recommandation d’utiliser l’IA pour vos soins de santé. Vous devriez également probablement vous renseigner sur la manière dont les entreprises d’IA conservent vos données et peuvent ne pas supprimer vos conversations malgré ce qu’elles affirment.

Maintenant, avant de désigner ChatGPT comme votre nouveau médecin traitant, écoutez ceci :

Une importante nouvelle étude d’Oxford menée auprès d’environ 1 300 participants a révélé une vérité essentielle sur les conseils médicaux de l’IA : les personnes utilisant des chatbots d’IA ont obtenu de moins bons résultats que celles qui utilisaient simplement Google.

L’étude d’Oxford a testé GPT-4o, Llama 3 et Command R+ sur des scénarios médicaux avec de vraies personnes.

Voici ce qu’elle a révélé

Lorsque les IA travaillaient seules, elles obtenaient une précision de 90 à 99 % pour identifier les pathologies.

Mais lorsqu’elles étaient associées à des humains, les utilisateurs ne pouvaient identifier les pathologies pertinentes que dans 34,5 % des cas— un résultat nettement inférieur aux 47 % obtenus par les personnes utilisant simplement Google et leurs propres connaissances.

Le problème ? Les utilisateurs fournissent des informations incomplètes, ne parviennent pas à distinguer les bonnes suggestions de l’IA des mauvaises et ignorent même les recommandations correctes lorsque l’IA a raison.

L’étude d’Oxford met en lumière une faille critique dans notre manière d’évaluer l’IA

Les évaluations médicales standard affichaient une précision supérieure à 80 %, tandis que les performances dans le monde réel avec la même IA étaient inférieures à 20 % dans certains cas.

Les IA qui obtenaient une précision de 99 % lorsqu’elles étaient testées seules échouaient complètement lorsque de vraies personnes essayaient de les utiliser.

Une autre méta-analyse complète publiée en 2025 et portant sur 83 études a révélé que les modèles d’IA générative affichaient une précision diagnostique globale de seulement 52,1 % — pas meilleure que celle de médecins non spécialistes, mais nettement inférieure à celle de médecins experts.

‍Les données sur la précision médicale de ChatGPT partent dans tous les sens… de 49 % de précision dans une étude à de meilleures performances que les médecins des services d’urgence dans une autre.

Mais l’article d’Oxford soulignait que le vrai problème n’est pas les connaissances médicales — ce sont les aptitudes relationnelles.

Comme l’a expliqué un expert médical : « Les LLM ont les connaissances, mais manquent de compétences sociales. »

D’une certaine manière, le goulot d’étranglement n’est pas l’expertise médicale, mais la conception de l’interaction humain-machine.

Les gens utilisent déjà ChatGPT comme un « outil de triage de première ligne » et n’agissent que lorsque l’IA leur dit de « consulter un médecin au plus vite ». Mais les personnes ordinaires qui ne sont pas médecins peinent à communiquer efficacement, même dans des scénarios fictifs où elles n’ont aucune raison de mentir ou de dissimuler des informations.

Cela reflète des tendances plus générales du développement de l’IA. Il y a deux ans, le « prompt engineering » était encensé dans toutes les entreprises technologiques, puis il a disparu à mesure que les modèles s’adaptaient aux questions typiques des utilisateurs.

Mais cela ne s’est pas traduit dans les conversations médicales avec des non-professionnels, où les consignes du type « faites parfois X » échouent lorsque les situations sont floues.

Et les modèles de raisonnement (o1, o3, etc.) ?

Des études récentes sur des modèles plus récents comme GPT-4o et ChatGPT o1 montrent de meilleures performances, les modèles plus récents atteignant une précision de 60 %, contre 47,8 % pour GPT-3.5 dans les diagnostics principaux.

Cela fait référence à une étude menée en mars 2025 dans un service d’urgence, qui a testé différents modèles de ChatGPT sur 30 cas réels de patients et a constaté que les modèles plus récents comme GPT-4o et o1 surpassaient nettement les anciennes versions, les deux atteignant une précision de 60 % pour identifier les diagnostics principaux.

Fait intéressant, demander à l’IA d’expliquer son raisonnement a amélioré les performances des modèles GPT-4o — faisant passer la précision de 45,6 % à 56,7 % dans certains cas — mais a eu un impact minime sur les modèles o1, ce qui suggère que les modèles plus récents axés sur le raisonnement intègrent déjà cette étape en interne.

Une étude distincte menée en juin 2025 sur la pneumonie a évalué trois modèles d’IA à l’aide de 50 questions spécifiques à la pneumonie. OpenAI o1 a obtenu les meilleurs scores de précision, suivi par o3 mini, tandis que ChatGPT-4o arrivait dernier.

Fait crucial, les deux modèles à chaîne de raisonnement (o1 et o3 mini) ont démontré de solides capacités d’autocorrection : lorsque des spécialistes des maladies infectieuses signalaient des erreurs, ces modèles amélioraient considérablement leurs réponses, tandis que ChatGPT-4o ne progressait que très peu après une nouvelle invite.

Même avec ces améliorations, nous n’avons toujours pas atteint le niveau de fiabilité nécessaire pour fournir des conseils médicaux sans supervision.

Mais toutes ces études mettent en évidence le même schéma : les modèles d’IA deviennent meilleurs en raisonnement médical, mais l’interaction entre humains et IA reste le principal goulot d’étranglement pour un déploiement dans le monde réel.

Puisqu’on en parle, les aficionados de WebMD ne sont pas les seuls à utiliser l’IA.

À l’inverse, les médecins eux-mêmes disposent apparemment d’outils d’IA extraordinaires. La start-up OpenEvidence — un moteur de diagnostic fondé sur l’IA utilisé par environ 25 % de l’ensemble des médecins américains — est entraîné exclusivement sur des publications médicales évaluées par des pairs et collabore avec des revues comme NEJM et JAMA (voici une démo sympa). Ces médecins y accèdent apparemment en moyenne 10 fois par jour pour les aider à traiter des cas complexes, en particulier en oncologie.

OpenEvidence a déjà levé 100 millions de dollars US pour une valorisation de 3 milliards de dollars US, et a même poursuivi un concurrent en justice qui se serait fait passer pour des médecins afin d’accéder à ses algorithmes propriétaires. C’est comme ça qu’on sait que l’outil est bon.

Pendant ce temps, certains hôpitaux (comme Johns Hopkins) utilisent l’IA pour prédire le risque de septicémie… exactement ce pour quoi ChatGPT avait conseillé au mari d’emmener sa femme à l’hôpital.

Et puis il y a Ellipsis Health, qui vient de lever 45 millions de dollars US pour « Sage », une IA qui passe des appels de gestion des soins entièrement autonomes aux patients — de l’inscription à un programme au suivi après la sortie, sans supervision humaine.

Et nous avons déjà écrit sur la manière dont Abridge et Microsoft sont essentiellement les deux leaders de la course à la prise de notes médicale par l’IA. Cela dit, au cours des dernières semaines, deux concurrents ont obtenu des financements supplémentaires :

• Commure rédige automatiquement vos notes médicales et s’occupe des démarches administratives auprès des assurances après chaque consultation (a levé 200 millions de dollars US). 
• Nabla écoute vos conversations avec les patients et rédige automatiquement vos notes médicales en 5 secondes (a levé 70 millions de dollars US).

Les investisseurs en capital-risque voient évidemment qu’il y a de l’argent à gagner à mesure que l’adoption progresse.

Et bien sûr, vous avez vu comment l’IA a été utilisée pour diagnostiquer toutes sortes de maladies et de troubles (voici la tentative d’o3 Pro de dresser une liste définitive).

Une patiente a même regardé son dermatologue vérifier les interactions entre médicaments avec ChatGPT sur son téléphone pendant une consultation.

Gardez ceci à l’esprit : Les médecins ne souhaitent pas tous faire confiance à l’IA (et à juste titre). En février, 47 % des médecins souhaitaient un renforcement de la surveillance de la FDA sur les dispositifs médicaux utilisant l’IA, tandis que des chercheurs avertissent que « de nombreux hôpitaux achètent des outils d’IA “sur étagère” sans validation locale », ce qui est « une recette pour la catastrophe ».

L’adoption progresse donc, tout comme le scepticisme.

Alors pourquoi les gens se tournent-ils vers l’IA pour leurs besoins médicaux ?

Parce que la priorité numéro 1 des Américains est de pouvoir accéder plus facilement aux soins.

Aux États-Unis, les gens ne veulent pas aller chez le médecin, même pour des visites de prévention, soit parce que c’est trop cher, soit parce que ce n’est pas couvert par leur assurance, soit parce qu’il faut souvent attendre plusieurs mois.

Et ne me lancez même pas sur l’épreuve d’une absurdité grotesque que représente la recherche d’un nouveau médecin dans une nouvelle ville qui soit AUSSI « dans le réseau ». Soit vous piochez des noms dans une liste (horrible), soit vous écumez les « sites d’avis sur les médecins » (mais qui écrit ça ??), soit vous tapez « meilleur médecin blue shield 90210 +reddit » pour essayer de trianguler une quelconque piste.

Alors oui, évidemment les gens se tournent vers des chatbots grand public non réglementés, parce que c’est ce qui est facilement disponible.

L’interface conversationnelle fait aussi une grande différence.

Plutôt que la liste interminable de symptômes de WebMD ou de la Mayo Clinic qui finit immanquablement par indiquer soit « vous allez bien » ou « mort », vous pouvez réellement décrire ce que vous ressentez et obtenir une réponse nuancée.

« J’ai mal à la tête, mais j’ai aussi des nausées et ma vision semble bizarre » ne produit pas le même effet que de cocher des cases dans un outil d’évaluation des symptômes ou de faire défiler les symptômes et leurs causes potentielles dans une boucle anxiogène interminable sur WebMD .

Par conséquent, les réponses de GPT semblent plus dignes de confiance parce qu’elles sont plus personnalisées.

La véritable valeur d’une interface de type chatbot ne réside pas dans le diagnostic de l’IA (c’est probablement la partie dangereuse). C’est l’IA qui aide à surmonter cette tendance très humaine à minimiser les symptômes alors qu’il faudrait absolument consulter un médecin.

Mais comme nous ignorons ce que nous ignorons (nous ne sommes pas médecins) et que nous ne communiquons pas tout ce qui pourrait être pertinent (parce qu’on ne nous y incite pas et que nous ne sommes pas aussi méticuleux que les professionnels de la tech, qui ont naturellement tendance à « sur-déclarer » toutes les informations potentiellement pertinentes à des fins d’« assurance qualité »), nous n’obtenons pas l’aide la plus précise possible.

En fait, nous avons appris plus tôt aujourd’hui que certaines personnes ne fournissent à l’IA que une à deux phrases de contexte et s’attendent à ce qu’elle produise des supports marketing parfaitement conformes à leur image de marque, alors ne parlons même pas de conseils médicaux exacts.

Conseil de pro : n’utilisez pas l’IA comme Google. Utilisez-la comme vous le feriez pour rédiger une note ou un brief de projet destiné à un collègue afin de lui expliquer comment faire votre travail.  

‍C’est pourquoi il est dangereux de s’en remettre à ChatGPT pour obtenir des conseils de santé

Selon l’étude d’Oxford, l’interaction directe actuelle entre l’IA et les patients est fondamentalement défaillante : les gens ne savent pas communiquer efficacement avec les systèmes d’IA, ne savent pas évaluer les suggestions de l’IA et ignorent souvent les conseils corrects. Ainsi, lorsqu’ils se tournent vers GPT, ils créent exactement le scénario dangereux que les chercheurs veulent éviter en publiant ces données.

Les experts médicaux soulignent au contraire que « l’IA doit être considérée uniquement comme un outil destiné à aider les médecins dans leurs processus de décision, lesquels doivent toujours rester sous contrôle et supervision humains ».

Ils veulent que l’IA soit le Robin du Batman qu’est le médecin — un acolyte utile, pas le héros. Le médecin doit toujours être aux commandes ; l’IA se contente d’aider à la navigation.

Les chercheurs d’Oxford recommandent également des « tests systématiques auprès d’utilisateurs humains afin d’évaluer les capacités interactives avant tout déploiement public dans le secteur de la santé.”

C’est pourtant évident, mais apparemment pas pour tout le monde : avant de lancer un outil médical d’IA dans la nature, pourquoi ne pas commencer par le tester avec de vrais humains ?

Pas dans un laboratoire avec des chercheurs à l’aise avec la technologie, mais avec une personne moyenne qui tape « pourquoi tête fait mal » dans Google à 2 heures du matin. Vérifiez que les gens ordinaires savent réellement utiliser l’outil, et entraînez-le à faire ce que ferait vraiment un médecin ou un infirmier.

Il existe également un déficit de connaissances que même une IA parfaite ne peut pas combler : les médecins disposent de connaissances locales et contextuelles — ils savent reconnaître le moment où ils ont « déjà vu deux douzaines d’autres enfants présentant la même maladie ce mois-ci » — qu’aucun système d’IA généraliste ne peut reproduire.

Alors, ce dont nous avons réellement besoin, c’est d’une sorte de portail de triage médical supervisé par des médecins…

Peut-être un portail où chaque conversation avec un patient serait examinée par un médecin avant que le diagnostic final ne soit révélé. Imaginez une IA médicale du niveau d’OpenEvidence, mais conçue pour le grand public et placée sous la supervision de vrais médecins.

Le système idéal combinerait la disponibilité de l’IA 24 heures sur 24, 7 jours sur 7 et son interface conversationnelle avec une supervision médicale obligatoire de chaque interaction.

Pourquoi cela n’existe-t-il pas encore ?? Les startups et les fonds de capital-risque doivent s’y mettre !! 

OH, et il faut que son utilisation soit aussi simple qu’avec ChatGPT, et qu’elle soit gratuite et/ou couverte par l’assurance maladie pour que les gens s’en servent réellement.

Heureusement, des études comme celle d’Oxford nous enseignent également des leçons cruciales sur les défaillances de conception de l’IA :

Par exemple, proposer aux utilisateurs plusieurs diagnostics parmi lesquels choisir pourrait être contre-productif, puisque les non-spécialistes ne savent pas évaluer correctement les suggestions médicales.

Ou encore, l’IA doit être plus proactive pour recueillir les informations, plutôt que d’attendre que les utilisateurs communiquent spontanément les détails.

Le problème ? Les hôpitaux ne toucheront à rien de ce qui accroît le risque de responsabilité pour faute professionnelle…

…Même si cela pouvait aider les patients. Résultat : au lieu d’obtenir une version sûre et responsable, les gens se tournent vers ce bon vieux GPT.

Pourquoi donc ? Eh bien, le paysage juridique est complètement chaotique. À l’heure actuelle, les médecins, les systèmes de santé et les concepteurs d’algorithmes sont soumis à différentes théories de la responsabilité qui se chevauchent, créant ce qu’un expert a qualifié de territoire juridique « très incertain ». Les théories de la responsabilité partent dans tous les sens — faute professionnelle médicale, responsabilité du fait d’autrui (lorsque l’hôpital est responsable de l’IA qui « agit comme un salarié ») et responsabilité du fait des produits pour les concepteurs de l’IA.

Malgré ses dernières avancées, l’IA est dans la plupart des cas utilisée comme un outil de conseil, et non de prise de décision. Cela signifie qu’un patient pourrait poursuivre en justice un médecin pour faute professionnelle ou négligence si celui-ci prend une mauvaise décision thérapeutique — même si elle a été suggérée par un système d’IA. Les médecins sont pris entre le marteau et l’enclume : utiliser l’IA et risquer d’engager leur responsabilité si elle se trompe, ou ne pas l’utiliser et risquer d’engager leur responsabilité pour ne pas avoir utilisé une technologie disponible.

Et lorsque l’IA devient très précise sur ce qu’il faut faire pour un patient, et que les informations sont très probablement exactes, il devient très difficile pour un médecin de consulter l’IA puis de écarter ces informations — car en cas de problème, cette décision pourrait le hanter jusque devant les tribunaux. Voilà bien un véritable dilemme cornélien !

Certains États ont envisagé des dispositions de « refuge juridique » qui protégeraient les médecins suivant les recommandations de l’IA, mais une telle législation n’aurait modifié l’issue en faveur du médecin défendeur que dans 1 % des 266 plaintes examinées dans l’Oregon. Pas exactement une révolution.

Des chercheurs de Stanford ont constaté que les avocats ont tendance à donner aux professionnels de santé des conseils très prudents (quelle surprise, je sais), et ne bannissent pas nécessairement les outils d’IA, mais mettent fortement en garde leurs clients contre les risques de responsabilité liés à l’IA en général.

En clair : les services juridiques sont tellement effrayés par les poursuites potentielles qu’ils bloquent des outils susceptibles de sauver des vies. Une question se pose : Évitons-nous la solution dont nous avons réellement besoin simplement parce que nous avons peur d’être poursuivis ?

Les gens demandent à ChatGPT (de TOUTES les choses possibles) des conseils cruciaux qui peuvent décider de leur vie ou de leur mort, bon sang. Avec quelques garde-fous appropriés et quelques humains qualifiés dans la boucle, je pense que tout ira bien !!**

C’est en réalité un problème majeur et important à résoudre, et les décideurs publics, les experts juridiques et les professionnels de santé doivent probablement collaborer à l’élaboration d’un cadre favorisant une utilisation sûre et efficace de l’IA.

Dans le cadre de ce travail, ils devront répondre aux préoccupations liées à la responsabilité… mais certains estiment qu’ils doivent également reconnaître que les risques liés au fait de ne pas utiliser l’IA pour améliorer les soins pourraient largement dépasser les dangers posés par la technologie elle-même.

Considérez ceci : 371 000 Américains meurent chaque année à la suite d’erreurs de diagnostic, tandis que 250 000 autres meurent chaque année d’erreurs médicales évitables. Mais les hôpitaux sont tellement terrifiés par leur responsabilité liée à l’IA qu’ils s’en tiennent au statu quo, qui tue littéralement des gens.

Alors, qu’est-ce que cela signifie concrètement ?

Le secteur de la santé, intrinsèquement réticent à prendre des risques (et à juste titre, il s’agit littéralement de vie ou de mort), fait progresser l’IA plus progressivement dans les domaines cliniques.

Alors que les applications opérationnelles de l’IA continuent de se développer, les hôpitaux resteront prudents quant aux usages cliniques en raison de la nature sensible des soins aux patients.

Mais une fois qu’un cadre juridique aura été établi, que l’exactitude pourra être garantie, que la confidentialité sera assurée et qu’un recueil adéquat des informations auprès des utilisateurs, assorti d’un examen de niveau clinique, pourra être intégré au système, les patients pourront — et devraient pouvoir — disposer à la demande, à toute heure de la nuit, d’un système d’IA médecin. La seule question est : qui va le construire ? 

**Pas un conseil juridique ou médical : juste l’opinion grincheuse d’un vieux bonhomme qui en a assez du système actuel, voilà, salut !

Note de la rédaction : Ce contenu a d’abord été publié dans notre publication sœur, The Neuron. Pour découvrir d’autres articles de The Neuron, inscrivez-vous ici à sa newsletter.