Les médecins britanniques et le NHS pourraient faire l’objet de poursuites pour négligence en cas d’erreurs commises par des outils d’IA, à moins que les règles de responsabilité dans le secteur de la santé ne soient mises à jour, selon un avertissement de la Medical Protection Society.
Cet avertissement intervient alors que le NHS utilise l’IA dans un nombre croissant de contextes cliniques et administratifs, notamment pour l’analyse d’images médicales, l’examen de radiographies, les comptes rendus de consultations et la rédaction de courriers destinés aux patients.
Le problème n’est pas que chaque erreur de l’IA donnera lieu à un procès. C’est que les règles actuelles pourraient laisser les cliniciens et le service de santé assumer la responsabilité de systèmes qu’ils n’ont pas conçus.
Selon l’article de The Guardian consacré à l’avertissement de la Medical Protection Society, le groupe a déclaré aux ministres que les médecins et le NHS pourraient être poursuivis pour négligence médicale si des outils d’IA commettaient des erreurs dans le diagnostic ou les recommandations de traitement.
La MPS veut que les outils d’IA soient considérés comme des produits
La Medical Protection Society a déclaré que les médecins pourraient devenir un « réceptacle de responsabilité » pour les erreurs de l’IA, à moins que la loi ne change. Le groupe estime que les outils et systèmes d’IA devraient être considérés comme des produits au titre du UK’s Consumer Protection Act 1987, ce qui pourrait faciliter la mise en cause des développeurs ou des fabricants lorsque la technologie elle-même contribue à un préjudice.
The Guardian a cité deux exemples avancés par la MPS : un outil d’IA qui ne détecterait pas une tumeur pulmonaire sur une radiographie du thorax, ou qui recommanderait à tort une dose plus élevée de warfarine, un anticoagulant. Dans les deux cas, le patient pourrait subir un préjudice grave, même si l’erreur immédiate venait de l’outil.
L’avertissement porte sur l’IA clinique, mais il s’inscrit dans une tendance plus large en matière de sécurité dans les technologies de santé. Une étude récente sur les conseils de santé fournis par l’IA a montré que ChatGPT Health n’avait pas détecté de graves urgences médicales dans des scénarios de test, illustrant qu’une réponse convaincante peut malgré tout être insuffisante lorsque les enjeux médicaux sont élevés.
La MPS ne soutient pas que le NHS devrait éviter l’IA. Elle estime que les médecins ne devraient pas automatiquement assumer la responsabilité lorsqu’un outil conçu, fourni ou déployé par un tiers contribue à un préjudice.
Les règles en matière de responsabilité peinent encore à suivre
Le Department of Health and Social Care a déclaré qu’il examinerait les recommandations de la MPS. NHS Resolution, qui traite les demandes d’indemnisation pour négligence visant les hôpitaux en Angleterre, prépare également des directives sur la responsabilité liée à l’IA.
Les médecins se retrouvent ainsi dans une position délicate alors que l’adoption de l’IA se poursuit. Si un clinicien suit une recommandation de l’IA qui se révèle erronée, il pourrait malgré tout devoir répondre à des questions sur la façon dont il l’a vérifiée.
La même tension est apparue lors d’autres déploiements de l’IA dans le secteur de la santé. Google a récemment supprimé une fonctionnalité de santé fondée sur l’IA après des inquiétudes concernant sa sécurité, rappelant que les outils d’IA dans le domaine de la santé peuvent rapidement passer du stade d’expérience utile à celui de source de risques lorsque la supervision est incomplète.
Pour le NHS, la question pratique n’est pas de savoir s’il faut utiliser l’IA ou non. Il s’agit de déterminer comment les hôpitaux et les cliniciens consignent l’intervention de l’IA, qui a vérifié le résultat et ce qui se passe si l’outil s’est trompé. Des règles plus claires pourraient protéger les médecins contre les reproches liés à des défaillances technologiques, tout en garantissant aux patients une voie de recours.
En attendant que ces règles soient clarifiées, une supervision humaine documentée constitue la référence la plus sûre : l’IA peut soutenir le travail clinique, mais la décision finale doit relever d’un processus identifié et placé sous la responsabilité d’une personne nommément désignée.
À lire également : 5 gadgets technologiques pour le diabète qui montrent comment l’IA transforme la surveillance de la glycémie.