Ärzten im Vereinigten Königreich und dem NHS könnten wegen Fehlern von KI-Tools Haftungsansprüche wegen Fahrlässigkeit drohen, sofern die Haftungsregeln im Gesundheitswesen nicht aktualisiert werden, warnt die Medical Protection Society.
Die Warnung kommt zu einem Zeitpunkt, an dem der NHS KI in immer mehr klinischen und administrativen Bereichen einsetzt, etwa zur Analyse von Aufnahmen und Röntgenbildern, für Gesprächszusammenfassungen und für Entwürfe von Patientenbriefen.
Es geht nicht darum, dass jeder KI-Fehler zu einer Klage führen wird. Die Sorge ist vielmehr, dass die geltenden Regeln die Verantwortung für Systeme, die sie nicht entwickelt haben, bei den Ärzten und dem Gesundheitsdienst belassen könnten.
Laut dem Bericht von The Guardian über die Warnung der Medical Protection Society teilte die Organisation Ministern mit, dass Ärzte und der NHS wegen medizinischer Fahrlässigkeit verklagt werden könnten, wenn KI-Tools Fehler bei der Diagnose oder bei Behandlungsempfehlungen machen.
MPS will, dass KI-Tools als Produkte behandelt werden
Die Medical Protection Society erklärte, Ärzte könnten zu einem „Haftungsschwamm“ für KI-Fehler werden, sofern sich die Rechtslage nicht ändert. Die Organisation argumentiert, dass KI-Tools und -Systeme nach dem britischen Consumer Protection Act 1987 als Produkte behandelt werden sollten. Dadurch könnte es leichter werden, Entwickler oder Hersteller zur Verantwortung zu ziehen, wenn die Technologie selbst zum Schaden beiträgt.
The Guardian nannte zwei von der MPS angeführte Beispiele: Ein KI-Tool übersieht einen Lungentumor auf einer Röntgenaufnahme des Brustkorbs oder empfiehlt fälschlicherweise eine höhere Dosis Warfarin, eines Blutverdünners. In beiden Fällen könnte der Patient einen schweren Schaden erleiden, obwohl der unmittelbare Fehler vom Tool ausging.
Die Warnung konzentriert sich auf klinische KI, fügt sich aber in ein umfassenderes Sicherheitsmuster im Bereich der Gesundheitstechnologie ein. Eine aktuelle Studie zu Gesundheitsratschlägen durch KI ergab, dass ChatGPT Health in Testszenarien schwere medizinische Notfälle übersah. Das zeigt, dass überzeugend formulierte Ausgaben dennoch unzureichend sein können, wenn viel auf dem Spiel steht.
Die MPS fordert nicht, dass der NHS auf KI verzichten sollte. Der Punkt ist vielmehr, dass Ärzte nicht automatisch die Haftung übernehmen sollten, wenn ein von jemand anderem entwickeltes, bereitgestelltes oder implementiertes Tool zu einem Schaden beiträgt.
Regeln zur Verantwortlichkeit hinken noch hinterher
Das Department of Health and Social Care erklärte, es werde die Empfehlungen der MPS prüfen. NHS Resolution, das für die Bearbeitung von Haftungsansprüchen gegen Krankenhäuser in England zuständig ist, arbeitet ebenfalls an Leitlinien zur Haftung für KI.
Das bringt Ärzte in eine schwierige Lage, während die Einführung von KI weiter voranschreitet. Wenn ein Arzt einer KI-Empfehlung folgt, die sich als falsch herausstellt, könnte er sich dennoch Fragen dazu stellen müssen, ob er sie ordnungsgemäß überprüft hat.
Dieselbe Spannung zeigte sich auch bei anderen Einführungen von KI im Gesundheitswesen. Google stellte kürzlich eine KI-Gesundheitsfunktion ein, nachdem Sicherheitsbedenken aufgekommen waren. Das erinnert daran, dass KI-Tools im Gesundheitswesen bei unvollständiger Aufsicht schnell vom nützlichen Experiment zum Risikofall werden können.
Für den NHS lautet die praktische Frage nicht, ob KI überhaupt eingesetzt werden sollte. Entscheidend ist vielmehr, wie Krankenhäuser und Ärzte dokumentieren, wann KI beteiligt war, wer die Ausgabe überprüft hat und was geschieht, wenn das Tool einen Fehler gemacht hat. Klarere Regeln könnten Ärzte davor schützen, für technische Fehler verantwortlich gemacht zu werden, und Patienten zugleich einen Weg zu einer Klärung der Verantwortlichkeit eröffnen.
Bis diese Regeln klarer sind, ist dokumentierte menschliche Aufsicht der sicherste Ausgangspunkt: KI kann die klinische Arbeit unterstützen, doch die endgültige Entscheidung erfordert einen namentlich benannten, verantwortlichen Prozess.
Lesen Sie auch: 5 Technik-Gadgets für Diabetiker, die zeigen, wie KI die Glukoseüberwachung verändert.