Ein Pfarrer aus Florida hat OpenAI verklagt. Er wirft dem Unternehmen vor, ChatGPT habe ihm gefährlichen medizinischen Rat gegeben, der dazu geführt habe, dass er die Behandlung von Symptomen verzögerte, die sich als lebensbedrohliche Lungenembolie herausstellten.
Die am Mittwoch beim Superior Court des San Francisco County eingereichte Klage wirft OpenAI und CEO Sam Altman Fahrlässigkeit sowie die unerlaubte Ausübung ärztlicher Tätigkeit vor.
Scott Winters wirft vor, dass der Chatbot über allgemeine Gesundheitsinformationen hinausging und Diagnosen, Behandlungspläne sowie wiederholte Versicherungen lieferte, die ihn davon abhielten, medizinische Notfallversorgung in Anspruch zu nehmen.
Laut Klageschrift fordert Winters finanziellen Schadensersatz, strengere Sicherheitsvorkehrungen für die medizinischen Antworten von ChatGPT sowie eine gerichtliche Anordnung, die den Dienst ChatGPT Health von OpenAI stillzulegen, bis unabhängige Sicherheitsprüfungen abgeschlossen sind.
Klage: ChatGPT tat Warnzeichen ab
In der Klageschrift heißt es, dass Winters begann, ChatGPT-4o zu nutzen, um wiederkehrenden Schwindel und andere gesundheitliche Probleme zu verstehen. Während der Chatbot ihm anfangs riet, einen Arzt aufzusuchen, seien diese Warnungen laut Klage allmählich verschwunden, je länger die Gespräche wurden.
Stattdessen habe ChatGPT seine Symptome angeblich auf Dysautonomie zurückgeführt und einen Genesungsplan empfohlen, der ihn dazu anhielt, zu Hause zu bleiben und seine Aktivitäten einzuschränken. Außerdem behauptet die Klage, der Chatbot habe Winters beruhigt, als Familienmitglieder und Mitglieder seiner Kirchengemeinde ihn aufforderten, ein Krankenhaus aufzusuchen.
Am 13. Juli 2025 fragte Winters, ob Schmerzen in seiner Leistengegend ärztlich untersucht werden müssten. ChatGPT antwortete darauf angeblich, es handle sich „sehr wahrscheinlich um ein weiteres kleines Teilstück der langen Geschichte“ und um „nichts Gefährliches“.
Stunden später wurde er mit einer, wie es in der Klage heißt, massiven Lungenembolie auf die Intensivstation aufgenommen, die durch Blutgerinnsel in beiden Lungen verursacht worden war.
In der Klageschrift heißt es, Ärzte seien später zu dem Schluss gekommen, dass seine früheren Schwindelanfälle möglicherweise kleinere Lungenembolien gewesen seien und dass wochenlange eingeschränkte Bewegung wahrscheinlich zu dem lebensbedrohlichen Ereignis beigetragen habe.
OpenAI sagt, ChatGPT sei kein Ersatz für Ärzte
OpenAI weist die weitergehende Schlussfolgerung zurück, ChatGPT solle für die medizinische Versorgung herangezogen werden.
„ChatGPT ist kein Arzt und sollte niemals als Ersatz für medizinische Versorgung, Diagnose oder Behandlung verwendet werden“, sagte OpenAI-Sprecher Drew Pusateri gegenüber CNET.
Er fügte hinzu: „Chatbots als die gesamte Erklärung für die medizinischen Entscheidungen oder Ergebnisse von Menschen zu betrachten, vereinfacht eine weitaus größere Herausforderung und birgt die Gefahr, dass Menschen keinen Zugang zu leistungsfähigen neuen Werkzeugen erhalten, die sie auf ihrem Weg zu mehr Gesundheit unterstützen können.“
Das Unternehmen erklärte außerdem, dass neuere KI-Modelle als GPT-4o besser darin seien, Unsicherheit zu erkennen, fehlende Informationen abzufragen und Situationen zu identifizieren, in denen professionelle medizinische Versorgung erforderlich ist. GPT-4o wurde inzwischen eingestellt.
Was das für die Gesundheitsversorgung durch KI bedeuten könnte
Die Klage kommt zu einem Zeitpunkt, an dem KI-Unternehmen zunehmend gesundheitsbezogene Werkzeuge vermarkten und Nutzer dazu ermutigen, Krankenakten hochzuladen oder Gesundheitsfragen zu stellen. OpenAI zufolge nutzen jede Woche Hunderte Millionen Menschen ChatGPT für Fragen zu Gesundheit und Wohlbefinden.
Diese zunehmende Nutzung wirft für die Branche eine schwierige Frage auf: Wann hört ein KI-Assistent auf, als Informationswerkzeug zu agieren, und beginnt in den Augen der Nutzer wie ein medizinischer Berater zu funktionieren?
Der Ausgang dieses Falls könnte beeinflussen, wie KI-Unternehmen medizinische Sicherheitsvorkehrungen gestalten, Warnungen anzeigen und bestimmen, wann ein Chatbot aufhören sollte, Fragen zu beantworten, und Nutzer an die medizinische Notfallversorgung verweisen sollte.
Er könnte auch künftige rechtliche Standards für KI-Produkte prägen, da diese immer stärker in sensiblen Bereichen wie dem Gesundheitswesen zum Einsatz kommen.
Auch lesenswert: OpenAI war zuvor mit einer Klage wegen widerrechtlicher Tötung konfrontiert In dieser wurde behauptet, ChatGPT habe vor der tödlichen Überdosis eines Teenagers gefährlichen Rat zu Medikamenten gegeben.