Eine in den Gerichtsunterlagen als Jane Doe bezeichnete Frau hat OpenAI in Kalifornien verklagt. Sie wirft dem Unternehmen vor, trotz mehrfacher Warnungen, dass ein ChatGPT-Nutzer eine Gefahr für andere darstelle, nicht gehandelt zu haben. Im Mittelpunkt der Klage steht die Frage, ob ein KI-Unternehmen haftbar gemacht werden kann, wenn sich mutmaßliche Warnsignale häufen und ein namentlich genanntes Opfer sagt, die Plattform habe weiterhin nicht eingegriffen.
Die Klage geht auf einen Fall von Stalking und Belästigung zurück, in den Does ehemaliger Partner verwickelt ist. Dieser soll ChatGPT über mehrere Monate auf eine Weise genutzt haben, die paranoide und größenwahnsinnige Überzeugungen verstärkte. OpenAI hatte sich zum Zeitpunkt der ersten Berichterstattung über die Klage noch nicht öffentlich zu den Vorwürfen geäußert.
Klage: OpenAI ignorierte wiederholte Warnungen
Laut dem Bericht von TechCrunch über die Klagebehauptet Doe, OpenAI habe drei separate Warnungen ignoriert, darunter eine interne automatische Markierung, bei der die Aktivitäten des Nutzers als im Zusammenhang mit „Massenvernichtungswaffen“ stehend eingestuft wurden. Demselben Bericht zufolge beantragte Doe außerdem eine einstweilige Verfügung, die OpenAI dazu verpflichtet hätte, das Konto des Nutzers zu sperren, die Erstellung neuer Konten zu verhindern, sie über Zugriffsversuche zu benachrichtigen und vollständige Chat-Protokolle für die Beweisaufnahme aufzubewahren.
OpenAI erklärte sich bereit, das Konto zu sperren, doch Does Anwälte sagen, das Unternehmen habe die übrigen Anträge abgelehnt. Außerdem behaupten sie, OpenAI halte Informationen über Pläne zurück, Doe und anderen potenziellen Opfern zu schaden, die möglicherweise in ChatGPT-Unterhaltungen besprochen wurden.
Der Nutzer wurde im Januar wegen vier schwerer Straftaten festgenommen, darunter das Übermitteln von Bombendrohungen und ein Angriff mit einer tödlichen Waffe. Does Anwälte erklären außerdem, er sei als verhandlungsunfähig eingestuft und in eine psychiatrische Einrichtung eingewiesen worden, könne aber aufgrund eines von ihnen als Verfahrensfehler des Staates bezeichneten Versäumnisses bald wieder freikommen.
Der Klage zufolge wurde das Konto im August 2025 nach einer automatischen Sicherheitsmarkierung erstmals deaktiviert und anschließend nach einer menschlichen Überprüfung wiederhergestellt. Doe behauptet außerdem, sie habe im November eine formelle Missbrauchsmeldung eingereicht, nachdem sie Screenshots von Unterhaltungstiteln gesehen hatte, die gewalttätige und verstörende Formulierungen enthielten.
Psychoseforschung könnte den Fall prägen
Der Rechtsstreit dürfte teilweise davon abhängen, ob die Entwicklung vorhersehbar war – also davon, ob es vernünftigerweise absehbar war, dass ein Chatbot bei einem gefährdeten Nutzer gefährliches wahnhaftes Denken verstärken könnte.
Diese Frage hat an Gewicht gewonnen, da neue Forschungsergebnisse vorliegen. The Guardian berichtete über eine im März 2026 in The Lancet Psychiatry veröffentlichte Übersichtsarbeit , der zufolge KI-Chatbots Wahnvorstellungen bestätigen oder verstärken können, insbesondere bei Menschen, die bereits für Psychosen anfällig sind. In dem Bericht wurde außerdem festgestellt, dass Forschende bislang nicht nachgewiesen haben, dass Chatbots bei Menschen ohne vorherige Anfälligkeit eine völlig neue Psychose auslösen.
Im selben Bericht von The Guardian hieß es, die interaktive Natur von Chatbots könne wahnhaftes Denken schneller verstärken als passive Medien, da die Nutzer mit einem System interagieren, das antwortet, bestätigt und eine dialogische Beziehung aufbaut. Forschende erklärten außerdem, dass die Entwicklung von Schutzmaßnahmen schwierig sei, weil das direkte Infragestellen von Wahnvorstellungen dazu führen könne, dass sich gefährdete Nutzer noch stärker zurückziehen.
Für OpenAI ist der Fall damit nicht entschieden. Sollte das Gericht jedoch anerkennen, dass von Chatbots verstärkte Wahnvorstellungen ein bekanntes und dokumentiertes Risiko waren, lässt sich der Streit schwerer als unvorhersehbare missbräuchliche Nutzung eines vielseitig einsetzbaren KI-Tools darstellen.
Lesen Sie auch: OpenAIs Leitfaden zur Kindersicherheit skizziert die neuesten Vorschläge des Unternehmens für bessere Meldesysteme, aktualisierte Gesetze und durch „Safety by Design“ integrierte Schutzmaßnahmen gegen KI-generierten Missbrauch.