OpenAI wurde angewiesen, einer Koalition von Nachrichtenverlagen, darunter The New York Times, 20 Millionen de-identifizierte Protokolle von ChatGPT-Unterhaltungen zu übergeben. Hintergrund ist ein aufmerksam verfolgter Urheberrechtsstreit über generative KI.
Ein US-amerikanischer Magistratsrichter in Manhattan wies OpenAIs Versuch zurück, die Protokolle aus der Beweisaufnahme herauszuhalten. Er befand, dass die anonymisierten Aufzeichnungen für den Fall relevant und durch mehrere Datenschutzvorkehrungen geschützt seien. Die Entscheidung erhöht den Einsatz für OpenAI und die Verlage, die geltend machen, ChatGPT habe ihre Werke unrechtmäßig verwendet und reproduziert.
Richter weist OpenAIs Datenschutzargumente zurück
Die US-Magistratsrichterin Ona Wang vom Southern District of New York lehnte OpenAIs Antrag auf Neubewertung ab und bestätigte damit eine frühere Anordnung, die das Unternehmen verpflichtete, für die Beweisaufnahme in dem zusammengefassten Urheberrechtsverfahren mit Beteiligung der Times und anderer Verlage eine Stichprobe von 20 Millionen Protokollen von ChatGPT-Ausgaben für Verbraucher vorzulegen.
Die Verlage argumentierten, die Protokolle seien entscheidend, um festzustellen, ob ChatGPT ihre urheberrechtlich geschützten Artikel reproduziert habe, und um OpenAIs Verteidigungsargumente zu prüfen, darunter Fair Use und umfangreiche nicht rechtsverletzende Nutzungen.
OpenAI widersetzte sich dem Antrag und erklärte, die Herausgabe der Protokolle berge das Risiko, vertrauliche Nutzerinformationen offenzulegen. Außerdem seien „99,99 %“ der Transkripte für die Ansprüche der Kläger irrelevant. Richterin Wang wies diese Darstellung zurück und merkte an, dass die 20 Millionen Protokolle nur einen kleinen Bruchteil der „zig Milliarden“ von ChatGPT-Protokollen für Verbraucher ausmachten, die OpenAI aufbewahre. Die Stichprobe sei für Fragen wie die mutmaßlichen Reproduktionen, Schadensersatz und Fair Use relevant.
Das Gericht betonte, dass es „mehrere Schutzebenen“ für die Privatsphäre der Nutzer gebe, darunter OpenAIs De-Identifizierung der Protokolle, eine bestehende Schutzanordnung und die Einstufung der Daten als ausschließlich für die Augen der Anwälte bestimmt.
Wie die ChatGPT-Protokolle zum juristischen Brennpunkt wurden
Die Verlage bemühen sich seit mehr als einem Jahr um Daten aus Ausgabeprotokollen, um zu verstehen, wie ChatGPT mit ihren Inhalten interagiert. Frühe Anträge auf Beweisaufnahme umfassten Protokolle von Verbrauchern, Unternehmenskunden und der API. Die Parteien schränkten den Fokus schließlich auf eine Stichprobe von Verbraucherprotokollen für die Beweisaufnahme zur Begründetheit des Falls ein.
Mitte 2025 verlangten die Kläger eine Stichprobe von 120 Millionen Protokollen aus einem Zeitraum von zwei Jahren. OpenAI schlug seinerseits 20 Millionen Protokolle vor und argumentierte, eine kleinere Stichprobe lasse sich leichter de-identifizieren und sei für statistische Analysen dennoch nützlich. Die Kläger erklärten sich bereit, auf dieser Grundlage fortzufahren.
Nachdem OpenAI die Protokolle vollständig oder nahezu vollständig de-identifiziert hatte, teilte das Unternehmen den Verlagen mit, dass es nicht die gesamte Stichprobe vorlegen werde. Stattdessen schlug es vor, die Menge mithilfe von Stichwortsuchen einzugrenzen. Die Verlage beantragten eine Zwangsanordnung, und Wang gab dem Antrag statt. OpenAI beantragte daraufhin eine Neubewertung und legte außerdem beim vorsitzenden Bezirksrichter Berufung gegen die Anordnung ein.
Wang schrieb, solche Anträge seien ein „außergewöhnliches Rechtsmittel“, und stellte fest, dass OpenAI weder auf maßgebliche Rechtsvorschriften noch auf Tatsachen hingewiesen habe, die das Gericht zuvor übersehen hatte.
Die Nachrichtenverlage haben den Streit mit scharfen Worten beschrieben. Frank Pine, Executive Editor der MediaNews Group, sagte, die Führung von OpenAI habe „halluziniert, als sie dachte, sie könne damit durchkommen, Beweise darüber zurückzuhalten, wie ihr Geschäftsmodell darauf beruht, hart arbeitende Journalisten zu bestehlen“, so eine Reuters-Berichterstattung.
OpenAI beruft sich auf Datenschutz und Sicherheit
OpenAI hat versucht, seine Position mit Datenschutz- und Sicherheitsbedenken zu begründen. Ein Unternehmenssprecher verwies auf einen Blogbeitrag des Chief Information Security Officer Dane Stuckey und erklärte, die Forderung der Times nach Chat-Protokollen „missachte langjährige Datenschutzvorkehrungen“ und „breche mit vernünftigen Sicherheitspraktiken“.
Vor Gericht argumentierte OpenAI, die Herausgabe der Protokolle würde trotz der De-Identifizierung und der Schutzanordnung die Vertraulichkeit der Nutzer gefährden. Richterin Wang ließ sich davon nicht überzeugen und merkte an, dass die bestehenden Datenschutzvorkehrungen ausreichend seien.
Die Stellungnahme warf außerdem Fragen zu OpenAIs Prozessstrategie auf. Wang stellte fest, dass unklar sei, warum das Unternehmen Zeit und Geld in die De-Identifizierung der gesamten Stichprobe investiert habe, wenn OpenAI ohnehin nie beabsichtigt habe, alle 20 Millionen Protokolle vorzulegen. Sie deutete an, dass OpenAI entweder seine Meinung geändert habe, nachdem das Unternehmen zunächst geplant hatte, die Daten vorzulegen, oder den vollständigen Datensatz als Taktik oder aus einem anderen, nicht offengelegten Grund de-identifiziert habe.
Das größere Bild: Urheberrecht, KI und der Einfluss der Verlage
Die Times verklagte OpenAI erstmals 2023 und warf dem Unternehmen sowie in verwandten Fällen anderen Technologieunternehmen vor, urheberrechtlich geschütztes Material zum Training von KI-Modellen ohne Genehmigung verwendet zu haben. Die Klagen wurden inzwischen zusammengeführt, und der Fall entwickelt sich zu einem Test dafür, wie bestehende Urheberrechtsgrundsätze auf das Training von KI und deren Ausgaben anzuwenden sind.
Für die Verlage könnte die angeordnete Herausgabe der Protokolle einen seltenen Einblick darin ermöglichen, wie LLMs tatsächlich mit Nachrichteninhalten umgehen – ob sie diese reproduzieren, paraphrasieren oder vermeiden. Für KI-Entwickler unterstreicht das Urteil, dass Gerichte allgemeine Datenschutz- und Belastungsargumente möglicherweise nicht akzeptieren, wenn ihnen ein begrenzter, de-identifizierter Datensatz vorliegt, der für die fraglichen Ansprüche und Verteidigungsargumente zentral ist.
IT- und Rechtsteams in Unternehmen werden den Fall ebenso wegen der Standards für die Beweisaufnahme wie wegen seines Ausgangs beobachten. Die Art und Weise, wie dieses Gericht Datenschutz, Verhältnismäßigkeit und Transparenz gegeneinander abwägt, könnte beeinflussen, was Regulierungsbehörden, Kläger und Partner von KI-Systemen verlangen können, die für eine externe Prüfung weitgehend undurchsichtig bleiben.
In einer separaten Forschungsarbeit testet OpenAI, ob sich Modelle dazu bringen lassen, ihre eigenen Abkürzungen zu gestehen sowie ihre eigenen Fehler.