Ein Berufungsgericht in Kalifornien hat gegen den Anwalt aus Los Angeles Amir Mostafavi eine Geldstrafe von 10.000 US-Dollar verhängt, nachdem er einen mit von ChatGPT generierten gefälschten Zitaten aus Gerichtsentscheidungen gespickten Schriftsatz eingereicht hatte.
Die Sanktion, die laut CalMatters und dem Rechtsforscher Damien Charlotin offenbar die größte ihrer Art in dem Bundesstaat ist, erfolgte, nachdem die Richter festgestellt hatten, dass 21 von 23 Zitaten in Mostafavis Berufungsschriftsatz im einleitenden Schriftsatz frei erfunden waren. In der veröffentlichten Entscheidung wird davor gewarnt, dass kein Gerichtsschriftsatz Zitate enthalten sollte, die ein Anwalt nicht persönlich überprüft hat.
Gericht bezeichnet Schriftsatz als „unbegründet“ und Zeitverschwendung
Das Berufungsgericht des 2. Bezirks erklärte, Mostafavis Schriftsatz verstoße gegen die Gerichtsordnung und stelle eine unbegründete Berufung dar. Die Richter warfen ihm außerdem vor, die Zeit des Gerichts und die Ressourcen der Steuerzahler verschwendet zu haben.
In ihrer vor 10 Tagen erlassenen Entscheidung legten sie dar, wie der Schriftsatz mit fingiertem Material durchsetzt war, und betonten, dass Anwälte sicherstellen müssen, dass jedes Zitat authentisch ist.
Mostafavis Strafe scheint die höchste Geldbuße zu sein, die ein kalifornisches staatliches Gericht gegen einen Anwalt wegen von KI generiertem Text verhängt hat.
Der Senat ließ die Entscheidung als Warnung zur Veröffentlichung zu und machte deutlich, dass Gerichte unverifiziertes Material, das als rechtliche Autorität präsentiert wird, nicht tolerieren werden.
Im Mai wies ein Richter eines US-Bundesbezirksgerichts in Kalifornien zwei Anwaltskanzleien an, 31.100 US-Dollar an Gebühren wegen „gefälschter, von KI generierter Recherche“ zu zahlen. Er erklärte, sie hätten beinahe fingiertes Material in einer Entscheidung zitiert und „eine starke Abschreckung erforderlich“ sei.
Mostafavi nutzte ChatGPT, um den Entwurf der Berufung zu „verbessern“
Mostafavi erklärte dem Gericht, er habe die Berufung selbst verfasst und sich dann in der Hoffnung, den Entwurf zu verbessern, an ChatGPT gewandt. Er räumte ein, dass er die Ausgabe vor der Einreichung nicht überprüft hatte, und erklärte, ihm sei nicht bewusst gewesen, dass das Programm Zitate aus Gerichtsentscheidungen einfügen oder Material erfinden würde.
Er sagte gegenüber CalMatters , es sei unrealistisch zu erwarten, dass Anwälte KI-Tools aufgeben, und verglich ihren Aufstieg damit, wie Online-Datenbanken die juristischen Bibliotheken ersetzt haben. Solange die Technologie nicht aufhört, Falschinformationen zu erzeugen, sollten Anwälte mit Vorsicht vorgehen, sagte er.
„Ich zahle den Preis“, sagte Mostafavi und warnte, dass andere in dieselbe Falle geraten könnten.
Experten warnen vor einer wachsenden Welle von KI-Fälschungen
Damien Charlotin, der weltweit Fälle gefälschter KI-Zitate verfolgt, sagte gegenüber CalMatters, dass Gerichtsschriftsätze mit fingierter Rechtsprechung von nur wenigen Fällen pro Monat auf mehrere pro Tag zugenommen hätten. Er erklärte, dass KI-Modelle besonders dazu neigen, zu halluzinieren, wenn sie komplexe juristische Argumente stützen sollen – eine Neigung, die dazu führen kann, dass Schriftsätze mit falschem Material angereichert werden.
Rechtswissenschaftler äußerten dieselbe Sorge. Mark McKenna von der UCLA bezeichnete es als „Aufgabe Ihrer Verantwortung als Vertreter einer Partei“, sich auf ChatGPT zu verlassen. Gleichzeitig warnte Professor Andrew Selbst, die Technologie werde an juristischen Fakultäten und in Kanzleien allen „ohne ernsthafte Auseinandersetzung mit den Konsequenzen aufgezwungen“.”
Ein zu hoher Preis für Fehler
Es ist bekannt, dass KI-Modelle Falschinformationen erzeugen, wobei unabhängige Tests Halluzinationsraten festgestellt haben – selbst bei einfachen, überprüfbaren Aufgaben. Der Trend deutet darauf hin, dass die Genauigkeit generativer Systeme bislang längst nicht garantiert ist.
„In der Zwischenzeit wird es einige Opfer geben, es wird Schäden geben, es wird Verwüstungen geben“, sagte Mostafavi nach der gegen ihn verhängten Sanktion.
Doch wenn die Justiz auf dem Spiel steht, reicht es nicht aus, einfach auf weitere Fortschritte bei der KI zu warten. „Einige Opfer, einige Schäden und einige Verwüstungen“ aufgrund künstlicher Intelligenz zuzulassen, ist schlicht inakzeptabel.
Anwaltskanzleien setzen künstliche Intelligenz ein , um Aufgaben zu übernehmen, die einst Junior Associates vorbehalten waren. Erfahren Sie, wie dieser Wandel den Mandantenservice verändert und die Rolle von Juristen neu definiert.