Ein 74-jähriger Mann hat sich bei einem Gremium von Berufungsrichtern des Bundesstaats New York entschuldigt, nachdem er in einem Rechtsstreit einen KI-generierten digitalen Avatar präsentiert hatte – ein Schritt, der Bedenken hinsichtlich Transparenz und Ethik im Gerichtssaal ausgelöst hat.
Bei der Anhörung am 26. März legte der Kläger Jerome Dewald, der sich in einem arbeitsrechtlichen Berufungsverfahren selbst vertrat, ein Video vor, auf dem ein jugendlich aussehender Mann auf einem Bildschirm direkt zum Gericht sprach. Nachdem das Video einige Sekunden gelaufen war, äußerte einer der Richter Verwirrung darüber, wer der Mann sei. Dewald räumte daraufhin ein, dass der Mann nicht echt, sondern eine KI-generierte Schöpfung war.
„Es wäre schön gewesen, das zu wissen, als Sie Ihren Antrag eingereicht haben“, sagte Richterin Sallie Manzanet-Daniels laut The New York Times. „Ich lasse mich nicht gern in die Irre führen.“
Beklagter räumt Fehler ein
Dewald räumte ein, dass seine Handlungen das Gericht „unabsichtlich in die Irre geführt hatten“, wie aus dem Times-Bericht hervorgeht. Nachdem er in früheren Gerichtsverfahren über seine Worte gestolpert war, sagte Dewald, er habe gehofft, die KI könne den Druck mindern, den er während seiner Präsentation im Gerichtssaal verspürte.
In seinem Schreiben an die Richter schrieb Dewald: „Meine Absicht war es nie, zu täuschen, sondern vielmehr, meine Argumente so effizient wie möglich darzulegen. Ich erkenne jedoch an, dass eine ordnungsgemäße Offenlegung und Transparenz stets Vorrang haben müssen.“
Dewald, der sich selbst als Unternehmer bezeichnet, legte Berufung gegen eine Entscheidung in einem Vertragsstreit mit einem früheren Arbeitgeber ein. Während eines mündlichen Vortrags bei der Berufungsanhörung stotterte Dewald und machte häufig Pausen, um sich zu sammeln und vorbereitete Ausführungen von seinem Mobiltelefon abzulesen, berichtete die Times.
KI im Gerichtssaal: Ein Muster des Missbrauchs zeichnet sich ab
Dies ist nicht das erste Mal, dass KI im Gerichtssaal zum Einsatz gekommen ist.
2023 hatte ein New Yorker Anwalt erhebliche Konsequenzen zu tragen, weil er ChatGPT zur Erstellung eines Schriftsatzes verwendet hatte, der mehrere erfundene richterliche Entscheidungen und juristische Zitate enthielt. Der Fall zeigte, dass KI Schwächen hat und man sich nicht immer auf sie verlassen kann.
Ebenfalls 2023 gab Michael Cohen, der frühere Anwalt und „Fixer“ von Präsident Trump, seinem Anwalt gefälschte juristische Zitate , die er von Google Bard (heute Gemini), einem KI-Chatbot, erhalten hatte. Cohen gab an, nicht gewusst zu haben, dass der generative KI-Dienst falsche Informationen liefern konnte, und flehte den für seinen Fall zuständigen Bundesrichter schließlich um Gnade an.
Daniel Shin, außerordentlicher Professor und stellvertretender Forschungsdirektor am Center for Legal and Court Technology der William & Mary Law School, sagte gegenüber der New York Post , er sei nicht überrascht gewesen zu hören, dass Dewald eine KI-generierte Person eingeführt hatte, um einen Berufungsfall zu vertreten, und bezeichnete dies als „unvermeidlich“.
Dewalds Fall war in der vergangenen Woche noch vor dem Berufungsgericht anhängig.