Der australische Strafverteidiger Rishi Nathwani ist das jüngste Opfer von KIs anhaltendem Angriff auf die Glaubwürdigkeit der Justiz. Der King’s Counsel übernahm die „volle Verantwortung“ dafür, während des Mordprozesses gegen einen Teenager von künstlicher Intelligenz erzeugte, erfundene Zitate und nicht existente Aktenzeichen eingereicht zu haben. Nathwani entschuldigte sich vergangene Woche bei Richter James Elliot, nachdem die von der KI erzeugten Fehler eine 24-stündige Verzögerung in einem Fall verursacht hatten, den Elliot eigentlich sofort abschließen wollte.
„Die Möglichkeit des Gerichts, sich auf die Richtigkeit der von den Anwälten eingereichten Schriftsätze zu verlassen, ist grundlegend für eine ordnungsgemäße Rechtspflege“, sagte Elliot.
Neue Daten zeigten weltweit 129 Fälle , in denen Gerichte auf von KI erzeugte Halluzinationen gestoßen sind – allein im Mai waren es 32 Fälle. Zu den gefälschten Eingaben in Australien gehörten erfundene Zitate aus Parlamentsreden und nicht existente Entscheidungen des Obersten Gerichtshofs. Entdeckt wurden sie erst, als Elliots Mitarbeiter, die die Fälle nicht finden konnten, Kopien verlangten.
Das 37-Milliarden-US-Dollar-Problem
Im vergangenen Jahr veröffentlichte Branchenprognosen zeigen, dass die KI-Ausgaben von Anwaltskanzleien bis Ende 2024 voraussichtlich 37 Milliarden US-Dollar erreichen werden, während die Nutzung von KI durch Anwälte von gerade einmal 19 % im Jahr 2023 auf 79 % im Jahr 2024 gestiegen ist. Doch KI-Tools – selbst spezialisierte juristische Werkzeuge der Branchenriesen LexisNexis und Thomson Reuters – halluzinieren in 17 % bis 33 % der Fälle, trotz gegenteiliger Behauptungen.
Der Vorfall in Australien fügt sich in ein Muster professioneller Zerstörung ein. Erst vergangene Woche verhängte ein Bundesgericht in Arizona umfangreiche Sanktionen gegen die Anwältin Maren Bam, entzog ihr die Zulassung pro hac vice und zwang sie, persönliche Entschuldigungsschreiben an drei Bundesrichter zu verfassen, deren Namen auf von der KI erfundenen Fällen auftauchten. Bereits im Februar drohten Gerichte in Wyoming mit Sanktionen gegen Morgan & Morgan, die größte Personenschadenskanzlei Amerikas, nachdem sie acht nicht existente, von ChatGPT erzeugte Fälle angeführt hatte.
Wer trägt die Schuld: die KI oder der Anwalt?
Der Fall in Australien zeigt, dass selbst erfahrene Anwälte dem trügerischen Selbstvertrauen der KI zum Opfer fallen können. Nathwanis Team räumte ein , dass es „überprüft hatte, ob die ursprünglichen Aktenzeichen korrekt waren, und fälschlicherweise annahm, dass auch die übrigen stimmen würden“ – eine fatale Annahme, die gegen Regel 11 Australiens verstößt, wonach Anwälte persönlich überprüfen müssen , ob sämtliche Rechtsquellen korrekt sind.
Richter Elliots Reaktion erfolgte umgehend und unnachgiebig. „Es ist nicht akzeptabel, künstliche Intelligenz zu verwenden, wenn das Ergebnis dieser Nutzung nicht unabhängig und gründlich überprüft wird“, sagte er und verwies auf Richtlinien des Obersten Gerichtshofs , die vor sieben Monaten erlassen worden waren.
Die Folgen werden immer gravierender. In der vergangenen Woche warnte die britische Richterin am High Court Victoria Sharp, dass die Vorlage falschen, von KI erzeugten Materials als Missachtung des Gerichts oder als „Behinderung der Rechtspflege“ gewertet werden könnte – darauf steht eine Höchststrafe von lebenslanger Haft. US-amerikanische Gerichtsakten zeigen, dass bundesrechtliche Sanktionen durchschnittlich 4.713 US-Dollar pro Verstoß betragen – in einem Fall waren es 31.100 US-Dollar.
Die KI-Abrechnung, die Juristen nicht ignorieren können
Diese Krise legt eine grundlegende Diskrepanz zwischen der Einführung von KI und der KI-Kompetenz offen. Anwälte können vertrauliche Informationen nicht bedenkenlos in öffentliche KI-Tools eingeben und müssen jede von KI erzeugte Ausgabe unabhängig überprüfen.
Die Entschuldigung des australischen Anwalts ist mehr als eine berufliche Peinlichkeit. Sie markiert einen Wendepunkt und unterstreicht die dringende Notwendigkeit von Prüfprotokollen in einer Branche, die auf eine rasche Integration von KI zusteuert. Während Gerichte weltweit zunehmend härtere Sanktionen verhängen, steht die Rechtsbranche vor einer entscheidenden Wahl: Sie muss die Grenzen der KI beherrschen oder die Konsequenzen tragen.
Lesen Sie unseren Leitfaden zu den besten KI-Tools für Anwälte im Jahr 2025 , um mehr über die verfügbaren Werkzeuge für Anwälte, Anwaltsgehilfen und andere Angehörige der Rechtsbranche zu erfahren.