Anwälte betreten einen Gerichtssaal normalerweise in der Hoffnung, einen Richter zu überzeugen. Bei den Burton Awards mussten sie ihren Fall Sophia vortragen, einem humanoiden Roboter.
Während einer simulierten Berufungsverhandlung in der Library of Congress hörte sich ein humanoider Richter einen Vertragsstreit zwischen dem ehemaligen NFL-Linebacker Ken Harvey und Game Day Jerseys an. Seine Einführung war inszeniert, während die Veranstalter den anschließenden Austausch im Gerichtssaal und die abschließende Entscheidung als spontane KI-Antworten präsentierten.
Schon ein Roboter auf der Richterbank ist ungewöhnlich genug. Ihn zu bitten, rechtliche Argumente abzuwägen und eine Entscheidung zu treffen, macht aus der Demonstration einen Test dafür, wie überzeugend KI sein kann, wenn Autorität Teil der Inszenierung ist.
Ein Vertragsstreit stellt den Roboter auf die Probe
Im Mittelpunkt stand Harveys exklusiver Fünfjahresvertrag mit Game Day Jerseys. Er wollte ein Erinnerungstrikot mit den Namen seiner ehemaligen Teamkollegen, doch der Hersteller fertigte eines an, auf dem nur sein eigener Name stand, laut den Burton Awards
Sein Anwalt stellte Sophia schon bald auf die Probe. Als sie Harvey als „hinters Licht geführt“ bezeichnete, legte der gegnerische Anwalt Einspruch ein, und der Roboter stimmte zu, dass diese Formulierung zu weit ging. Später baten die Anwälte den humanoiden Roboter, frühere Gerichtsentscheidungen zu berücksichtigen, bevor er sein Urteil fällte.
Nach den Schlussplädoyers befand Sophia die Exklusivitätsklausel für „sittenwidrig weit gefasst und vage“ und hob den Vertrag teilweise auf, sodass Harvey einen anderen Hersteller für die Erinnerungstrikots suchen durfte.
Eine Entscheidung, die nicht vollständig schlüssig ist
Eine Stelle der Verhandlung ist schwer nachzuvollziehen. Während eines Streits über Informationen, die nicht im Vertrag festgehalten waren, sagte Sophia, solche Beweise könnten in manchen Fällen dennoch berücksichtigt werden. Wenige Augenblicke später verweigerte sie die Zulassung der Beweise.
Wenn das Protokoll den Austausch korrekt wiedergibt, passen die beiden Entscheidungen nicht vollständig zusammen. Die Inkonsistenz wirft Fragen auf zu KI-Halluzinationen wenn ein System konkurrierende Argumente abwägen und das Gesetz konsequent anwenden soll. Flüssige juristische Sprache kann auch schwache Überlegungen überzeugend klingen lassen.
Echte Gerichte mussten bereits einen Preis dafür zahlen, wenn fehlerhafte KI-Ausgaben die Prüfung überstehen. So verhängte ein kalifornisches Berufungsgericht beispielsweise eine Geldstrafe von 10.000 US-Dollar gegen einen Anwalt, nachdem ein Schriftsatz von ChatGPT generierte Verweise auf nicht existierende Fälle enthalten hatte. Der Einsatz in der Justiz würde einen noch höheren Maßstab erfordern, denn ein ungeprüfter Fehler könnte sich unmittelbar auf das Urteil auswirken.
Mit echter Autorität kommt echte Verantwortung
Für jeden, dessen Arbeitsplatz oder Vertrag durch KI beeinträchtigt werden könnte, ist die Frage, ob ein Roboter auf der Bühne überzeugend auftreten kann, weniger wichtig als die persönlichen Folgen. Ein echter Einsatz würde eine Möglichkeit erfordern, nachzuvollziehen, wie eine Antwort zustande gekommen ist, und sie anzufechten, wenn die Begründung fehlerhaft ist.
Menschliche Richter stoßen bereits innerhalb von Gerichtsverfahren auf KI-generiertes Material. Bei einer Strafzumessungsverhandlung in Arizona wurde eine von KI erstellte Erklärung über die Auswirkungen der Tat auf das Opfer vorgelegt, und ein chinesisches Gericht entschied, dass der Ersatz durch KI nicht ausreichte, um die Entlassung eines Mitarbeiters zu rechtfertigen. Für beide Entscheidungen blieben menschliche Richter verantwortlich.
Anwälte bräuchten Aufzeichnungen darüber, welche Fakten und rechtlichen Autoritäten ein KI-gestütztes Urteil geprägt haben. Gerichtsverwaltungen müssten außerdem festlegen, wer das System überstimmen darf und wer die Verantwortung trägt, wenn es versagt.
Der Fall von Burton hatte keine rechtliche Wirkung, doch die Simulation vermittelte uns einen kleinen Eindruck davon, was geschehen könnte, wenn das Urteil eines Roboters echte Konsequenzen nach sich zieht.
Sollten humanoide Roboter wie Sophia eines Tages von Demonstrationen in echte Gerichtssäle wechseln, könnte ein Vertragsstreit wie der von Harvey erst der Anfang sein. In künftigen Fällen könnte über das Schicksal eines Unternehmens, die Freiheit eines Menschen oder – in den schwerwiegendsten Verfahren – über ein Menschenleben entschieden werden.
Weitere Nachrichten: Robot.com entwickelt R-Dog für die Paketzustellung und mobile Werbung mit einer einzigen von Hunden inspirierten Roboterplattform.