Ein Streitfall ist im Zusammenhang mit Jeff Hancock, einem Kommunikationsprofessor an der Stanford University und Experten für Technologie und Desinformation, entbrannt. Ihm wird vorgeworfen, künstliche Intelligenz (KI) eingesetzt zu haben, um ein Gerichtsdokument mit erfundenen Quellenangaben zu erstellen. Der Fall hat erhebliche Bedenken hinsichtlich der Zuverlässigkeit von KI-generierten Inhalten und ihres Potenzials geweckt, in juristischen und akademischen Kontexten Desinformation zu verbreiten.
KI-generierte Desinformation im juristischen Umfeld
Im November reichte Hancock eine 12-seitige Erklärung zur Verteidigung von Minnesotas Gesetz von 2023 ein, das die Verwendung von Deepfakes zur Beeinflussung von Wahlen unter Strafe stellt. Das Gesetz, das Teil der Bemühungen des Bundesstaats zur Bekämpfung politischer Desinformation ist, wurde von der republikanischen Abgeordneten Mary Franson und dem konservativen Satiriker Christopher Kohls angefochten.
Hancock, der als Sachverständiger für den Generalstaatsanwalt von Minnesota auftrat, argumentierte, dass Deepfakes die Überzeugungskraft von Desinformation erhöhen und herkömmliche Methoden der Faktenprüfung umgehen können.
Obwohl Hancock unter Eid versichert hatte, dass seine Erklärung „wahr und richtig“ sei, scheinen die von ihm zitierten Quellen das Ergebnis von KI-Halluzinationen zu sein – einem Phänomen, bei dem generative KI-Tools ohne Wissen des Nutzers Details erfinden, etwa nicht existierende wissenschaftliche Arbeiten.
Die Rolle von KI bei Desinformation und halluzinierten Quellenangaben
Dieses Problem im Zusammenhang mit KI und Desinformation wurde von Franson und Kohls’ Anwalt Frank Berdnarz angesprochen, der argumentierte, dass Hancocks Fehler bei den Quellenangaben wahrscheinlich auf KI-Halluzinationen zurückzuführen seien.
„Die Quellenangabe weist die typischen Merkmale einer ‚Halluzination‘ durch künstliche Intelligenz (KI) auf, was darauf hindeutet, dass zumindest diese Quellenangabe von einem Large Language Model wie ChatGPT generiert wurde“, schrieb Berdnarz in einem Schriftsatz. Diese Erkenntnis wirft Fragen zur Vertrauenswürdigkeit von KI-Modellen und ihrem Potenzial auf, selbst in formellen und folgenreichen Kontexten wie Gerichtsverfahren Falschinformationen zu erzeugen und zu verbreiten.
Hancocks Verteidigung von Deepfakes als Bedrohung für die Demokratie verleiht der Ironie der Situation eine weitere Ebene: Der Professor trug durch KI-generierte Inhalte unbeabsichtigt zur Verbreitung von Desinformation bei. Dieser Vorfall verdeutlicht die Gefahren, die entstehen, wenn generative KI-Tools ohne gründliche Überprüfung der von ihnen erzeugten Informationen eingesetzt werden.
Wachsende Besorgnis in der Desinformationsforschung zu KI
Der Einsatz von KI in der Desinformationsforschung ist ein wachsendes Forschungsfeld. Experten wie Hancock konzentrieren sich darauf, wie KI-generierte Medien, darunter Deepfakes und KI-generierte Briefings, die öffentliche Meinung und politische Ergebnisse beeinflussen können. Vorfälle wie dieser machen jedoch die Herausforderungen deutlich, die mit der Sicherstellung der Genauigkeit und Zuverlässigkeit KI-generierter Inhalte verbunden sind.
Da KI-Modelle immer fortschrittlicher werden, besteht ein zunehmender Bedarf an Vorsicht und Transparenz bei ihrer Anwendung – insbesondere in Bereichen, die stark auf faktischer Genauigkeit beruhen, etwa im Recht und in der Wissenschaft. Der Skandal wirft zudem wichtige Fragen darüber auf, wie generative KI-Tools im beruflichen Umfeld eingesetzt werden sollten. Da KI-Halluzinationen die Qualität und Integrität kritischer Dokumente beeinträchtigen können, dient der Fall als warnendes Beispiel dafür, wie wichtig eine sorgfältige Kontrolle beim Einsatz von KI ist – insbesondere beim Umgang mit sensiblen oder autoritativen Informationen.