Une controverse a éclaté autour de Jeff Hancock, professeur de communication à Stanford et spécialiste de la technologie et de la désinformation, accusé d’avoir utilisé l’intelligence artificielle (IA) pour générer un document judiciaire contenant des citations inventées. Cette affaire suscite de vives inquiétudes quant à la fiabilité des contenus générés par l’IA et à leur capacité à propager la désinformation dans les milieux juridique et universitaire.
La désinformation générée par l’IA dans le domaine juridique
En novembre, Hancock a déposé une déclaration de 12 pages en défense de la loi du Minnesota de 2023 qui criminalise l’utilisation de deepfakes pour influencer les élections. Cette loi, qui s’inscrit dans les efforts de l’État pour lutter contre la désinformation en politique, a été contestée par Mary Franson, représentante républicaine de l’État, et Christopher Kohls, un satiriste conservateur.
Hancock, qui intervenait comme témoin expert pour le procureur général du Minnesota, a soutenu que les deepfakes pouvaient renforcer le pouvoir de persuasion de la désinformation et contourner les méthodes traditionnelles de vérification des faits.
Bien qu’il ait affirmé sous peine de parjure que sa déclaration était « vraie et exacte », les sources citées par Hancock semblent être le produit d’hallucinations de l’IA, un phénomène dans lequel les outils d’IA générative inventent des détails, comme des articles universitaires inexistants, à l’insu de l’utilisateur.
Le rôle de l’IA dans la désinformation et les citations hallucinées
Cette affaire mêlant IA et désinformation a été signalée par Frank Berdnarz, l’avocat de Franson et Kohls, qui a soutenu que les erreurs de citation de Hancock étaient probablement dues à des hallucinations de l’IA.
« La citation présente les caractéristiques d’une “hallucination” de l’intelligence artificielle (IA), ce qui laisse penser qu’au moins cette citation a été générée par un grand modèle de langage comme ChatGPT », a écrit Berdnarz dans un acte de procédure. Cette révélation soulève des questions sur la fiabilité des modèles d’IA et leur capacité à créer et à diffuser de fausses informations, y compris dans des contextes officiels et à forts enjeux comme les affaires judiciaires.
Le fait que Hancock présente les deepfakes comme une menace pour la démocratie ajoute une nouvelle dimension à l’ironie de la situation : le professeur a contribué malgré lui à la diffusion de désinformation par l’intermédiaire de contenus générés par l’IA. Cet incident met en lumière les dangers d’une confiance accordée aux outils d’IA générative sans vérification rigoureuse des informations qu’ils produisent.
Une préoccupation croissante dans la recherche sur la désinformation générée par l’IA
L’utilisation de l’IA dans la recherche sur la désinformation est un domaine en plein essor. Des experts comme Hancock s’intéressent aux façons dont les médias générés par l’IA, notamment les deepfakes et les notes d’information générées par l’IA, peuvent influencer l’opinion publique et les résultats politiques. Toutefois, des incidents comme celui-ci soulignent les difficultés liées à la garantie de l’exactitude et de la fiabilité des contenus générés par l’IA.
À mesure que les modèles d’IA deviennent plus avancés, il est de plus en plus nécessaire de faire preuve de prudence et de transparence dans leur utilisation, en particulier dans les domaines qui reposent fortement sur l’exactitude des faits, comme le droit et le monde universitaire. Le scandale soulève également d’importantes questions sur la manière dont les outils d’IA générative devraient être utilisés dans un cadre professionnel. Les hallucinations de l’IA pouvant altérer la qualité et l’intégrité de documents essentiels, cette affaire rappelle la nécessité d’une supervision rigoureuse de l’utilisation de l’IA, en particulier lorsqu’il s’agit d’informations sensibles ou faisant autorité.