Une cour d’appel californienne a infligé une amende de 10 000 dollars à l’avocat de Los Angeles Amir Mostafavi après qu’il a déposé un mémoire truffé de fausses références jurisprudentielles générées par ChatGPT.
Cette sanction, qui semble être la plus importante de ce type dans l’État, selon CalMatters et le chercheur en droit Damien Charlotin, est intervenue après que les juges ont constaté que 21 des 23 citations figurant dans le mémoire d’appel introductif de Mostafavi étaient inventées. L’arrêt publié avertit qu’aucun document judiciaire ne devrait contenir de références qu’un avocat n’a pas personnellement vérifiées.
La cour qualifie le recours de « frivole » et de perte de temps
La cour d’appel du 2e district a déclaré que le document déposé par Mostafavi enfreignait le règlement de la cour et constituait un recours frivole. Les juges lui ont également reproché d’avoir fait perdre du temps à la cour et d’avoir gaspillé l’argent des contribuables.
Dans leur arrêt, rendu il y a 10 jours, ils ont expliqué que le document était truffé de contenu inventé et souligné que les avocats doivent s’assurer de l’authenticité de chaque référence.
La sanction infligée à Mostafavi semble être l’amende la plus lourde prononcée par une cour de l’État de Californie contre un avocat pour un texte généré par une IA.
La formation de jugement a ordonné la publication de l’arrêt à titre d’avertissement, indiquant clairement que les tribunaux ne toléreront pas qu’un contenu non vérifié soit présenté comme une autorité juridique.
En mai, un juge d’un tribunal fédéral californien a ordonné à deux cabinets d’avocats de verser 31 100 dollars de frais pour des « recherches générées par l’IA et totalement bidon », estimant qu’ils avaient failli citer du contenu inventé dans une ordonnance et qu’« un puissant effet dissuasif est nécessaire ».
Mostafavi a utilisé ChatGPT pour « améliorer » son projet de mémoire d’appel
Mostafavi a déclaré à la cour qu’il avait lui-même rédigé le recours, avant de se tourner vers ChatGPT dans l’espoir d’améliorer son projet. Il a reconnu ne pas avoir relu le résultat avant de le déposer et a indiqué qu’il ignorait que le programme insérerait des références jurisprudentielles ou inventerait du contenu.
Il a déclaré à CalMatters qu’il était irréaliste d’attendre des avocats qu’ils abandonnent les outils d’IA, comparant leur essor à la manière dont les bases de données en ligne ont remplacé les bibliothèques juridiques. Tant que la technologie n’aura pas cessé de produire de fausses informations, les avocats, a-t-il ajouté, devront faire preuve de prudence.
« J’en paie le prix », a déclaré Mostafavi, en avertissant que d’autres pourraient tomber dans le même piège.
Les experts alertent sur la vague croissante d’inventions générées par l’IA
Damien Charlotin, qui recense les cas de fausses références générées par l’IA dans le monde, a déclaré à CalMatters que les documents judiciaires contenant de la jurisprudence inventée sont passés de quelques cas par mois à plusieurs par jour. Il a expliqué que les modèles d’IA sont particulièrement susceptibles d’halluciner lorsqu’on leur demande d’étayer des arguments juridiques complexes, une tendance qui peut conduire à l’insertion de contenu erroné dans les mémoires.
Des universitaires spécialisés en droit ont fait écho à cette inquiétude. Mark McKenna, de l’UCLA, a qualifié le recours à ChatGPT d’« abandon de votre responsabilité en tant que partie représentant quelqu’un ». Parallèlement, le professeur Andrew Selbst a averti que cette technologie était « enfoncée dans la gorge de tout le monde » dans les facultés de droit et les cabinets, sans véritable réflexion sur ses conséquences. »
Un prix trop élevé pour les erreurs
On sait que les modèles d’IA génèrent de fausses informations, des tests indépendants ayant relevé des taux d’hallucination même dans des tâches élémentaires et vérifiables. Cette tendance laisse penser que l’exactitude des systèmes génératifs reste loin d’être garantie à ce jour.
« Entre-temps, nous allons avoir des victimes, des préjudices et des dégâts », a déclaré Mostafavi après sa sanction.
Mais lorsque la justice est en jeu, attendre simplement de nouvelles avancées de l’IA ne suffit pas. Autoriser « des victimes, des préjudices et des dégâts » au nom de l’intelligence artificielle est tout simplement inacceptable.
Les cabinets d’avocats se tournent vers l’intelligence artificielle pour prendre en charge des tâches autrefois réservées aux collaborateurs débutants. Découvrez comment cette évolution transforme les services aux clients et redéfinit le rôle des professionnels du droit.