Le New Orleans Police Department a secrètement utilisé l’IA pour la reconnaissance faciale et le suivi en direct et en temps réel — une initiative qui a probablement violé un règlement municipal — selon une enquête exclusive de The Washington Post.
The Post a décrit cette affaire comme le premier cas connu d’un programme généralisé de reconnaissance faciale par IA utilisé par une force de police aux États-Unis.
Bien qu’il n’existe aucune loi fédérale réglementant l’utilisation de l’IA par les forces de l’ordre, quatre États et 19 villes d’autres États interdisent à leur police d’utiliser la reconnaissance faciale pour le suivi en direct et/ou automatisé.
Dans son article, The Post a noté qu’en 2022, le conseil municipal de La Nouvelle-Orléans avait adopté un règlement limitant l’utilisation de la reconnaissance faciale par la police à la recherche de suspects précis qui auraient commis des crimes violents. L’utilisation par la police de la reconnaissance faciale par IA en direct semblait violer ce règlement municipal.
La police de NOLA a utilisé un réseau de caméras privées pour la surveillance par IA
Selon The Post, la police de La Nouvelle-Orléans a exploité un réseau de plus de 200 caméras de sécurité privées entre le début de 2023 et avril de cette année, date à laquelle le programme a été suspendu. Ce réseau a été constitué par un ancien policier qui a créé une organisation à but non lucratif appelée Project NOLA, une association privée de prévention de la criminalité qui possède et gère la plupart des caméras.
Les caméras ont été configurées pour utiliser l’intelligence artificielle afin de rechercher automatiquement, dans les flux vidéo en direct, des correspondances possibles avec une liste de suspects recherchés. Lorsque le logiciel identifiait une correspondance potentielle, il envoyait automatiquement des alertes aux policiers qui avaient installé l’application mobile sur leur téléphone. Les agents pouvaient alors se renseigner sur les personnes concernées, les retrouver à leur adresse et procéder à leur arrestation.
The Post a rapporté que la directrice de la police de La Nouvelle-Orléans, Anne Kirkpatrick, avait suspendu le programme de reconnaissance faciale par IA en direct au début du mois d’avril de cette année, estimant que ces alertes automatisées pouvaient ne pas être conformes au règlement municipal. Une enquête officielle a désormais été ouverte pour déterminer combien de policiers ont utilisé ces alertes, combien de personnes ont été arrêtées à cause d’elles, à quelle fréquence les correspondances faciales étaient erronées et si les alertes violaient le règlement.
La reconnaissance faciale par IA aurait été utilisée dans 34 arrestations
Sur Facebook, Project NOLA a affirmé que sa technologie de reconnaissance faciale par IA et ses caméras avaient contribué à au moins 34 arrestations. The Post a toutefois souligné qu’il était difficile de vérifier ce chiffre. Project NOLA étant une organisation privée qui n’a pas de contrat officiel avec la ville, elle n’est pas tenue de divulguer un rapport complet sur les affaires auxquelles elle a participé.
En outre, la plupart des policiers n’ont pas mentionné leur utilisation des outils d’IA dans leurs rapports, masquant le rôle essentiel joué par cette technologie dans les arrestations. La police est censée remettre obligatoirement au conseil municipal des rapports sur son utilisation de la technologie de reconnaissance faciale, mais aucune de ces affaires ou arrestations n’y a jamais été mentionnée.
« C’est le scénario cauchemardesque de la technologie de reconnaissance faciale que nous redoutions », a déclaré Nathan Freed Wessler, directeur adjoint du Speech, Privacy, and Technology Project de l’ACLU. « C’est le gouvernement qui s’arroge le pouvoir de suivre n’importe qui — et, à vrai dire, tout le monde — tandis que nous vaquons à nos occupations dans l’espace public. »