Das New Orleans Police Department setzte heimlich KI zur Live-Gesichtserkennung und Echtzeitüberwachung ein – ein Schritt, der wahrscheinlich gegen eine städtische Verordnung verstieß –, wie aus einer exklusiven Untersuchung von The Washington Post hervorgeht.
The Post bezeichnete dies als den ersten bekannten Fall eines großflächigen KI-Gesichtserkennungsprogramms, das von einer Polizeibehörde in den USA eingesetzt wurde.
Zwar gibt es keine Bundesgesetze, die den Einsatz von KI durch Strafverfolgungsbehörden regeln, doch vier Bundesstaaten und 19 Städte in weiteren Bundesstaaten verbieten ihren Polizeibehörden den Einsatz von Gesichtserkennung zur Live- und/oder automatisierten Überwachung.
In seinem Bericht merkte The Post an, dass der Stadtrat von New Orleans im Jahr 2022 eine Verordnung erlassen hatte, die der Polizei den Einsatz von Gesichtserkennung nur zur Suche nach bestimmten Verdächtigen erlaubte, denen mutmaßlich Gewaltverbrechen zur Last gelegt wurden. Der Einsatz von Live-KI-Gesichtserkennung durch die Polizei von New Orleans schien gegen diese städtische Verordnung zu verstoßen.
Die Polizei von NOLA setzte ein Netzwerk privater Kameras zur KI-Überwachung ein
Laut The Post nutzte die Polizei von New Orleans von Anfang 2023 bis April dieses Jahres, als das Programm ausgesetzt wurde, ein Netzwerk aus mehr als 200 privaten Überwachungskameras. Dieses Netzwerk wurde von einem ehemaligen Polizeibeamten aufgebaut, der eine private, gemeinnützige Organisation zur Kriminalitätsprävention namens Project NOLA gründete und die meisten Kameras besitzt und verwaltet.
Die Kameras waren so eingerichtet, dass sie künstliche Intelligenz nutzten, um Live-Videostreams automatisch nach möglichen Übereinstimmungen mit einer Liste gesuchter Verdächtiger zu durchsuchen. Wenn die Software eine mögliche Übereinstimmung erkannte, verschickte sie automatisch Warnmeldungen an Polizeibeamte, die die mobile App auf ihren Telefonen installiert hatten. Die Beamten konnten daraufhin die Betroffenen überprüfen, sie an ihrem Aufenthaltsort aufsuchen und festnehmen.
The Post berichtete , dass die Polizeichefin von New Orleans, Anne Kirkpatrick, das Live-KI-Gesichtserkennungsprogramm Anfang April dieses Jahres aussetzte und erklärte, dass diese automatischen Warnmeldungen möglicherweise nicht mit der städtischen Verordnung vereinbar seien. Nun wurde eine formelle Untersuchung eingeleitet, um festzustellen, wie viele Beamte die Warnmeldungen nutzten, wie viele Menschen aufgrund der Warnmeldungen festgenommen wurden, wie oft die Gesichtserkennung falsche Treffer lieferte und ob die Warnmeldungen gegen die Verordnung verstießen.
KI-Gesichtserkennung soll bei 34 Festnahmen eingesetzt worden sein
Auf Facebook hat Project NOLA behauptet, dass seine KI-Gesichtserkennung und Kameras an mindestens 34 Festnahmen beteiligt gewesen seien. The Post merkte jedoch an, dass sich diese Zahl nur schwer überprüfen lasse. Da Project NOLA eine private Organisation ist und keinen formellen Vertrag mit der Stadt hat, muss sie keinen vollständigen Bericht darüber veröffentlichen, in welche Fälle sie involviert war.
Darüber hinaus machten die meisten Polizeibeamten in ihren Polizeiberichten keine Angaben zu ihrem Einsatz von KI-Tools und verschleierten damit die entscheidende Rolle, die die Technologie bei den Festnahmen spielte. Die Polizeibehörde ist verpflichtet, dem Stadtrat Berichte über ihren Einsatz von Gesichtserkennungstechnologie vorzulegen, doch keiner dieser Fälle oder Festnahmen wurde jemals in den Berichten aufgeführt.
„Das ist das Albtraumszenario der Gesichtserkennungstechnologie, vor dem wir uns Sorgen gemacht haben“, sagte Nathan Freed Wessler, stellvertretender Direktor des Speech, Privacy, and Technology Project der ACLU. „Hier verleiht sich die Regierung selbst die Macht, jeden – und damit alle – zu überwachen, während wir unserem Alltag nachgehen und uns in der Öffentlichkeit bewegen.“