Orchestra veut rendre les rues de la ville interrogeables.
Cette start-up, créée il y a 10 mois, a installé plus de 100 caméras dotées d’IA dans San Francisco et prévoit d’en ajouter 900 dans les principaux axes commerciaux au cours des six prochains mois. Ce déploiement soulève une question de gouvernance pour les villes et les acheteurs de technologies du secteur public : comment les systèmes d’analyse vidéo accessibles au public doivent-ils être évalués lorsqu’une entreprise privée construit le réseau avant qu’une agence municipale n’en devienne cliente ?
Les caméras privées deviennent une infrastructure d’IA accessible au public
Un rapport de Business Insider a indiqué qu’Orchestra avait déployé des caméras dans des quartiers comme SoMa, le Tenderloin, North Beach et la Marina. L’entreprise installe gratuitement les caméras pour les propriétaires de commerces, diffuse des images en haute définition et utilise l’IA pour transformer les vidéos en données structurées sur les objets, les véhicules et les incidents.
Orchestra affirme vendre des données structurées plutôt que des images brutes, offrant à ses clients des résultats interrogeables au lieu d’un accès direct aux flux vidéo. Le modèle repose néanmoins sur une collecte continue effectuée par des caméras orientées vers les rues dans les zones commerciales, dans le cadre d’une tendance plus large visant à transformer l’activité du monde réel en données d’entraînement et d’analyse de l’IA.
Le premier produit de l’entreprise destiné à la sécurité publique, Robocop, surveille les informations de dispatch de San Francisco via le portail de données ouvertes. Lorsqu’un incident hautement prioritaire se produit à proximité de l’une des caméras d’Orchestra, le système peut récupérer les images pertinentes et les regrouper dans un dossier de preuves appelé Veritas.
Orchestra ne travaille pas actuellement avec le SFPD, mais l’entreprise a déclaré qu’elle franchissait les étapes nécessaires pour pouvoir vendre ses services au département à terme. Ses ambitions affichées dépassent la sécurité publique : la start-up affirme construire une « AGI pour les villes » et veut s’étendre au-delà de San Francisco.
Les règles de supervision de San Francisco mises à l’épreuve par un réseau privé
Orchestra affirme ne pas utiliser la reconnaissance faciale, ne pas installer de caméras dans les quartiers résidentiels, flouter les visages dans les flux vidéo et restreindre l’accès aux images brutes. L’entreprise affirme également que le système peut identifier des personnes anonymisées grâce à des détails visibles comme les vêtements et les chaussures, ce qui rappelle que les dispositifs de vision par ordinateur peuvent rendre les visages, les mouvements, les lieux et les caractéristiques visibles utiles comme données interrogeables.
Un système capable d’effectuer des recherches par lieu, horodatage, véhicule, objet ou caractéristique personnelle visible nécessite des règles claires concernant la conservation des données, les journaux d’audit, l’accès des clients, les contrôles de sécurité et les demandes des forces de l’ordre. San Francisco dispose déjà d’un cadre pour les technologies de surveillance, mais le déploiement privé d’Orchestra met à l’épreuve le point où ce cadre commence à s’appliquer.
Les règles du chapitre 19B de la ville s’appliquent aux services qui acquièrent, empruntent, financent ou utilisent une technologie de surveillance, ou qui concluent des accords la concernant, notamment certains accords dans lesquels une entité extérieure à la ville fournit régulièrement des données recueillies au moyen d’outils de surveillance. Cela ne signifie pas que le réseau privé de caméras d’Orchestra constitue une violation juridique établie, mais tout futur contrat avec le SFPD, tout accord régulier de partage de données ou toute utilisation par la ville soulèverait des questions au regard du chapitre 19B.
L’inventaire des technologies de surveillance du SFPD comprend déjà les caméras de surveillance d’entités extérieures à la ville comme catégorie. Cela ne signifie pas que le réseau d’Orchestra a été autorisé pour un usage policier, mais montre que les sources de caméras exploitées par des opérateurs privés font déjà partie du cadre de supervision de la ville.
Le même problème de contrôle des accès apparaît dans toute l’infrastructure de l’IA, des réseaux vidéo aux contrôles des robots d’exploration IA qui déterminent qui peut collecter, réutiliser et monétiser des données à grande échelle. Pour les acheteurs du secteur public et les entreprises, la question reste de savoir si les fournisseurs peuvent documenter les règles de conservation, les pistes d’audit et les contrôles d’accès avant que des systèmes d’IA construits par le secteur privé ne deviennent partie intégrante des opérations quotidiennes.
À lire également : les systèmes d’IA transforment aussi le paysage des menaces, comme le montre la première attaque connue de rançongiciel agentique et la façon dont l’automatisation peut transformer des failles de sécurité familières en risques évoluant plus rapidement.