Orchestra will die Straßen der Stadt durchsuchbar machen.
Das zehn Monate alte Startup hat in ganz San Francisco mehr als 100 KI-gestützte Kameras installiert und plant, in den kommenden sechs Monaten 900 weitere an Geschäftsstraßen aufzustellen. Die Ausweitung wirft für Städte und Technologieeinkäufer im öffentlichen Sektor eine Governance-Frage auf: Wie sollten öffentlich zugängliche Videoanalysesysteme überprüft werden, wenn ein privates Unternehmen das Netzwerk aufbaut, bevor eine städtische Behörde zum Kunden wird?
Private Kameras werden zu öffentlich zugänglicher KI-Infrastruktur
Ein Bericht von Business Insider sagte, Orchestra habe Kameras in Stadtteilen wie SoMa, dem Tenderloin, North Beach und der Marina aufgestellt. Das Unternehmen installiert die Kameras kostenlos für Geschäftsinhaber, streamt hochauflösendes Bildmaterial und nutzt KI, um Videos in strukturierte Daten über Objekte, Fahrzeuge und Vorfälle umzuwandeln.
Orchestra zufolge verkauft das Unternehmen strukturierte Daten statt Rohaufnahmen und liefert Kunden durchsuchbare Ergebnisse anstelle direkter Video-Feeds. Das Modell beruht weiterhin auf der kontinuierlichen Erfassung durch straßenseitige Kameras in Geschäftsvierteln – als Teil eines breiteren Vorstoßes, Aktivitäten in der realen Welt in KI-Trainings- und Analysedaten.
Das frühe Produkt des Unternehmens für die öffentliche Sicherheit, Robocop, überwacht die Einsatzinformationen von San Francisco über das Open-Data-Portal. Wenn in der Nähe einer Orchestra-Kamera ein Vorfall hoher Priorität gemeldet wird, kann das System relevantes Bildmaterial abrufen und in einer Beweisakte namens Veritas zusammenstellen.
Orchestra arbeitet derzeit nicht mit dem SFPD zusammen, doch das Unternehmen hat erklärt, die nötigen Schritte zu durchlaufen, um die Behörde letztlich als Kunden zu gewinnen. Die erklärten Ambitionen gehen über die öffentliche Sicherheit hinaus: Das Startup sagt, es baue „AGI für Städte“ und wolle über San Francisco hinaus expandieren.
San Franciscos Aufsichtsregeln werden durch ein privates Netzwerk auf die Probe gestellt
Orchestra zufolge verwendet das Unternehmen keine Gesichtserkennung, installiert keine Kameras in Wohnvierteln, verpixelt Gesichter in den Video-Feeds und beschränkt den Zugriff auf Rohaufnahmen. Das Unternehmen sagt außerdem, dass das System anonymisierte Personen anhand sichtbarer Details wie Kleidung und Schuhen identifizieren kann – eine Erinnerung daran, dass Computer-Vision-Geräte Gesichter, Bewegungen, Orte und sichtbare Merkmale als durchsuchbare Daten nutzbar machen können.
Ein System, das standort-, zeitstempel-, fahrzeug-, objekt- oder merkmalsübergreifend suchen kann, braucht klare Regeln für Aufbewahrungsfristen, Prüfprotokolle, Kundenzugriff, Sicherheitskontrollen und Anfragen von Strafverfolgungsbehörden. San Francisco verfügt bereits über einen Rahmen für Überwachungstechnologie, doch Orchestras privater Rollout stellt auf die Probe, wo dieser Rahmen beginnt.
Die Kapitel-19B-Regeln der Stadt gelten für Behörden, die Überwachungstechnologie anschaffen, leihen, finanzieren oder nutzen oder entsprechende Vereinbarungen eingehen – darunter auch bestimmte Vereinbarungen, bei denen eine nichtstädtische Organisation regelmäßig Daten bereitstellt, die mithilfe von Überwachungsinstrumenten erhoben wurden. Das macht Orchestras privates Kameranetzwerk nicht automatisch zu einem eindeutigen Rechtsverstoß, doch jeder künftige Vertrag mit dem SFPD, jede regelmäßige Vereinbarung zum Datenaustausch oder jede Nutzung durch die Stadt würde Fragen im Zusammenhang mit Kapitel 19B aufwerfen.
Das Überwachungstechnologie-Inventar des SFPD umfasst bereits Überwachungskameras nichtstädtischer Organisationen als Kategorie. Das bedeutet nicht, dass Orchestras Netzwerk für die polizeiliche Nutzung genehmigt wurde, zeigt aber, dass privat betriebene Kameraquellen bereits Teil des Aufsichtsrahmens der Stadt sind.
Dasselbe Problem bei der Zugriffskontrolle zeigt sich in der gesamten KI-Infrastruktur – von Videonetzwerken bis hin zu KI-Crawler-Kontrollen , die bestimmen, wer Daten in großem Maßstab erfassen, wiederverwenden und monetarisieren darf. Für Käufer im öffentlichen Sektor und Unternehmen bleibt die Frage offen, ob Anbieter Aufbewahrungsregeln, Prüfpfade und Zugriffskontrollen dokumentieren können, bevor privat entwickelte KI-Systeme Teil des alltäglichen Betriebs werden.
Mehr dazu: KI-Systeme verändern auch die Bedrohungslandschaft, wie der erste bekannte agentenbasierte Ransomware-Angriff zeigt: Automatisierung kann aus bekannten Sicherheitslücken schneller eskalierende Risiken machen.