Kalifornien führt neue Leitplanken dafür ein, wer KI an den Bundesstaat verkaufen darf. In einer Pressemitteilung vom 30. März kündigte Gouverneur Gavin Newsom eine neue Durchführungsverordnung an, die KI-Verträge in Kalifornien an öffentliche Schutzvorkehrungen für Datenschutz, Bürgerrechte und Verzerrungen knüpft.
Zugleich soll KI eine größere Rolle in der Verwaltung des Bundesstaats spielen, wobei ihre Nutzung in öffentlichen Dienstleistungen ausgeweitet werden soll.
KI-Anbieter müssen möglicherweise zeigen, wie sie mit realen Risiken umgehen
Die Durchführungsverordnung gibt den Behörden des Bundesstaats 120 Tage Zeit, Empfehlungen für neue Zertifizierungen vorzulegen, die in das Vergabeverfahren für KI-Unternehmen aufgenommen werden könnten, die Geschäfte mit dem Bundesstaat machen wollen. Diese Anbieter könnten aufgefordert werden, ihre Schutzvorkehrungen zu bestätigen und zu erläutern, wie diese Maßnahmen funktionieren.
Die Anordnung legt genau fest, was Kalifornien prüfen lassen will:
- Illegale Inhalte, darunter Darstellungen des sexuellen Missbrauchs von Kindern und intime Bilder ohne Einwilligung
- Schädliche Verzerrungen oder eine unzureichende Steuerung dieses Risikos
- Bedenken hinsichtlich Bürgerrechten und bürgerlichen Freiheiten im Zusammenhang mit freier Meinungsäußerung, Wahlen, Diskriminierung, Inhaftierung und Überwachung
Kalifornien schafft ein Prüfverfahren, das über Produktversprechen hinausblickt, bevor ein KI-Tool in öffentlich zugänglichen Behördendiensten zum Einsatz kommt.
Für manche könnte die Zulassung deutlich schwieriger werden
Ein Teil der Anordnung richtet den Blick über das KI-System hinaus auf das Unternehmen dahinter. Newsom will Empfehlungen dazu, ob Behörden des Bundesstaats weiterhin Geschäfte mit Unternehmen machen sollten, bei denen Gerichte festgestellt haben, dass sie den Datenschutz oder bürgerliche Freiheiten rechtswidrig untergraben haben.
Die Gerichtsakten eines Anbieters könnten neben seinen Zusicherungen gegenüber dem Bundesstaat zu seinen KI-Tools.
ebenfalls ins Gewicht fallen. Es gibt auch eine Besonderheit aus Washington. Wenn die Bundesregierung ein Unternehmen als Risiko für die Lieferkette einstuft, wird Kaliforniens Chief Information Security Officer angewiesen, diese Einstufung zu prüfen. Die Behörden können weiterhin dazu angehalten werden, bei dem Unternehmen einzukaufen, wenn der Bundesstaat zu dem Schluss kommt, dass die Entscheidung der Bundesregierung unrechtmäßig war.
Auch GenAI erhält einen größeren Stellenwert
Wer Unterstützung bei einer Katastrophe sucht, ein Unternehmen gründen möchte oder nach einem Arbeitsplatz sucht, könnte über ein neues, vom Bundesstaat entwickeltes Tool mit dieser Anordnung in Berührung kommen. Newsom fordert eine Pilot-App oder -Website, die Behördendienste rund um wichtige Lebensereignisse organisiert und den Menschen in Kalifornien einen direkteren Zugang zu Hilfsangeboten ermöglicht.
Innerhalb der Verwaltung sollen Beschäftigte des Bundesstaats umfassenderen Zugang zu geprüften GenAI-Tools für allgemeine Aufgaben erhalten, wobei Datenschutz- und Cybersicherheitsvorkehrungen gelten. Gleichzeitig werden die Behörden aufgefordert, bewährte Verfahren über bestehende Gremien des Bundesstaats zu teilen.
Ein Teil der Arbeit setzt weiter hinten an: mit einer erweiterten Schulung zu neuen Technologien und KI sowie einem Toolkit zur Datenminimierung für Abteilungen, die sensible Informationen verarbeiten, einschließlich Vorlagen, Vertragsklauseln und Prüfchecklisten.
Kaliforniens Technologieministerium wird außerdem angewiesen, Leitlinien für bewährte Verfahren zur Anbringung von Wasserzeichen an KI-generierten oder wesentlich manipulierten Bildern und Videos nach geltendem Landesrecht zu entwickeln.
Newsom stellt seine KI-Argumentation gegen Washington auf
Newsom nutzte den Start für einen direkten Kontrast zu Washington und warf der Bundesregierung vor, Standards und Schutzvorkehrungen zurückzufahren, während Kalifornien sie in den Bereichen Datenschutz, Sicherheit und Bürgerrechte verschärft.
Kalifornien will KI weiterhin in der Verwaltung einsetzen, allerdings unter Regeln, die Newsom als strenger als den Ansatz der Bundesregierung darstellen kann.
Eine überparteiliche Initiative in Washington könnte in China gefertigte Roboter zum nächsten Ziel des US-amerikanischen Vorgehens gegen Sicherheitsrisiken in der Tech-Branche machen.