Der kalifornische Gouverneur Gavin Newsom hat SB 53, den Transparency in Frontier Artificial Intelligence Act (TFAIA), unterzeichnet – das erste Gesetz in den USA, das Leitplanken für Frontier-KI festlegt. Die Maßnahme soll ein Gleichgewicht zwischen Innovation und öffentlicher Sicherheit schaffen.
Laut einer Pressemitteilung des Gouverneursbüros führt das Gesetz neue Anforderungen für Entwickler ein und soll Sicherheit und Transparenz verbessern, während sich der Bundesstaat als globaler Vorreiter bei der KI-Regulierung positioniert.
Vertrauen in der Öffentlichkeit schaffen
Das neue Gesetz gilt für Frontier-KI-Modelle, also für die fortschrittlichsten Systeme mit erheblichen Fähigkeiten und Risiken. Gouverneur Newsom bezeichnete es als Einführung „vernünftiger Leitplanken“, die Vertrauen in der Öffentlichkeit schaffen sollen, ohne Innovationen zu bremsen.
Was SB 53 vorsieht
- Transparenz: Verpflichtet große KI-Entwickler, ein Rahmenwerk zu veröffentlichen, das zeigt, wie sie nationale und internationale Standards einhalten, und macht ihre Praktiken damit für die Öffentlichkeit sichtbar.
- Innovation: Gründet CalCompute, einen staatlich unterstützten öffentlichen Computerverbund zur Förderung sicherer und gerechter KI-Forschung.
- Sicherheit: Richtet ein System ein, über das Unternehmen und die Öffentlichkeit kritische Vorfälle im Bereich der KI-Sicherheit direkt an das California Office of Emergency Services melden können.
- Verantwortlichkeit: Schützt Whistleblower, die schwerwiegende Risiken von Frontier-Modellen aufdecken, und verhängt zivilrechtliche Strafen bei Verstößen, die vom Generalstaatsanwalt durchgesetzt werden können.
- Reaktionsfähigkeit: Beauftragt das Department of Technology, jährliche Aktualisierungen zu empfehlen, damit das Gesetz mit den rasanten Fortschritten und internationalen Standards Schritt hält.
Kaliforniens Antwort auf das Untätigbleiben des Bundes
Gouverneur Newsom bezeichnete künstliche Intelligenz als „neue Grenze der Innovation“ und erklärte, Kalifornien wolle eine Führungsrolle übernehmen, während sich die Technologie rasant weiterentwickelt.
Senator Scott Wiener würdigte die Joint California AI Policy Working Group und die Partnerschaft mit der Regierung für die Überarbeitung des Gesetzentwurfs. Die Zusammenarbeit habe dazu beigetragen, dass die Maßnahme „Vertrauen, Fairness und Verantwortlichkeit“ fördere.
Vertreter des Bundesstaats erklärten, SB 53 stütze sich auf einen Anfang dieses Jahres veröffentlichten Bericht, der in seiner Art einzigartig sei, und sei besonders wichtig angesichts des Versagens der Bundesregierung, eine umfassende KI-Politik.
„Vertrauen, aber überprüfen“: Ansatz für Frontier-KI
Der ehemalige Richter am Obersten Gerichtshof von Kalifornien, Mariano-Florentino Cuéllar, erklärte, das Gesetz spiegele die in dem früheren KI-Bericht des Bundesstaats dargelegten Grundsätze der Transparenz sowie des „Vertrauens, aber Überprüfens“ wider. Angesichts der anhaltenden Durchbrüche im Frontier-Bereich müsse die Aufsicht seiner Ansicht nach eine sorgfältige wissenschaftliche Prüfung in den Mittelpunkt stellen.
Dr. Fei-Fei Li von Stanford, Co-Direktorin des Institute for Human-Centered AI, unterstützte die Maßnahme ebenfalls und bezeichnete sie als Schritt hin zu einer evidenzbasierten Politikgestaltung.
Jennifer Chayes, Dekanin des College of Computing, Data Science, and Society der UC Berkeley, schloss sich anderen Wissenschaftsführenden an und unterstützte das Gesetz als Modell, um Fairness und Verantwortlichkeit bei der Entwicklung von KI sicherzustellen.
Auch Anthropic unterstützte SB 53, da das Gesetz durch die Verpflichtung von Unternehmen zur Offenlegung von KI-Systemen mit hohem Risiko ein Gleichgewicht zwischen Wettbewerb und Transparenz schaffe. Das Unternehmen erklärte, es halte sich bereits an ähnliche Schutzmaßnahmen, und argumentierte, das Gesetz verhindere, dass Konkurrenten bei der Sicherheit Abstriche machten, um sich einen Vorteil zu verschaffen.
Das Gravitationszentrum der KI wird zu ihrem Zentrum der Governance
Kalifornien dominiert den globalen KI-Sektor: Hier haben 32 der weltweit 50 führenden KI-Unternehmen ihren Sitz, außerdem entfallen mehr als 15 % der US-Stellenausschreibungen auf diesen Bereich. Allein die Bay Area zog im vergangenen Jahr mehr als die Hälfte der weltweiten Risikokapitalfinanzierung für KI-Start-ups an – ein Beleg für die unübertroffene Anziehungskraft des Bundesstaats auf Talente und Kapital.
Zudem ist Kalifornien der Sitz von drei der vier Unternehmen, die eine Bewertung von 3 Billionen US-Dollar erreicht haben: Google, Apple und Nvidia. Alle drei investieren umfassend in KI. Vertreter des Bundesstaats erklären, diese Konzentration von Wirtschaftsmacht versetze Kalifornien in eine einzigartige Position, um Standards zu setzen, die weit über seine Grenzen hinaus Wirkung entfalten.
Mit SB 53 nutzt Kalifornien seine Vormachtstellung, um sein wirtschaftliches Gewicht mit regulatorischer Führungsstärke zu verbinden. Die Verantwortlichen des Bundesstaats hoffen, dass das Gesetz nicht nur Kaliforniens Rolle an der Spitze der KI festigt, sondern auch ein Modell für verantwortungsvolle Governance bietet, während die Technologie weltweit Branchen neu gestaltet.