Kalifornien beherbergt die Zentralen vieler Technologiegiganten und könnte möglicherweise einen Präzedenzfall für die KI-Regulierung schaffen.
Der California Report on Frontier AI Policy-Bericht, der am Dienstag veröffentlicht wurde, skizziert neue Pläne für Leitplanken für KI, die als einzelstaatliches Gesetz umgesetzt werden könnten. Er wurde von Experten ausgearbeitet, nachdem der kalifornische Gouverneur Gavin Newsom sein Veto gegen den umstrittenen KI-Regulierungsentwurf SB 1047 eingelegt hatte — das Gesetz zur sicheren und geschützten Innovation bei Modellen künstlicher Intelligenz an der technologischen Grenze — im September 2024.
Seit der Veröffentlichung eines ersten Entwurfs des Berichts im März gibt es weitere Belege dafür, dass KI-Modelle zu Risiken durch „chemische, biologische, radiologische und nukleare (CBRN-)Waffen“ beitragen, schrieben die Autoren. Entwickler berichteten in diesen Bereichen von „Fähigkeitssprüngen“. Sie erklärten, dass KI „irreversible Schäden“ verursachen könnte, wenn keine geeigneten Schutzvorkehrungen umgesetzt werden.
Die Autoren betonten außerdem, dass Regulierungen „dem damit verbundenen Risiko angemessen“ sein und „nicht so belastend ausfallen müssen, dass sie Innovationen bremsen“.
Autoren des Berichts verunglimpfen das „große, schöne Gesetz“, das KI-Gesetze auf Ebene der Bundesstaaten verbieten würde
Der Bericht erscheint zu einem Zeitpunkt, da sich ein von den Republikanern unterstützter Haushaltsgesetzentwurf durch den Kongress bewegt, der US-Bundesstaaten und Kommunen die Regulierung von KI verbieten würde und zwar für die nächsten 10 Jahre. Die Befürworter argumentieren, ein einheitlicher nationaler Rahmen sei besser als ein uneinheitlicher Flickenteppich einzelstaatlicher Gesetze. Kritiker weisen jedoch darauf hin, dass die Abschaffung einzelstaatlicher Compliance-Maßnahmen, die dazu dienen, Voreingenommenheit zu verhindern und KI-Verbraucher zu schützen, auch finanziell lukrative Technologieunternehmen anziehen würde, die regulatorische Verzögerungen vermeiden wollen.
Bisher hat Kalifornien weitgehend darauf verzichtet, umfassende oder spezifische KI-Regulierungen einzuführen, und sich stattdessen für freiwillige Vereinbarungen.
„Eine sorgfältig ausgerichtete Politik in Kalifornien kann sowohl die Bedeutung einer Abstimmung von Standards über Zuständigkeitsgrenzen hinweg anerkennen, um den Compliance-Aufwand für Entwickler zu verringern und einen Flickenteppich-Ansatz zu vermeiden, als auch der grundlegenden Verpflichtung der Bundesstaaten gegenüber ihren Bürgern nachkommen, sie zu schützen“, schrieben die Autoren.
Drittanbieter-Risikobewertungen sind für die Regulierung von KI-Modellen entscheidend, sagen die Forscher
Der Kern von Newsoms Problem mit SB 1047 bestand darin, dass der Entwurf schlicht alle großen Modelle ins Visier nahm, unabhängig von ihrem Risikoprofil, statt sich auf Hochrisikomodelle jeder Größe zu konzentrieren. Die Autoren des Berichts stimmten dem zu und erklärten, dass bei der Einordnung von Modellen für die Regulierung neben der Größe auch andere Faktoren berücksichtigt werden müssten, etwa „Risikobewertungen“ und ihr „nachgelagerter Einfluss“.
Die Verpflichtung zu Risikobewertungen durch Dritte ist besonders wichtig, weil KI-Entwickler Informationen über „Datenbeschaffung, Sicherheitspraktiken, Tests vor der Einführung und nachgelagerte Auswirkungen“ nicht immer freiwillig weitergeben. Viele agieren wie Blackboxes. Der CEO von Anthropic hat sogar eingeräumt, dass sein Unternehmen nicht vollständig versteht, wie sein KI-System funktioniert, was Zweifel daran aufwirft, ob Führungskräfte in der Technologiebranche die damit verbundenen Risiken zutreffend einschätzen können.
Externe Bewertungen, die häufig von Gruppen mit einer größeren demografischen Vielfalt als die Technologieunternehmen Kaliforniens durchgeführt werden, ermöglichen eine breitere Repräsentation der Gemeinschaften, die besonders anfällig für Verzerrungen durch KI sind, stellten die Autoren fest. Die verpflichtende Durchführung solcher Audits könnte außerdem die Transparenz insgesamt erhöhen; Unternehmen hätten einen Anreiz, ihre Sicherheit zu verbessern und Überprüfungen zu vermeiden, was wiederum dazu beitragen würde, ihre Haftung zu verringern.
Die Durchführung solcher Bewertungen würde jedoch Zugang zu Unternehmensdaten erfordern, die Entwickler möglicherweise nur ungern weitergeben. In seiner Bewertung von 2024 erklärte METR, ein unabhängiges Forschungsunternehmen für KI-Sicherheit, dass es nur „eingeschränkten Zugang“ zu Informationen über OpenAIs o3-Modell erhielt, wodurch es schwierig wurde, die Ergebnisse vollständig zu interpretieren und potenzielle Sicherheitsrisiken einzuschätzen.
Wie der Bericht mit SB 1047 zusammenhängt
Nachdem Newsom SB 1047 ein Veto eingelegt hatte, um seine sicherheitsorientierten Kritiker zu besänftigen, kündigte Newsom mehrere neue Initiativen im Zusammenhang mit generativer KI an. Eine davon sah vor, dass der Bundesstaat eine Gruppe aus KI-Experten und Wissenschaftlern zusammenbringen würde, darunter Fei-Fei Li, Professorin an der Stanford University und „Großmutter“ der KI, um „Kalifornien bei der Entwicklung praktikabler Leitplanken zu unterstützen“. Der Plan für diese Leitplanken wird in dem Bericht beschrieben.
SB 1047 wäre die strengste Regulierung generativer KI im ganzen Land gewesen. Der Entwurf zielte darauf ab, zu verhindern, dass KI-Modelle der Menschheit großflächig schaden, etwa durch einen Atomkrieg oder Biowaffen, oder finanzielle Verluste verursachen, indem Entwicklern strenge Sicherheitsanforderungen auferlegt werden.
Diese Anforderungen boten Schutz für Hinweisgeber in der Industrie, verpflichteten große KI-Entwickler dazu, ihre Modelle vollständig herunterfahren zu können, und machten große KI-Unternehmen für strenge Sicherheits- und Schutzprotokolle verantwortlich. Dem Bericht zufolge sollte der Schutz von Hinweisgebern beibehalten werden; ein Notausschalter wird jedoch nicht erwähnt.
Ein großer Teil des Silicon Valley – darunter OpenAI, Meta, Google, und Hugging Face – verunglimpfte SB 1047 öffentlich als Bedrohung für Innovationen und kritisierte seine „technisch nicht umsetzbaren Anforderungen“. Der Entwurf erhielt damals Unterstützung von Elon Musk; zwei ehemalige OpenAI-Mitarbeiter verfassten außerdem einen Brief an Newsom, in dem sie ihren früheren Arbeitgeber dafür kritisierten, sich gegen SB 1047 zu stellen.
Anmerkung der Redaktion: Dieser Inhalt wurde ursprünglich am 18. Juni 2025 auf unserer Schwestersite TechRepublic veröffentlicht.