Kalifornien bringt ein Gesetz auf den Weg, das für die leistungsfähigsten KI-Modelle Transparenz und Sicherheitsberichte vorschreiben würde – und Anthropic unterstützt das Vorhaben.
Die als SB 53 bekannte Maßnahme ist Kaliforniens Gesetz zur Transparenz bei künstlicher Intelligenz an der technologischen Grenze. SB 53 soll große KI-Entwickler dazu verpflichten, Rahmenwerke für die öffentliche Sicherheit, Risikohinweise und Schutz für Hinweisgeber bereitzustellen. Anthropic bezeichnete den Gesetzentwurf als Ansatz des „Vertrauens, aber der Überprüfung“ bei der Aufsicht und erklärte, er stelle sicher, dass die Labore rechenschaftspflichtig bleiben, während sie an der technologischen Spitze konkurrieren.
Gesetzgeber treiben Transparenz bei KI-Systemen voran
Die Gesetzgeber treiben das Vorhaben durch Senator Scott Wiener voran, unterstützt von Senatorin Susan Rubio. Nachdem Gouverneur Gavin Newsom im vergangenen Jahr gegen einen umfassenderen Gesetzentwurf sein Veto eingelegt hatte, berief er eine Expertengruppe ein, um den Ansatz zu präzisieren. Daraus gingen Empfehlungen hervor, die die neue Gesetzgebung prägten.
Wiener sagte, der überarbeitete Gesetzentwurf entferne sich von der Haftung und wende sich der Transparenz zu, wodurch freiwillige Sicherheitszusagen großer KI-Unternehmen rechtlich durchsetzbar würden. Wie Helen Toner von der Georgetown University gegenüber NBC sagte, „Der Bedarf an mehr Transparenz seitens der Entwickler von KI-Systemen an der technologischen Grenze ist eine der KI-politischen Ideen, für die der größte Konsens besteht.“
Kaliforniens Gesetz zur Transparenz bei künstlicher Intelligenz an der technologischen Grenze im Überblick
Die Gesetzgebung legt konkrete Pflichten für Organisationen fest, die die leistungsfähigsten KI-Modelle entwickeln – von der Veröffentlichung von Sicherheitsrahmenwerken bis zur Meldung kritischer Vorfälle.
Sicherheitsrahmenwerke
Große KI-Unternehmen müssen detaillierte Sicherheits- und Schutzprotokolle veröffentlichen. Diese Rahmenwerke beschreiben, wie Entwickler ihre Modelle testen, Schwellenwerte für gefährliche Fähigkeiten festlegen und Maßnahmen zur Eindämmung katastrophaler Risiken vorsehen.
Transparenzberichte
Vor der Veröffentlichung leistungsfähiger neuer Modelle müssen Unternehmen öffentliche Transparenzberichte vorlegen. Diese Dokumente müssen Risikobewertungen zusammenfassen, Einsatzentscheidungen erläutern und offenlegen, ob Dritte an den Tests beteiligt waren.
Meldepflichten
Entwickler müssen kritische Sicherheitsvorfälle, etwa den Verlust der Modellkontrolle oder das Durchsickern von Modellgewichten, innerhalb von 15 Tagen beziehungsweise in dringenden Fällen innerhalb von 24 Stunden dem Bundesstaat melden. Außerdem müssen sie dem kalifornischen Office of Emergency Services vertrauliche Zusammenfassungen der Bewertungen katastrophaler Risiken übermitteln.
Schutz für Hinweisgeber
Der Gesetzentwurf schafft Schutz für Beschäftigte, die Sicherheitsbedenken offenlegen. Unternehmen müssen anonyme Meldewege bereitstellen, und Vergeltungsmaßnahmen gegen Hinweisgeber sind verboten.
Durchsetzung und Geltungsbereich
SB 53 gilt nur für große KI-Unternehmen mit Einnahmen von mehr als 500 Millionen US-Dollar und für Modelle, die mit enormer Rechenleistung trainiert wurden. Die Strafen reichen von 10.000 US-Dollar für geringfügige Verstöße bis zu 10 Millionen US-Dollar für wiederholte, vorsätzliche Verstöße im Zusammenhang mit katastrophalen Risiken. Das Gesetz hindert Kommunalverwaltungen außerdem daran, widersprüchliche KI-Vorschriften zu erlassen.
CalCompute
Der Gesetzentwurf schafft CalCompute, einen staatlich betriebenen öffentlichen Cloud-Cluster, der innerhalb des Systems der University of California angesiedelt werden soll. Er soll den Zugang zu Rechenleistung für sichere und faire KI-Forschung erweitern.
Warum Anthropic Kaliforniens KI-Gesetz unterstützt
Anthropic zufolge schafft die Maßnahme einen Ausgleich, indem sie Unternehmen den Wettbewerb ermöglicht und zugleich Transparenz über die Fähigkeiten von Systemen künstlicher Intelligenz verlangt, die die öffentliche Sicherheit gefährden könnten.
Das Unternehmen verwies auf seine Responsible Scaling Policy und seine System Cards als Beispiele für Praktiken, die es bereits anwendet. Indem diese Arten von Schutzmaßnahmen branchenweit verpflichtend würden, verhindere der Gesetzentwurf, so Anthropic, dass Konkurrenten ihre Sicherheitszusagen zurückfahren, um sich einen Vorteil zu verschaffen.
Anthropic merkte außerdem an, dass es Regelungen auf Bundesebene bevorzugt, erklärte jedoch, Kaliforniens Vorgehen sei in der Zwischenzeit notwendig. „Leistungsfähige Fortschritte bei der KI werden nicht auf einen Konsens in Washington warten“, erklärte das Unternehmen.
Sollte SB 53 verabschiedet werden, wäre Kalifornien der erste Bundesstaat, der freiwillige Zusagen zur KI-Sicherheit gesetzlich verankert.
Erfahren Sie, wie OpenAI und Anthropic ihre neuesten Modelle strengen Sicherheitstests unterziehen – und was die Ergebnisse für die Zukunft einer verantwortungsvollen KI-Entwicklung bedeuten.