Der Senat des Bundesstaats New York hat einen Gesetzentwurf verabschiedet, der die bekanntesten Unternehmen für generative KI dazu verpflichten würde, Sicherheitsberichte zu veröffentlichen und Verbraucher über Sicherheitsvorfälle zu informieren. Der als Responsible AI Safety and Education Act oder RAISE Act bekannte Gesetzentwurf wird der Gouverneurin des Bundesstaats New York, Kathy Hochul, zur endgültigen Entscheidung oder zur Aufforderung zu Änderungen vorgelegt.
RAISE Act gilt für große KI-Unternehmen
Wird der Gesetzentwurf geltendes Recht, müssten große KI-Unternehmen:
- Umfassende Sicherheitsberichte über fortschrittliche Modelle veröffentlichen.
- Sicherheitsvorfälle melden, zu denen etwa Angriffe durch externe Bedrohungsakteure oder alarmierendes Verhalten der Modelle selbst zählen könnten.
- Schutzmaßnahmen zur Vermeidung von Risiken umsetzen.
- Auf den Einsatz von Frontier-Modellen verzichten, wenn diese „ein unangemessenes Risiko eines kritischen Schadens“ verursachen könnten.
- Audits durch Dritte durchführen, um die Einhaltung des Gesetzes sicherzustellen.
Das Gesetz ermächtigt den Generalstaatsanwalt des Bundesstaats New York, gegen Unternehmen, die gegen das Gesetz verstoßen, zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar zu verhängen.
Das Gesetz definiert große Unternehmen für generative KI als solche, die mehr als 100 Millionen US-Dollar für Cloud-Rechenressourcen ausgegeben haben.
Das Gesetz versucht, Sicherheit und Innovation in Einklang zu bringen
Der mitunterzeichnende Senator Andrew Gounardes sagte, das Gesetz sei darauf ausgelegt, Innovation zu ermöglichen und gleichzeitig Schutzmaßnahmen aufrechtzuerhalten.
„Mein RAISE Act stellt sicher, dass sich KI entfalten kann, und verpflichtet zugleich die größten Unternehmen zu einem Sicherheitsplan, damit ihre Produkte nicht dazu verwendet werden, Menschen zu schaden“, sagte Gournardes in einer am 12. Juni veröffentlichten Erklärung. „Es handelt sich genau um die Art von vernünftiger, naheliegender Schutzmaßnahme, die wir von jedem Unternehmen erwarten würden, das an einem potenziell gefährlichen Produkt arbeitet. Außerdem stellt sie sicher, dass niemand einen Anreiz hat, Abkürzungen zu nehmen oder Gewinne über die Sicherheit zu stellen.“
Kritiker von Gesetzen wie diesem – etwa des viel beachteten kalifornischen Gesetzes zur Sicherheit von KI, gegen das sich der Gouverneur des Bundesstaats im September 2024 mit einem Veto ausgesprochen hat – argumentieren, dass solche Maßnahmen Innovationen schaden oder den Kontext nicht ausreichend berücksichtigen könnten, etwa beim Einsatz von generativer KI kleinerer Unternehmen in risikoreichen Szenarien.
New York ist der erste Bundesstaat, der Unternehmen zur Offenlegung verpflichtet, wenn KI für Entlassungen verantwortlich ist
Der RAISE Act ist nicht das einzige jüngste KI-Gesetz in New York. Im Juni wurde New York zum ersten Bundesstaat, der Unternehmen dazu verpflichtet offenzulegen, ob Entlassungen auf KI zurückzuführen waren.
Die Änderung betrifft das Worker Adjustment and Retraining Notification (WARN)-System des Bundesstaats, das eine Vorankündigung bei Massenentlassungen vorschreibt. Die neue Version enthält ein Kontrollkästchen, mit dem Arbeitgeber angeben können, ob Automatisierung oder technologische Innovation zur Entscheidung beigetragen haben. Wenn es aktiviert wird, müssen Unternehmen weitere Einzelheiten nennen und die konkrete Technologie – etwa KI-Tools oder -Plattformen – angeben, die am Personalabbau beteiligt war.
Die Jahre nach der Pandemie, 2023 und danach, waren geprägt von einem Trend zu Massenentlassungen und Abfindungsprogrammen bei Technologieunternehmen. Zu den Faktoren zählen das während der Pandemie sprunghaft gestiegene Verbraucherinteresse, wirtschaftliche Unsicherheit und tatsächlich auch der Aufstieg von KI und Automatisierung. Im April 2025 erklärte Microsoft, dass 30 % des Codes in seinen internen Repositorien von KI-Tools generiert werden.
Lesen Sie die Berichterstattung von eWeek über den vorgeschlagenen US-Gesetzentwurf zum Verbot einer Regulierung von KI auf Bundesstaatsebene, der New Yorks Bemühungen um eine unabhängige Regulierung künstlicher Intelligenz außer Kraft setzen könnte.