DIE WICHTIGSTEN ERKENNTNISSE
- •Gouverneur Gavin Newsom hat einen Gesetzesentwurf abgelehnt, der das Wachstum von KI eindämmen sollte. (Zum Abschnitt springen)
- •Das als SB-1047 bekannte Gesetz war ein früher Versuch, eine leistungsstarke Technologie zu regulieren, die bislang kaum regulatorischen Maßnahmen unterliegt. (Zum Abschnitt springen)
- •
- Gegner und Befürworter von SB-1047 äußerten leidenschaftliche Ansichten zu dem Gesetzesentwurf, der in Technologie, Wirtschaft, Hollywood und der Wissenschaft große Aufmerksamkeit erregte. (Zum Abschnitt springen)
In einer Entscheidung mit weitreichenden Folgen für die Zukunft der Regulierung künstlicher Intelligenz hat Gouverneur Gavin Newsom einen kalifornischen Gesetzesentwurf abgelehnt, der Leitplanken für das explosive Wachstum von KI geschaffen hätte. Der Gesetzentwurf, SB-1047, bekannt als Safe and Secure Innovation for Frontier Artificial Intelligence Models Act, war der erste Versuch eines Bundesstaates, die Entwicklung von KI umfassend zu regulieren. Da so viele KI-Entwickler in Kalifornien ansässig sind, hätte er über den Bundesstaat hinaus weitreichende Auswirkungen auf die Branche gehabt.
Der Gesetzentwurf sah folgende Maßnahmen vor, um weitreichende regulatorische Befugnisse darüber zu schaffen, wie große Unternehmen KI-Technologie entwickeln und einsetzen:
- Entwickler sollten verpflichtet werden, „Killswitch“-Funktionen zu implementieren, um vor Beginn des Trainings von KI-Modellen umgehend eine vollständige Abschaltung einleiten zu können.
- Entwicklern sollte untersagt werden, ein KI-Modell oder ein daraus abgeleitetes Modell für einen Zweck zu verwenden, der nicht ausschließlich mit dem Training oder der angemessenen Evaluierung des Modells zusammenhängt.
- Entwickler sollten verpflichtet werden, ab 2026 jährlich externe Prüfer mit unabhängigen Prüfungen der Einhaltung dieser Bestimmungen zu beauftragen.
„Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor den realen Gefahren zu schützen, die von dieser Technologie ausgehen“, sagte Newsom in seiner offiziellen Stellungnahme. „Stattdessen legt der Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Standards fest – sofern ein großes System sie entwickelt.“ Obwohl der Gesetzentwurf abgelehnt wurde, könnte er noch überarbeitet und zum Gesetz werden. Er fand in beiden Kammern der staatlichen Legislative überwältigende Unterstützung, und Newsom hat die Abgeordneten angewiesen, seine Bestimmungen für die nächste Sitzungsperiode neu zu formulieren.
Um diesen Prozess zu unterstützen, stellte er eine Gruppe von Technologieexperten zusammen, die zur Regulierung von generativer KI beraten soll. Zu der Beratungsgruppe gehören Jennifer Tour Chayes, Dekanin des College of Computing an der UC Berkeley, und Fei-Fei Li, Professorin für Informatik an der Stanford University, die oft als „Patin der KI“ bezeichnet wird. Li schrieb kürzlich einen Artikel, in dem sie argumentiert, dass SB-1047 „Entwickler unangemessen bestrafen und Innovationen abwürgen“ sowie „die KI-Forschung im öffentlichen Sektor und an Hochschulen lähmen“ würde.
Das Interesse an der KI-Regulierung wächst
Der Bedarf an KI-Regulierung ist schlagartig in den Vordergrund gerückt, da sich die leistungsstarke Technologie in rasantem Tempo weiterentwickelt hat, während die Regulierung noch nicht über Forderungen nach Maßnahmen hinausgekommen ist. Mit der Ausarbeitung des Gesetzentwurfs reagierten kalifornische Abgeordnete auf ein gefährliches Vakuum: KI verfügt über enorme Macht, Verbraucher, Unternehmen und sogar die Politik zu beeinflussen, ist jedoch nahezu vollständig unreguliert.
Der US-Kongress hat trotz abgehaltener Anhörungen keine Gesetze verabschiedet. Einige Bundesstaaten haben sich vorsichtig an das Thema herangetastet und Gesetze erlassen, die vor Deepfakes schützen und diskriminierende Einstellungspraktiken auf Grundlage von KI-Modellen verbieten. Im August 2024 verabschiedete die Europäische Union den AI Act, der erste Leitplanken für die KI-Entwicklung setzte und vorschreibt, dass KI-generierte Inhalte als solche gekennzeichnet werden. Die umfassenderen Funktionen der künstlichen Intelligenz bleiben jedoch ein unreguliertes Terrain, angetrieben von schnell agierenden, gut finanzierten Unternehmen, die in der Lage sind, langsame Gesetzgebungsverfahren zu überholen.
Da KI bereits die menschliche Empfindungsfähigkeit eng nachahmen kann und damit enorme finanzielle Gewinne erzielt, wird es für die schleppende Gesetzgebung der Regierungen schwierig sein, Schritt zu halten. Zumal diese staatlichen Institutionen häufig zerstritten sind und Abgeordnete in der Regel keine Technologieexperten sind.
„Die Herausforderung besteht darin, dass diese Technologie so neu ist und Regierungen so viel Zeit benötigen, um Gesetze auf den Weg zu bringen“, sagte Melissa Ruzzi, Director of AI bei AppOmni, gegenüber eWeek. Dennoch ist dieser Einsatz unerlässlich. „Wir müssen offen für Gesetzesänderungen sein, während wir gemeinsam lernen, wie KI in den unterschiedlichsten Bereichen der Gesellschaft eingesetzt wird“, sagte sie.
KI bringt ungewöhnliche Verbündete zusammen
Befürworter und Kritiker des kalifornischen KI-Gesetzes äußerten leidenschaftliche Meinungen – und die Bündnisse verliefen auf überraschende Weise quer durch Kultur und Wirtschaft. Erwartungsgemäß lehnten große KI-Unternehmen wie Microsoft, Google, OpenAI und Meta den Gesetzentwurf ab. Jason Kwon, Chief Strategy Officer von OpenAI, schrieb an Newsom und erklärte, der Gesetzentwurf werde „das Innovationstempo verlangsamen und dazu führen, dass Kaliforniens erstklassige Ingenieure und Unternehmer den Bundesstaat auf der Suche nach größeren Chancen andernorts verlassen“.
Das führende KI-Startup Anthropic, das als größter Konkurrent von OpenAI gilt, schlug dagegen Änderungen am Gesetzentwurf vor und erklärte, es könne einen überarbeiteten Entwurf des Gesetzes unterstützen.
„KI hat ihren Ursprung in Kalifornien“, sagte die ehemalige Sprecherin des Repräsentantenhauses Nancy Pelosi. „Wir brauchen ein Gesetz, das Vorbild für die Nation und die Welt ist. Wir haben die Chance und die Verantwortung, kleinen Unternehmern und der Wissenschaft – nicht Big Tech – zur Vorherrschaft zu verhelfen.“ Pelosi sprach sich jedoch gegen SB1047 aus und bezeichnete es als „gut gemeint, aber schlecht informiert“. Ihre Meinung wurde von mehreren kalifornischen Kongressabgeordneten geteilt, die Newsom gegenüber erklärten, der Gesetzentwurf sei zu vage und für eine aufstrebende Technologie nicht gut ausgearbeitet.
Tesla-Gründer Elon Musk unterstützte den Gesetzentwurf. „Das ist eine schwierige Entscheidung und wird einige Menschen verärgern, aber alles in allem sollte Kalifornien das KI-Sicherheitsgesetz SB-1047 wahrscheinlich verabschieden“, twitterte er auf X, seiner Social-Media-Plattform. „Seit mehr als 20 Jahren setze ich mich für die Regulierung von KI ein, genauso wie wir jedes Produkt bzw. jede Technologie regulieren, die eine potenzielle Gefahr für die Öffentlichkeit darstellt.“ Anfang 2023 unterzeichnete Musk einen Brief zusammen mit mehr als tausend KI-Experten, in dem sie eine Pause bei der Entwicklung „riesiger“ KI-Systeme forderten, bis die Risiken der Technologie angemessen beherrscht werden können.
Eine Gruppe von 120 Hollywood-Stars schrieb einen Brief, um den Gesetzentwurf zu unterstützen – möglicherweise auch deshalb, weil die Fähigkeit von KI, Inhalte zu generieren, eine so große Bedrohung für ihren Lebensunterhalt darstellt. Zu den Unterzeichnern gehörten Judd Apatow, Shonda Rhimes, Whoopi Goldberg und Rob Reiner. „Bei diesem Gesetzentwurf geht es nicht darum, Künstler zu schützen – es geht darum, alle zu schützen“, schrieben sie. „Schwerwiegende Bedrohungen durch KI waren einst Stoff für Science-Fiction, aber das ist heute nicht mehr der Fall.“
Auch eine Gruppe von Wissenschaftlern schrieb Newsom, um den Gesetzentwurf zu unterstützen. Zu der Gruppe gehörte Geoffrey Hinton, Professor an der University of Toronto, der weithin als „Pate der KI“ bekannt ist. Die Wissenschaftler erklärten, „Entscheidungen darüber, ob leistungsstarke KI-Modelle der Zukunft veröffentlicht werden, sollten nicht leichtfertig getroffen werden und auch nicht ausschließlich von Unternehmen, die für ihre Handlungen keinerlei Verantwortung übernehmen müssen“.
Lesen Sie unseren Leitfaden zu KI- und Datenschutzproblemen, um mehr über Herausforderungen, Best Practices und den verantwortungsvollen Einsatz von KI zu erfahren.