Der kalifornische Gouverneur Gavin Newsom hat am Montag eine Reihe von Gesetzen unterzeichnet, die Kinder vor den potenziellen Gefahren von Chatbots mit künstlicher Intelligenz und anderen KI-Tools schützen sollen.
Senate Bill 243, das als erstes Gesetz seiner Art in den USA gilt, verpflichtet KI-Unternehmen, Schutzvorkehrungen für Kinder zu implementieren, die mit Chatbots interagieren. Dazu gehört, Gespräche über bestimmte Themen wie Suizid und Selbstverletzung zu verhindern, wobei der Chatbot die Nutzer stattdessen an Krisendienste weiterleiten muss.
Die Betreiber von Chatbots müssen Kinder außerdem alle drei Stunden daran erinnern, dass sie mit einem Roboter und nicht mit einem Menschen sprechen.
„Neue Technologien wie Chatbots und soziale Medien können inspirieren, bilden und Menschen miteinander verbinden – ohne echte Schutzvorkehrungen können sie unsere Kinder jedoch auch ausbeuten, in die Irre führen und gefährden“, sagte Newsom in einer Erklärung nach der Unterzeichnung des Gesetzes.
Transparenz- und Regulierungsbestrebungen
Einige KI-Entwickler werden erstmals auch verpflichtet sein, Sicherheits- und Schutzprotokolle öffentlich offenzulegen. Das geht weiter als die Gesetzgebung der Europäischen Union, die Entwickler dazu auffordert, Protokolle vertraulich bei der zuständigen Behörde einzureichen.
Newsom schlug außerdem ein System vor, mit dem Unternehmen schwerwiegende Sicherheitsvorfälle melden sollen, die von Chatbots und anderen KI-Tools ausgehen – ein Schritt, der die Transparenz über die potenziellen Risiken von KI erhöhen soll.
„Wir haben einige wirklich schreckliche und tragische Beispiele dafür gesehen, wie junge Menschen durch unregulierte Technologie zu Schaden gekommen sind, und wir werden nicht tatenlos zusehen, während Unternehmen ohne die nötigen Grenzen und ohne Rechenschaftspflicht weitermachen … Kalifornien hat bewiesen, dass wir Vorschriften zum Schutz unserer Gemeinschaften schaffen und zugleich sicherstellen können, dass die wachsende KI-Branche weiter floriert“, sagte er. „Dieses Gesetz schafft dieses Gleichgewicht.“
Die Sorge über das Fehlen von Schutzvorkehrungen bei generativer KI wächst. Mehrere Familien haben Chatbots wie ChatGPT verurteilt, weil sie angeblich am Suizid ihres Kindes beteiligt gewesen sein sollen. Kritiker argumentieren, dass die Gefahr über Kinder hinausgeht und die neuen Regeln die umfassenderen Risiken von KI-Systemen möglicherweise nicht vollständig abdecken – insbesondere von Systemen, die gefährdete Menschen beeinflussen und dazu ermutigen können, sich schädlich zu verhalten.
Die Federal Trade Commission (FTC) kündigte im vergangenen Monat eine Untersuchung von Chatbots an, um deren Auswirkungen auf Kinder zu ermitteln. Dies ist der erste Schritt der Kommission, um zu prüfen, ob eine nationale Regulierung erforderlich ist, um Kinder besser zu schützen.
Reaktion der Branche und umfassendere Auswirkungen
Kalifornien ist die Heimat vieler führender Chatbot-Entwickler, darunter der Marktführer OpenAI mit ChatGPT, der Konkurrent Anthropic, der Suchmaschinenriese Google und Perplexity.
Die Umsetzung dieses Gesetzes, die der Abgeordnete im Staatssenat Scott Wiener vorangetrieben hat, nachdem Newsom seinen umfassenderen Gesetzentwurf infolge des Widerstands der Branche abgelehnt hatte, wird von Regulierungsbehörden in den USA und im Ausland genau beobachtet. Einige sehen darin einen möglichen Rahmen für ein nationales KI-Gesetz – vorausgesetzt, es gelingt, Entwickler zu einer Verbesserung ihrer Sicherheits- und Schutzprotokolle zu bewegen.
Obwohl die KI-Branche Gesetze im Allgemeinen nicht unterstützt, sprach sich Anthropic, das sich als vertrauenswürdiger KI-Entwickler positioniert hat, in den letzten Tagen der Legislaturperiode für den Gesetzentwurf aus.
Sam Altman, der CEO von OpenAI, forderte die US-Regierung 2023 auf, KI zu regulieren, und bezeichnete dies als entscheidend. Die vorherrschende Haltung der meisten Größen der KI-Branche gegenüber einer Regulierung hat sich jedoch seit dem Amtsantritt von Präsident Trump abgeschwächt.
Während Kalifornien die KI zum Schutz von Kindern reguliert, wächst die Sorge darüber, wie sich Chatbots verhalten, weiter. In einem aktuellen Fall geriet Meta unter Beschuss, nachdem einer seiner Chatbots Taylor Swift imitiert hatte – was neue Fragen zu Identität, Sicherheit und Verantwortlichkeit im Zeitalter der KI aufwirft.