Über 200 Wissenschaftler und Politiker, darunter Nobelpreisträger und ehemalige Staatsoberhäupter, fordern globale Regeln für künstliche Intelligenz, die die Gesellschaft vor den größten Risiken der Technologie schützen sollen. Dazu gehört etwa ein Verbot, KI zum Abschuss von Atomwaffen oder zur Massenüberwachung einzusetzen.
Zu den namhaften Unterzeichnern zählen der meistzitierte lebende Wissenschaftler Yoshua Bengio, OpenAI-Mitgründer Wojciech Zaremba, die Friedensnobelpreisträgerin Maria Ressa und Geoffrey Hinton, der den Nobelpreis für Physik erhielt und seine Position bei Google verließ, um offen über die Gefahren von KI zu sprechen.
Mehrere Unterzeichner haben für namhafte KI-Unternehmen gearbeitet oder arbeiten derzeit dort – darunter Baidu, Anthropic, xAI und Google DeepMind – oder wurden mit dem Turing Award ausgezeichnet, der als höchste Ehrung in der Informatik gilt.
Dargelegte Risiken und rote Linien
Die Unterzeichner fordern Regierungen auf, bis Ende 2026 sogenannte „rote Linien“ dafür festzulegen, was KI-Systeme tun dürfen und was Menschen mit ihnen tun können. Der Brief warnt, dass die Technologie schon bald die menschlichen Fähigkeiten übertreffen wird – etwas, das Unternehmen wie OpenAI und Meta aktiv vorantreiben – und dass es „zunehmend schwieriger werden wird, eine wirkungsvolle menschliche Kontrolle“ über sie auszuüben.
„Regierungen müssen entschlossen handeln, bevor sich das Zeitfenster für sinnvolle Interventionen schließt“, heißt es im „Global Call for AI Red Lines“. „Ein internationales Abkommen über klare und überprüfbare rote Linien ist notwendig, um allgemein inakzeptable Risiken zu verhindern.“
Kategorien potenzieller Risiken
Die Risiken lassen sich in zwei Bereiche einteilen: die Nutzung von KI und das Verhalten von KI.
Beispiele für die Nutzung von KI sind der Einsatz der Technologie zum Einsatz tödlicher Waffen oder zur Nachahmung eines Menschen. Beispiele für das Verhalten von KI sind dagegen ihre Fähigkeit, chemische Waffen zu entwickeln oder sich ohne menschliches Eingreifen zu vervielfältigen. Die Unterzeichner wollen internationale Regeln, die sowohl die gefährlichsten Anwendungen von KI als auch gefährliche Verhaltensweisen von KI verbieten.
Diese einzelnen Risiken könnten laut dem offenen Brief zu verheerenden Ereignissen großen Ausmaßes führen, darunter künstlich erzeugte Pandemien durch biologische Waffen, weitverbreitete Desinformation, Massenarbeitslosigkeit, die Manipulation von Kindern und Erwachsenen, sowie systematische Menschenrechtsverletzungen.
Der Brief fordert zwar keine konkreten nächsten Schritte, schlägt aber mögliche Wege vor: Staaten könnten rote Linien ausarbeiten, Wissenschaftler überprüfbare Standards veröffentlichen, globale Foren diese bis 2026 billigen und schließlich einen verbindlichen Vertrag aushandeln.
Auch ehemalige Präsidenten und Minister aus Italien, Kolumbien, Irland, Taiwan, Argentinien und Griechenland unterstützen den Aufruf zu roten Linien für KI, ebenso wie mehr als 70 Organisationen, von denen sich viele ausdrücklich der KI-Sicherheit widmen. Zu den Mitunterzeichnern außerhalb der Wissenschaft zählen außerdem der Schauspieler und Autor Sir Stephen Fry sowie der Autor Yuval Noah Harari.
KI-Anbieter zögern, verbindliche Regulierungen zu unterstützen
In den vergangenen Jahren wurden mehrere offene Briefe zur Sicherheit von KI verfasst, darunter ein Brief aus dem Jahr 2023, den auch Elon Musk unterzeichnete und der eine sechsmonatige Pause bei der Entwicklung von KI forderte. Außerdem gab es eine Stellungnahme, die von OpenAI-Chef Sam Altman und Dario Amodei von Anthropic unterstützt wurde und dazu aufrief, die Eindämmung von KI-Risiken als globale Priorität zu behandeln.
Keine dieser drei prominenten Persönlichkeiten aus der KI-Branche hat sich dem Aufruf zu roten Linien für KI angeschlossen. Dieser unterscheidet sich entscheidend von den anderen: Er fordert verbindliche Regulierungen.
KI-Unternehmen unterstützen die Kontrolle durch Dritte in der Regel nicht, da sie ihr Wachstum von der Möglichkeit abhängig sehen, frei zu innovieren. OpenAI, Meta, und Google haben sich allesamt gegen Maßnahmen von Regierungen gewehrt, mit denen diese ihr Vorgehen steuern wollten. Weniger konkrete, freiwillige Zusagen sind für sie jedoch nicht grundsätzlich ausgeschlossen, etwa ihre Modelle für Sicherheitstests zur Verfügung zu stellen, um zu einem verantwortungsvollen Image beizutragen.
Die Unterzeichner des Red-Lines-Briefs erkennen die internen Rahmenwerke und Richtlinien der Anbieter an. Mehrere Unternehmen haben sich zu einem bestimmten Maß an Selbstregulierung verpflichtet, wie der ehemalige US-Präsident Joe Biden 2023 und beim Seoul AI Summit im vergangenen Jahr anerkannt haben. Dennoch zeigen Untersuchungen, dass Unternehmen solche Versprechen nur in etwa 52 % der Fälle einhalten.
Der Mitunterzeichner Yoshua Bengio hat eine gemeinnützige Organisation gegründet, die sich dafür einsetzt, dass KI-Systeme sicher und ehrlich sind und grundsätzlich mit menschlichen Werten übereinstimmen.