OpenAI hat seit November 2023 eine Reihe abrupter Rücktritte in der Führungsebene und unter wichtigen Mitarbeitern erlebt. Von den Mitgründern Ilya Sutskever und John Schulman bis hin zu Jan Leike, dem ehemaligen Leiter des „Super Alignment“-Teams des Unternehmens, reißen die Abgänge nicht ab. Doch das ist noch nicht alles – auch der ehemalige Sicherheitsforscher Steven Adler und der Senior Advisor for AGI Preparedness Miles Brundage haben das Unternehmen verlassen. Das sind die namhaften Abgänge. Viele weitere Mitarbeiter haben sich ebenfalls zum Gehen entschlossen.
Noch lauter schrillen die Alarmglocken angesichts des Grundes für ihre freiwillige Trennung. Ein roter Faden, der sich durch diese Abgänge zieht, ist die Befürchtung, dass OpenAI den Profit über die Sicherheit der Gesellschaft stellt. In der risikoreichen Welt der KI ist das ein Warnsignal, das sich unmöglich ignorieren lässt.
Warum verlassen Mitarbeiter OpenAI?
KI-Sicherheit und Governance gewinnen aus gutem Grund zunehmend an Aufmerksamkeit. KI-Modelle werden immer leistungsfähiger, und Unternehmen liefern sich ein Wettrennen um die Entwicklung künstlicher allgemeiner Intelligenz (AGI). Angesichts der beschleunigten Entwicklung der KI ist AGI auf dem besten Weg, Realität zu werden. Viele ehemalige OpenAI-Mitarbeiter sind jedoch der Ansicht, dass sich das Unternehmen stärker auf schnelle Innovationen und Produkteinführungen konzentriert, als die Risiken von AGI angemessen anzugehen. Leike hat dieses Problem besonders deutlich angesprochen.
„Wir hätten uns schon längst ernsthaft mit den Auswirkungen von AGI befassen müssen“, schrieb er auf X, und kritisierte das Unternehmen dafür, die KI-Sicherheit auf die lange Bank zu schieben.
Warum sollte man sich wegen AGI Sorgen machen?
AGI ist ein superintelligentes KI-Modell, das in verschiedenen Bereichen autonom denken, lernen, schlussfolgern und sich anpassen kann. Es kann jede intellektuelle Aufgabe eines Menschen bewältigen. Im Gegensatz zur heutigen KI, die für bestimmte Aufgaben entwickelt wird, kann AGI sich selbst verbessern und die menschliche Intelligenz möglicherweise übertreffen. Das klingt vielleicht wie aus einem Science-Fiction-Film, doch Wissenschaftler in China haben bereits ein KI-Modell entwickelt, das sich selbst vervielfältigen kann – ohne menschliches Eingreifen. In einer Tests simulation nahm die KI eine bevorstehende Abschaltung wahr und vervielfältigte sich, um zu überleben. An diesem Punkt handelt es sich nicht mehr nur um fortschrittliche Technologie. Hier zeigen sich Überlebensinstinkte in Aktion.
Genau diese Fähigkeit lässt die Befürworter der KI-Sicherheit nachts wach liegen. Wenn die Ziele von AGI nicht mit menschlichen Werten und dem Wohlergehen der Menschen übereinstimmen, könnten die Folgen katastrophal sein. Stellen wir uns vor, eine KI würde ihre Effizienz optimieren und zu dem Schluss kommen, dass Menschen den Engpass darstellen. Können wir darauf vertrauen, dass diese KI unsere Interessen im Blick hat?
KI-Governance und Sicherheit
KI-Sicherheit ist ein nicht verhandelbarer Faktor. Ohne strenge Governance- und Sicherheitsmaßnahmen könnte AGI unberechenbar, gefährlich und unkontrollierbar werden. Die Europäische Union, China und die Vereinigten Staaten arbeiten an KI-Gesetzen und entsprechenden Richtlinien. Unternehmen wie IBM, Salesforce und Google haben sich verpflichtet, KI auf ethische Weise zu entwickeln. Das sind positive Schritte, doch es ist offensichtlich, dass wir immer noch versuchen, den Rückstand aufzuholen.