Dass die Menschheit letztlich durch KI untergeht, klingt wie ein Science-Fiction-Klischee, doch heute diskutieren Fachleute über die durchaus reale Wahrscheinlichkeit.
Während eines Großteils des vergangenen Jahres fiel in Diskussionen über künstliche allgemeine Intelligenz (AGI) und das Aussterben der Menschheit immer wieder der Name Daniel Kokotajlo.
Kokotajlo, eine prominente Stimme in der KI-Sicherheits-Community und ehemaliger OpenAI-Forscher, stieß im vergangenen April mit „AI 2027“ eine weltweite Debatte an. Dabei handelt es sich um ein spekulatives Szenario, das er als Mitautor verfasst hat und in dem sich rasant weiterentwickelnde KI-Systeme als der Menschheit überlegen erweisen, die Kontrolle über globale Entscheidungsprozesse übernehmen und letztlich die menschliche Rasse auslöschen. Aufmerksamkeit erregend, oder?
Nun sollten wir die Panik aber erst einmal etwas zurückfahren, denn Kokotajlo überprüft diese Prognose erneut. In einem kürzlich veröffentlichten Updaterudern er und seine Mitautoren zurück und erklären, der Weg zu übermenschlich intelligenter KI scheine länger zu dauern als zunächst erwartet. Sie argumentieren zwar, dass die dramatischsten Risiken nicht verschwunden seien, doch möglicherweise verzögerten sie sich lediglich etwas, statt dem apokalyptischen AI 2027-Zeitplan zu folgen, der so viel Aufmerksamkeit erregt hatte.
Das jüngste Update korrigiert die Einschätzung, wann KI-Systeme vollständig autonom programmieren können könnten – ein zentraler Aspekt des ursprünglich vorhergesagten Szenarios. Dies würde eine Intelligenzexplosion auslösen, da KI-Systeme sich ohne nennenswerte menschliche Aufsicht rasch selbst verbessern könnten. Ursprünglich war man davon ausgegangen, dass dies wahrscheinlich bis 2027 geschehen würde, doch nun scheint diese Prognose zu optimistisch gewesen zu sein. Oder zu pessimistisch, wenn man zufällig Freude an der menschlichen Rasse hat.
„Die Dinge scheinen etwas langsamer voranzugehen als im Szenario AI 2027“, schrieb Kokotajlo. Er fügte hinzu, dass 2027 schon zum Zeitpunkt der Veröffentlichung lediglich eine zentrale Schätzung und keineswegs die Gewissheit gewesen sei, die viele darin gesehen hätten. Die überarbeitete Einschätzung verortet autonome KI-Forschung in den frühen 2030er-Jahren, wobei „Superintelligenz“ möglicherweise erst um 2034 herum entstehen könnte. Und falls das irgendjemanden beunruhigt: Anders als das ursprüngliche Szenario versucht das Update nicht vorherzusagen, ob oder wann KI die Menschheit vernichten könnte.
Die Grenzen des modernen KI-Fortschritts
Derzeit herrscht größere Skepsis gegenüber den prognostizierten Zeitplänen für AGI. Seit der Veröffentlichung von ChatGPT im Jahr 2022 haben sich die Prognosen für eine KI auf menschlichem Niveau dramatisch beschleunigt; manche Experten vermuten, sie könnte innerhalb weniger Jahre Realität werden. Die jüngsten Erfahrungen haben jedoch den ungleichmäßigen Charakter des KI-Fortschritts offengelegt – und das, was Kritiker als zackige Intelligenz bezeichnen: Systeme, die kognitive Aufgaben bewältigen können, aber mit Dingen wie grundlegendem logischem Denken, langfristiger Planung oder autonomem Handeln Schwierigkeiten haben.
Malcolm Murray, ein Experte für KI-Risiken und Mitautor des International AI Safety Report, sagt, dies verschiebe viele Prognosen weiter in die Zukunft. „Damit ein Szenario wie AI 2027 eintritt, bräuchte man KI-Systeme mit deutlich mehr praktischen Fähigkeiten in der realen Welt“, sagte er. „In der Gesellschaft gibt es eine enorme Trägheit – Institutionen, Infrastruktur, Politik –, die alles verlangsamt.“
Andere stellen infrage, ob das Konzept der AGI überhaupt noch sinnvoll ist, und argumentieren, dass selbst die in diesen Debatten verwendete Sprache überholt werde. Henry Papadatos, Geschäftsführer der französischen gemeinnützigen Organisation SaferAI, bezweifelt, dass „AGI“ noch eine klare Bedeutung hat. „Als KI nur Schach oder Go spielte, ergab der Begriff Sinn“, sagte er. „Heute sind Systeme bereits ziemlich allgemein einsetzbar, allerdings auf uneinheitliche und unvollständige Weise. Das Etikett wird dem nicht wirklich gerecht.“
Branchenziele und politische Realität
Dennoch bleibt der Wettlauf um den Bau einer KI, die ihre eigene Entwicklung automatisieren kann, ein bedeutendes Ziel führender Unternehmen. OpenAI-CEO Sam Altman sagte im Oktober, die Entwicklung eines automatisierten KI-Forschersbis März 2028 sei ein internes Ziel, räumte jedoch ein, dass das Unternehmen auch schlicht scheitern könnte. Bei Erfolg könnten solche Systeme den KI-Fortschritt jedoch erheblich beschleunigen, selbst wenn sie hinter den Science-Fiction-Prognosen für 2027 zurückblieben.
Politikexperten warnen, dass Intelligenz allein noch keine Macht in der realen Welt bedeutet. Andrea Castagna, ein in Brüssel ansässiger KI-Politikforscher, weist darauf hin, dass fortgeschrittene KI weiterhin in komplexe menschliche Systeme eingebettet werden müsste. „Man kann nicht einfach einen superintelligenten Computer in militärische oder staatliche Strukturen einsetzen, die sich über Jahrzehnte entwickelt haben“, sagte er. „Die Welt ist viel komplizierter als die Szenarien, die sich die Menschen vorstellen.“
Warum Kokotajlo weiterhin wichtig ist
Kokotajlos Einfluss verdankt sich zum Teil seiner bisherigen Erfolgsbilanz. Seine Glaubwürdigkeit erarbeitete er sich mit einem Blogbeitrag aus dem Jahr 2021, in dem er die Explosion von Chatbots und die Bedeutung des „Inference-Time-Scaling“ treffend vorhersagte – einer Technik, die heute für moderne KI-Systeme zentral ist. Gleichzeitig betonte er stets, dass AI 2027 keine Prophezeiung, sondern lediglich eine mögliche Zukunft unter vielen Szenarien sei.
Der AI-2027-Essay selbst enthält ein alternatives Ende: Regierungen greifen ein, internationale Abkommen begrenzen die KI-Entwicklung, und die Systeme werden bewusst so beschränkt, dass sie interpretierbar bleiben und mit menschlichen Werten übereinstimmen. In diesem alternativen Ende überlebt die Menschheit, auch wenn schwierige politische Fragen ungelöst bleiben.
Wettbewerb und der weitere Weg
Kritiker wie der Neurowissenschaftler Gary Marcus von der NYU haben Kokotajlos düsterere Szenarien als spekulative Fiktion abgetan und argumentiert, Untergangsnarrative lenkten von unmittelbaren Problemen wie Verzerrungen, Desinformation und den Auswirkungen auf Arbeitsplätze ab. Andere befürchten, dass diese dramatischen Zeitpläne Fatalismus fördern oder im Namen eines „Sieges“ im KI-Wettrennen sogar eine rücksichtslose Beschleunigung begünstigen könnten.
Für Kokotajlo bedeutet eine Verschiebung der Zeitpläne nach hinten jedoch keine Resignation. Im Gegenteil: Seiner Ansicht nach eröffnet sie ein kleines Zeitfenster zum Handeln. Ob transformative KI in den späten 2020er-Jahren, Mitte der 2030er-Jahre oder noch später entsteht – die grundlegende Frage, wie sichergestellt werden kann, dass fortgeschrittene KI-Systeme zuverlässig im Interesse der Menschheit handeln, bleibt ungelöst. Die von Kokotajlo angestoßene Debatte dürfte jedenfalls so bald nicht abklingen.
Auch lesenswert: AI p (doom) hat sich von einer Nischenidee zu einer Mainstream-Debatte entwickelt, da immer mehr Führungspersönlichkeiten die Wahrscheinlichkeit einer von KI ausgelösten Katastrophe abwägen.