KI-Experten und -Enthusiasten diskutieren bekanntlich über einen Ausdruck, der einst als makabrer Scherz galt: p(doom), also die geschätzte Wahrscheinlichkeit einer Katastrophe, die eine ganze Spezies auslöscht.
Manche betrachten solche Ängste vor KI inzwischen nicht mehr als Randthema. In einer Meinungskolumne von Axios hieß es am 16. Juni, mindestens 10 Menschen hätten wegen Bedenken über Bedrohungen mit dem Potenzial zur Auslöschung der Menschheit ihre Jobs bei großen KI-Unternehmen aufgegeben, die von künstlicher allgemeiner Intelligenz.
AGI wird häufig beinahe in religiösen Begriffen als Vorbote der „Singularität“ diskutiert, einer durch extrem leistungsfähige KI ermöglichten Utopie. Andere glauben, dass sich AGI zwangsläufig gegen ihre Schöpfer wenden wird.
p(doom)-Schätzungen von KI-Größen wie Musk und Altman
Noch folgenreicher ist, dass einige der Technologie-Manager, die die KI-Entwicklung vorantreiben, am lautesten über (p)doom sprechen.
OpenAI-CEO Sam Altman schrieb vergangene Woche, er glaube, dass „die Menschheit kurz davor steht, digitale Superintelligenz zu erschaffen“ – eine Stufe, die er als Vorläufer von AGI betrachtet.
Anthropic-CEO Dario Amodei sagte laut einem Interview mit dem Podcaster Liron Shapira.
Elon Musk sagte 2024 , dass die Wahrscheinlichkeit, dass KI die Menschheit zerstören würde, bei 20 % liege.
Im Juni 2023 sagte Microsoft-CEO Satya Nadella gegenüber Wired, dass eine außer Kontrolle geratene KI „ein echtes Problem“ darstellen könnte. Er sagte jedoch, die Lösung bestehe darin, dass Menschen die Kontrolle über den Kontext behalten, in dem KI eingesetzt wird.
„Ich denke über die ersten Kategorien nach, in denen wir diese leistungsfähigen Modelle einsetzen sollten und in denen Menschen eindeutig und unmissverständlich das Sagen haben“, sagte Nadella. „Solange wir also gewissermaßen dort anfangen, diese Modelle charakterisieren, sie sicherer und mit der Zeit deutlich erklärbarer machen, können wir über andere Nutzungsformen nachdenken – aber lassen wir nicht zu, dass die Sache außer Kontrolle gerät.“
Die Axios-Reporter Mike Allen und Jim VandeHei sagten, die Verwirklichung von (p)doom werde durch die Entwicklung von AGI vorangetrieben. Sie warnten, dass ein internationales KI-„Wettrüsten“ die Bedrohung beschleunigen könnte, wenn Staaten darum wetteifern, einander zu übertrumpfen, indem sie „jegliche und alle Beschränkungen für KI“ abschaffen.
p(doom) wird nicht immer als verlässlicher Maßstab akzeptiert
Es ist möglich, dass (p)doom zu unpräzise ist, um verlässliche Aussagen zu ermöglichen, und eher eine Denkweise als ein berechenbares Ergebnis darstellt. Vielleicht ist es auch ein Countdown auf etwas, das niemals geschehen wird. Eine Umfrage der Association for the Advancement of Artificial Intelligence ergab 2025, dass 76 % der KI-Forschenden AGI für ein unrealistisches Ziel halten.
Für Allen und VandeHei besteht die größte Sorge bei KI darin, dass sie ein technologisches Wettrüsten auslösen könnte. In diesem Fall wird p(doom) zu einer Metapher für jedes fortschrittliche Werkzeug, das zur Massenvernichtung fähig ist. Andere vermuten, dass Untergangsszenarien in Wahrheit düsteres Marketing von KI-Managern sind, deren Produkte in der Vorstellung der Menschen mächtiger erscheinen, wenn Verbraucher glauben, sie könnten die Welt zerstören.
Lesen Sie die Berichterstattung von eWeek über die zunehmenden Sorgen über KI-Chatbots und Risiken für die psychische Gesundheit, in der untersucht wird, wie emotional reagierende Systeme unbeabsichtigte psychische Schäden verursachen können.