KI-Experten und -Enthusiasten diskutieren häufig über eine Wendung, die einst als düsterer Scherz galt: p(doom), also die geschätzte Wahrscheinlichkeit einer Katastrophe, die durch fortgeschrittene KI die gesamte Spezies auslöschen könnte.
Solche Ängste vor KI gelten für manche nicht länger als Außenseitermeinung. Am 16. Juni berichtete eine Meinungskolumne von Axios, dass mindestens 10 Menschen ihre Jobs bei großen KI-Unternehmen wegen Bedenken über Bedrohungen auf Auslöschungsniveau durch künstliche allgemeine Intelligenz ausgelöst haben.
AGI wird häufig in nahezu religiösen Begriffen als Vorbote der „Singularität“ diskutiert, einer durch extrem leistungsfähige KI ermöglichten Utopie. Andere glauben, dass sich AGI zwangsläufig gegen ihre Schöpfer wenden wird.
p(doom)-Schätzungen von KI-Führungskräften wie Musk und Altman
Noch folgenreicher ist, dass einige der Tech-Manager, die die Entwicklung von KI vorantreiben, am lautesten über (p)doom sprechen.
In der vergangenen Woche schrieb OpenAI-CEO Sam Altman über seine Überzeugung, dass „die Menschheit kurz davor steht, digitale Superintelligenz zu entwickeln“ – eine Entwicklungsstufe, die er als Vorläufer der AGI betrachtet.
Anthropic-CEO Dario Amodei sagte, (p)doom liege laut einem Interview mit Podcaster Liron Shapira bei 10–25 %.
Elon Musk sagte 2024 , dass die Wahrscheinlichkeit, dass KI die Menschheit zerstören würde, bei 20 % liege.
Im Juni 2023 sagte Microsoft-CEO Satya Nadella gegenüber Wired , dass außer Kontrolle geratene KI „ein echtes Problem“ darstellen könnte. Die Lösung bestehe jedoch darin, dass der Mensch die Kontrolle über den Kontext behält, in dem KI eingesetzt wird.
„Ich denke über die erste Gruppe von Bereichen nach, in denen wir diese leistungsfähigen Modelle einsetzen sollten und in denen Menschen eindeutig und unmissverständlich die Kontrolle haben“, sagte Nadella. „Solange wir also gewissermaßen dort anfangen, diese Modelle charakterisieren, sie sicherer und im Laufe der Zeit deutlich erklärbarer machen, können wir über andere Nutzungsformen nachdenken – aber lassen wir sie nicht außer Kontrolle geraten.“
Die Axios-Reporter Mike Allen und Jim VandeHei sagten, die Verwirklichung von (p)doom werde durch die Entwicklung von AGI vorangetrieben. Sie warnten, dass ein internationales KI-„Wettrüsten“ die Bedrohung beschleunigen könnte, da Nationen einander zu überholen versuchen, indem sie „jegliche Beschränkungen für KI“ beseitigen.
p(doom) wird nicht immer als verlässliche Skala akzeptiert
Es ist möglich, dass (p)doom zu unpräzise ist, um aussagekräftig zu sein, und eher eine Denkweise als ein berechenbares Ergebnis darstellt. Es könnte auch ein Countdown auf etwas sein, das niemals eintreten wird. Eine Umfrage der Association for the Advancement of Artificial Intelligence aus dem Jahr 2025 ergab, dass 76 % der KI-Forschenden AGI für ein unrealistisches Ziel halten.
Für Allen und VandeHei besteht die größte Sorge bei KI darin, dass sie ein technologisches Wettrüsten auslösen könnte. In diesem Fall wird p(doom) zum Sinnbild für jedes fortschrittliche Werkzeug, das zur Massenzerstörung fähig ist. Andere vermuten, dass die Untergangsszenarien tatsächlich düsteres Marketing von KI-Managern sind: Die Produkte erscheinen im geistigen Auge der Verbraucher umso mächtiger, wenn diese glauben, sie könnten die Welt zerstören.
Lesen Sie die Berichterstattung von eWeek zu den wachsenden Bedenken hinsichtlich KI-Chatbots und psychischer Gesundheitsrisiken, in der untersucht wird, wie emotional reagierende Systeme unbeabsichtigte psychische Schäden verursachen können.