1984 wurden Kinogänger mit einer erschreckenden Zukunftsvision bekannt gemacht, in der künstliche Intelligenz einen Vernichtungskrieg gegen die Menschheit führte. Der Film hieß „Terminator“, und 41 Jahre später warnt sein Regisseur James Cameron, dass die Prämisse seines bahnbrechenden Actionfilms schon bald Realität werden könnte.
Eine Zukunft im Stil von „Terminator“ fühlt sich nicht länger fern an
In einem kürzlich geführten Interview mit Rolling Stone anlässlich der Veröffentlichung des Buches „Ghosts of Hiroshima“, das Cameron für die Leinwand adaptieren will, äußerte sich der Blockbuster-Regisseur zur Zukunft von KI in Krieg und Kreativität.
„Ich glaube tatsächlich, dass weiterhin die Gefahr einer Apokalypse im Stil von ,Terminator‘ besteht, wenn man KI mit Waffensystemen verbindet“, sagte Cameron, „bis hin zu nuklearen Waffensystemen, nuklearer Verteidigung und Gegenschlag – all dem.“
Noch vor einem Jahrzehnt hätten die Worte des „Avatar“- und „Titanic“-Regisseurs vielleicht immer noch wie die eines Schwarzsehers geklungen. Doch KI und Wettrüsten scheinen nun tatsächlich stärker miteinander verflochten zu sein – ein Szenario, das vor nicht allzu langer Zeit noch wie Science-Fiction wirkte.
Im April leitete das Verteidigungsministerium die zweite Phase der Einführung militärischer KI ein, die bereits 2017 begonnen hatte und Project Maven genannt wird. Auch wenn der Einsatz derzeit auf generative KI zur Unterstützung von Bodenoperationen und Geheimdienstanalysen beschränkt ist, kann man sich durchaus eine Zeit vorstellen, in der KI bei wichtigeren Entscheidungen eingesetzt wird.
Die wachsende Abhängigkeit des Militärs von KI
„Da sich das Einsatzgeschehen so schnell entwickelt und die Zeitfenster für Entscheidungen so kurz sind, wäre eine Superintelligenz nötig, um alles zu verarbeiten – vielleicht sind wir ja klug genug, einen Menschen in die Entscheidungsschleife einzubinden“, fügte Cameron hinzu. „Aber Menschen sind fehlbar, und es wurden viele Fehler gemacht, die uns an den Rand internationaler Zwischenfälle gebracht haben, die zu einem Atomkrieg hätten führen können. Ich weiß es also nicht.“
Einige Menschenrechtsgruppen äußern ähnliche Zweifel wie Cameron und verweisen auf die ethischen Fragen, die sich daraus ergeben, KI zur Erstellung von Ziellisten oder zum Vorschlagen von Maßnahmen auf Grundlage von durch KI verarbeiteten und analysierten Geheimdienstdaten einzusetzen. Rüstungsunternehmen beteuern, dass sie bei jeder KI-Entscheidung menschliche Kontrolle vorsehen.
Das Versprechen, jedoch stets einen „Menschen in der Entscheidungsschleife“ zu behalten, wird zunehmend schwieriger einzuhalten, da sich das Militär bei seinen Entscheidungen auf immer größere und komplexere Datensätze stützt. KI-Modelle und generative KI können komplexe Daten schneller verarbeiten als jeder Mensch und damit möglicherweise die traditionellen Prozesse der militärischen Nachrichtenanalyse ersetzen.
Das Verteidigungsministerium treibt die Weiterentwicklung seiner KI-Fähigkeiten mit Volldampf voran und hat sich kürzlich mit den Technologieunternehmen Anduril, Scale AI und Palantir zusammengeschlossen, um Überwachungs- und Geheimdienstdaten zu sammeln und zu verarbeiten. Doch die Kontrolle über diese Daten könnte problematisch sein. Palantir etwa nutzt Microsoft, um dem Militär KI-Tools bereitzustellen, die mit geheim eingestuften militärischen Datensätzen trainiert wurden.
Camerons kreative Warnung vor den Grenzen des Menschen
Es fällt schwer, die rasche Integration von KI in das Militär nicht als Schritt auf dem Weg in Camerons alptraumhafte, bislang jedoch fiktive Zukunft zu sehen. In der „Terminator“-Reihe erhält ein KI-Netzwerk namens Skynet immer umfassenderen Zugriff auf militärische Systeme, bis es ein eigenes Bewusstsein entwickelt und entscheidet, dass die Zeit der Menschheit abgelaufen ist.
Cameron glaubt nicht, dass KI jemals ein Publikum so „bewegen“ könnte wie ein Mensch, da sie „lediglich wiedergibt, was andere verkörperte Geister gesagt haben – über ihr gelebtes Leben, über Liebe, über Lügen, über Angst, über die Sterblichkeit“. Aber vielleicht wird uns am Ende gerade das mangelnde Verständnis der KI für die menschliche Existenz zum Verhängnis.