Forschende haben einen KI-gestützten Wurm demonstriert, der seinen Angriff in Echtzeit anpassen kann – ein eindrückliches Beispiel dafür, wie stark KI die Bedrohungslage in der Cybersicherheit verändern könnte.
In einem kontrollierten Experiment entwickelten Forschende der University of Toronto einen Wurm-Prototyp, der KI-Modelle nutzt, um jedes von ihm infizierte System zu analysieren und zu entscheiden, welche Schwachstellen als Nächstes ausgenutzt werden sollen. Dadurch kann er sich über festgelegte Angriffspfade hinausbewegen und seine Angriffsmethoden auf das jeweils angetroffene Ziel zuschneiden.
Diese Anpassungsfähigkeit verleiht ihm eine Persistenz, die herkömmlichen Würmern fehlt, da er sich auch dann weiterverbreiten kann, wenn bestimmte Schwachstellen bereits geschlossen wurden. Außerdem kann er in heterogenen Umgebungen agieren, kompromittierte Rechner zu seiner eigenen Unterstützung nutzen und dabei seine Abhängigkeit von Angreiferinfrastruktur.
Ein von KI angetriebener Ausreißer unter den Schadprogrammen
Der Einsatz von KI im Sicherheitssektor ist nicht neu. Die Anwendungsmöglichkeiten reichen von der automatisierten Erkennung von Schwachstellen und Betrug bis hin zur Bedrohungsprognose und Reaktion auf Sicherheitsvorfälle. In einigen Fällen haben auch böswillige Akteure KI-Modelle bei der Entwicklung von Schadsoftware eingesetzt.
Was diese jüngste Entwicklung auszeichnet, ist die Weiterentwicklung dieser Rolle. Statt lediglich die Entwicklung zu unterstützen, ist die KI in diesem Fall in den Betrieb der Schadsoftware eingebettet und steuert deren Verhalten. Das Ergebnis ist ein Wurm, der wie ein autonomes System agiert.
Anders als viele herkömmliche Würmer wurde der Prototyp dafür entwickelt, in mehreren Umgebungen zu agieren und auf einen anderen Angriffspfad auszuweichen, sobald einer nicht mehr verfügbar ist. Der Forschungsberichtmerkt an, dass der Wurm unter Linux, Windows und auf IoT-Geräten ausgeführt werden kann.
Und anders als man vielleicht erwarten würde, wurde er mit quelloffenen KI-Modellen und nicht mit eingeschränkten Modellen entwickelt.
Außerdem gibt das Team an, dass der Wurm auf die Rechenressourcen seines Ziels zurückgreift. Das verändert die Ausgangslage grundlegend, denn „Hacker mussten sich typischerweise auf die besonders lukrativen Ziele konzentrieren, weil Zeit und Rechenressourcen begrenzt waren.“
Die zunehmende Verbreitung von Geräten, die KI direkt auf dem Gerät ausführen können, senkt die Kosten für den Start solcher Würmer jedoch effektiv „auf nahezu null“, sagte Nicolas Papernot, der leitende Wissenschaftler.
Forschende schlagen Sicherheitsalarm
Auch wenn der Prototyp die große Geschichte hinter diesem Bericht ist, sagen die Forschenden, dass die eigentliche Erkenntnis darin liegt, was er für die Zukunft von Cyberbedrohungen signalisiert. Indem der Prototyp demonstriert, wie KI direkt in den Entscheidungsprozess eines Wurms eingebettet werden kann, zeigt er, wie Angriffe autonomer und schwerer vorhersehbar werden könnten.
Auch wenn seine Fähigkeit derzeit auf die Ausnutzung bereits bekannter Schwachstellen, bleibt das Risiko, das von solcher Schadsoftware ausgeht, erheblich.
Deshalb teilte das Team seine Erkenntnisse, um „Forschende, Branchenführer und politische Entscheidungsträger zum Handeln zu bewegen – und zwar schnell.“
Um zu verhindern, dass diese Entwicklung von Hackern missbraucht wird, stellten die Forschenden fest, dass sowohl staatliche als auch wissenschaftliche Einrichtungen vor der Veröffentlichung der Erkenntnisse konsultiert worden waren. Außerdem verschwiegen sie die Identität der verwendeten quelloffenen Modelle sowie weitere wichtige Informationen, die zur Reproduktion des Wurms hätten genutzt werden können.
Ebenfalls lesenswert: OpenAI is giving EU defenders access to GPT-5.5-Cyber für autorisierte Sicherheitsarbeiten wie die Identifizierung von Schwachstellen, die Analyse von Schadsoftware und die Validierung von Patches.