Australien warnt: KI-Agenten könnten veraltete Technologien ausnutzen – Cyberchefin fordert Frühwarnsystem

Australiens veraltete Technologie könnte einer sehr modernen Bedrohung ausgesetzt sein: KI-Agenten, die Schwachstellen mit einer Geschwindigkeit finden können, die die Reaktionszeit der Verteidiger drastisch verkürzt.

Australian Signals Directorate Director-General Abigail Bradshaw warnte diese Woche, dass künstliche Intelligenz Australiens Cyberbedrohungslandschaft verändert und Angreifern möglicherweise neue Wege eröffnet, Schwachstellen in veralteten Systemen aufzuspüren und auszunutzen. Sie forderte Australien auf, ein KI-„Frühwarnsystem“ zu entwickeln, das Organisationen dabei helfen könnte, neu entstehende Risiken zu erkennen, bevor sie sich ausbreiten.

Die Sorge geht über Australien hinaus. Da autonome KI-Systeme immer besser darin werden, sich in Netzwerken zu bewegen, Code zu schreiben und mehrstufige Aufgaben zu erledigen, könnten dieselben Fähigkeiten, von denen sich Unternehmen eine höhere Produktivität ihrer Beschäftigten versprechen, auch Cyberangriffe schneller und leichter skalierbar machen.

Australiens alte Technologie trifft auf eine neue Art von Angreifer

Bei einer Veranstaltung des Australian Strategic Policy Institute, der Sydney Dialogue AI Masterclass, warnte Bradshaw vor den Sicherheitsauswirkungen zunehmend leistungsfähiger KI-Systeme.

Laut ABC Newsforderte sie australische Organisationen auf, KI als defensives Werkzeug einzusetzen, während Regierung, Wirtschaft und KI-Unternehmen ihre Zusammenarbeit beim Austausch von Informationen über neu entstehende Risiken verbessern.

Bradshaw nannte ein eindrucksvolles Beispiel für den möglichen Geschwindigkeitsvorteil von KI. Aufgaben, für die Experten für Cybersicherheit beim ASD bisher „Wochen und Wochen“ gebraucht hätten, könnten nun mithilfe fortschrittlicher KI-Modelle innerhalb von Stunden erledigt werden, sagte sie.

Ein Teil des Problems liegt in der Technologie, die bereits in australischen Organisationen im Einsatz ist.

Bradshaw warnte, dass veraltete Systeme weiterhin gefährdet seien, da KI die Geschwindigkeit erhöht, mit der Schwachstellen entdeckt werden können. The Guardianberichtete, dass sie davon ausgeht, dass Legacy-Technologie bei einem großen KI-gestützten Angriff wahrscheinlich zu den ersten kompromittierten Systemen gehören würde, falls Organisationen nicht schnell genug modernisieren.

Diese Sorge baut auf einem bereits bestehenden Technologieproblem des Landes auf. eWeek hatte zuvor untersucht, wie 58 % der von IDC und MongoDB befragten australischen Unternehmen ihre Technologiearchitektur als zu starr, kostspielig und langsam bezeichneten, um die von ihnen entwickelten KI-Systeme zu unterstützen.

Das führt zu einem unangenehmen Missverhältnis. Organisationen führen möglicherweise immer ausgefeiltere KI ein, während ein Teil der zugrunde liegenden Infrastruktur für eine deutlich langsamere Bedrohungslandschaft konzipiert wurde.

Australien investiert außerdem massiv in die für eine KI-getriebene Wirtschaft erforderliche Infrastruktur. eWeek hat kürzlich untersuchtwie Australiens Boom bei KI-Rechenzentren, und festgestellt, dass Milliarden US-Dollar in neue Rechenkapazitäten fließen, während das Land versucht, sich als regionales KI-Zentrum zu positionieren.

Mehr Rechenleistung bedeutet jedoch auch mehr Infrastruktur, die geschützt werden muss.

Warum KI-Agenten die Gleichung der Cybersicherheit verändern

Generative KI hat es bereits leichter gemacht, überzeugende Phishing-Nachrichten zu erstellen, Code zu analysieren und Teile eines Angriffs zu automatisieren. KI-Agenten könnten diesen Trend noch verstärken, weil sie darauf ausgelegt sind, Aktionen auszuführen und Aufgabenfolgen mit weniger menschlichem Eingreifen abzuschließen.

Ein Agent, der beispielsweise mit dem Auffinden einer Schwachstelle beauftragt wurde, könnte theoretisch Systeme untersuchen, mögliche Schwächen testen, sein Vorgehen anpassen und weiter auf ein Ziel hinarbeiten.

Es gibt bereits Anzeichen dafür, dass sich Cyberangriffe in diese Richtung entwickeln. eWeek berichteteim Juli über den nach Angaben von Forschern ersten bekannten „agentischen Ransomware“-Angriff, bei dem ein KI-System eingesetzt wurde, um mehrere Phasen eines Ransomware-Angriffs zu automatisieren.

Das bedeutet nicht, dass autonome KI-Agenten einfach in jedes System eindringen können. Ihre Fähigkeiten bleiben durch die ihnen zur Verfügung stehenden Modelle, Werkzeuge, Berechtigungen und Umgebungen eingeschränkt, und Bradshaws Warnung bezieht sich auf die Entwicklung der Bedrohung – nicht auf Belege dafür, dass autonome Agenten bereits in großem Maßstab in Australiens Infrastruktur eindringen.

Doch die Entwicklung ist entscheidend.

Bradshaw sagte, die Fähigkeit von KI, Schwachstellen schnell zu erkennen, könnte Organisationen dazu zwingen, selbst grundlegende Sicherheitspraktiken zu überdenken. Statt vorhersehbaren Patch-Zeitplänen zu folgen, müssten einige Schwachstellen möglicherweise innerhalb von 48 Stunden behoben werden, da Organisationen der Sicherheit zunehmend Vorrang vor der unterbrechungsfreien Verfügbarkeit von Systemen einräumen.

Australien will KI gegen KI einsetzen

Bradshaws vorgeschlagene Antwort besteht nicht darin, künstliche Intelligenz von der Cybersicherheit fernzuhalten. Vielmehr soll mehr KI zur Verteidigung eingesetzt werden.

Sie sagte, Australien fehle derzeit ein formalisiertes KI-Pendant zu den Frühwarnmechanismen, die in der Cybersicherheit bereits eingesetzt werden. Das Zusammenführen von Berichten über einzelne KI-Vorfälle könnte Nachrichtendiensten, Unternehmen und KI-Firmen helfen, übergreifende Muster und neu entstehende Risiken zu erkennen.

Bradshaw verwies außerdem auf bestehende Partnerschaften zwischen Regierung und Wirtschaft sowie auf internationale Vereinbarungen zum schnellen Austausch technischer Informationen – Modelle, auf denen Australien aufbauen könnte.

Das Konzept spiegelt einen umfassenderen Wandel in der Cybersicherheit wider. Wenn Angreifer KI nutzen können, um Aufklärung und das Auffinden von Schwachstellen zu beschleunigen, werden Verteidiger zunehmend Fähigkeiten benötigen, die mit vergleichbarer Geschwindigkeit arbeiten können.

Dadurch wird der Informationsaustausch besonders wichtig. Eine bei einer Organisation entdeckte Schwachstelle könnte für viele andere relevant sein, sodass eine frühzeitige Erkennung und schnelle Kommunikation an Bedeutung gewinnen, während KI die Reaktionszeiten verkürzt.

Für Australien ist die Herausforderung besonders groß. Das Land versucht gleichzeitig, die Einführung von KI zu beschleunigen, seine Recheninfrastruktur auszubauen und Technologieumgebungen zu modernisieren, die nicht für autonome KI-Systeme konzipiert wurden.

Die Erkenntnisse von eWeek: Bei Australiens KI-Warnung geht es in Wirklichkeit um Geschwindigkeit

Bradshaws Warnung deutet auf ein größeres Problem hin als auf eine einzelne KI-gestützte Hacking-Technik.

• Aus der Sicherheitslücke könnte eine Geschwindigkeitslücke werden. Veraltete Systeme haben schon immer Schwachstellen geschaffen, doch KI könnte die für das Auffinden dieser Schwächen erforderliche Zeit drastisch verkürzen. Bradshaws Beispiel – von Wochen zu Stunden – zeigt, wie groß dieser Wandel werden könnte.
• KI-basierte Verteidigung könnte weniger optional werden. Bradshaw forderte australische Organisationen ausdrücklich auf, KI zur Verteidigung einzusetzen. Sie argumentierte, dass Verteidiger Fähigkeiten benötigen, die mit denen vergleichbar sind, die Cyberkriminellen und staatlich unterstützten Angreifern zur Verfügung stehen.
• Die Modernisierung alter Systeme wird zu einer KI-Frage. Australiens Bestreben, neue KI-Infrastruktur aufzubauen, lässt sich nicht von der Technologie trennen, die bereits in Unternehmen und Behörden läuft. Neue Rechenkapazitäten beseitigen keine Schwachstellen in älteren Systemen.
• Verfügbarkeit könnte zu einem Sicherheits-Trade-off werden. Bradshaw warnte, dass die schnellere Entdeckung von Schwachstellen Organisationen dazu zwingen könnte, Systeme deutlich schneller zu patchen – möglicherweise indem sie Dienste offline nehmen, deren ständige Verfügbarkeit für Australier selbstverständlich geworden ist.
• Australien könnte zu einem wichtigen Testfall werden. Das Land baut gleichzeitig seine KI-Fähigkeiten aus und setzt sich mit den Sicherheitsfolgen dieser Expansion auseinander. Wie erfolgreich es staatliche Nachrichtendienste, die Verteidigung des Privatsektors, KI-Unternehmen und den schnellen Informationsaustausch miteinander verknüpft, könnte Erkenntnisse liefern, die weit über Australien hinaus relevant sind.

Beim KI-Wettrennen geht es um mehr als den Wettbewerb um die Entwicklung intelligenterer Modelle und größerer Rechenzentren. Es wird auch zu einem Wettlauf zwischen Angreifern und Verteidigern darum, wer diese Fähigkeiten schneller einsetzen kann.

Weiterführende Lektüre: Wenn Sie einen weiteren Blick darauf werfen möchten, wie KI Cyberbedrohungen verändert, lesen Sie die Warnung der Federal Reserve, dass Frontier-KI Schwachstellen finden und Exploits mit Maschinengeschwindigkeit miteinander verketten könnte.