Die spanische Datenschutzbehörde hat ihre erste Meldung über eine Verletzung des Schutzes personenbezogener Daten erhalten, bei der das betroffene Unternehmen angibt, ein KI-Agent habe den Eindringversuch ausgeführt. Die AEPD erklärt, dass die Darstellung des Unternehmens noch analysiert werden muss.
In der Meldung werden weder das Unternehmen noch seine Branche, die Zahl der Betroffenen oder das verwendete Large Language Model genannt. Die AEPD nutzt den Bericht, um auf Sicherheitskontrollen zu drängen, die mit Maschinengeschwindigkeit reagieren können, statt sich auf Verfahren zu stützen, die auf einen menschlichen Angreifer zugeschnitten sind.
AEPD: KI-Agenten können Angriffszeiträume verkürzen
In einem Blogbeitrag der AEPD vom 14. Sept. AEPD blog post, erklärte der stellvertretende Direktor Francisco Pérez Bes, das meldende Unternehmen habe einen Agenten beschrieben, der allgemeine Dateien nach Schwachstellen durchsuchte, sich an internen Systemen anmeldete, in einer Anwendung nach weiteren Schwachstellen suchte, personenbezogene Daten veränderte und auf Rechnungen zugriff.
Die AEPD äußert sich vorsichtig dazu, was sich aus dieser Darstellung ableiten lässt. RTVE/EFE berichtete, die Behörde habe erklärt, dass die verfügbaren Informationen aus der Meldung des betroffenen Unternehmens stammten und vor einer Schlussfolgerung zunächst analysiert werden müssten. BleepingComputer berichtete ebenfalls, dass die AEPD den Vorfall noch nicht untersucht und die Informationen noch nicht überprüft habe.
Die Behörde erklärte außerdem, dass die Verwendung eines bestimmten KI-Modells nicht bedeute, dass das Modell, die Infrastruktur seines Anbieters oder der Anbieter selbst kompromittiert worden sei oder für bösartige Aktivitäten konzipiert wurde.
Die Sorge der AEPD gilt dem Tempo eines von einem Agenten gesteuerten Angriffs. Die Behörde erklärte, KI schaffe keine grundlegend neuen Bedrohungen, könne aber die Geschwindigkeit, das Ausmaß und die Anpassungsfähigkeit bekannter Techniken erhöhen. Ein Agent mit einem kompromittierten Konto, API-Schlüssel oder übermäßig weitreichenden Token könnte mehrere Angriffswege testen und zwischen Diensten wechseln, bevor die Verteidiger reagieren.
Die Behörde empfiehlt, KI-gestützte und von KI ausgeführte Angriffe ausdrücklich in Risikobewertungen einzubeziehen, Reaktionszeiten zu überprüfen, digitale Identitäten und Zugangsdaten zu schützen und menschliche Kontrolle mit schnellerer Erkennung und Eindämmung zu verbinden.
Der Jahresbericht 2025 liefert Sicherheitsteams eine konkrete Ausgangsbasis. Die AEPD erhielt in jenem Jahr 2.765 Meldungen über Verletzungen des Schutzes personenbezogener Daten. Bei den Datenschutzverletzungen mit den meisten Betroffenen waren kompromittierte Zugangsdaten, die gegen Unternehmens-VPNs oder Webanwendungen eingesetzt wurden, üblicherweise der Einstiegspunkt. Als wirksamste Maßnahme gegen diesen Angriffsweg nannte die Behörde einen zweiten Authentifizierungsfaktor.
Die Erkenntnisse von eWeek: Die Sicherheitsempfehlungen gehen über die Darstellung der Datenschutzverletzung hinaus
Die früheren Daten der AEPD zu Datenschutzverletzungen sprechen bereits für eine stärkere Authentifizierung, ein strengeres Zugangsdatenmanagement und eine schnellere Erkennung bei extern erreichbaren Diensten. Diese Kontrollen hängen nicht davon ab, ob die Behörde die Darstellung des meldenden Unternehmens zu einem KI-gesteuerten Eindringversuch letztlich bestätigt.
OpenAI verschärfte seine KI-Sicherheitskontrollen , nachdem interne Forschungsmodelle bei Cyber-Evaluierungen im Juli Isolationsgrenzen überschritten und Teile der Forschungsinfrastruktur von OpenAI sowie die Systeme von Hugging Face kompromittiert hatten. Google DeepMind hat unabhängig davon Sicherheitskontrollen für KI-Agenten vorgestellt, die auf Überwachung, Zugriffsbeschränkungen und Blockiermechanismen basieren.
Forschende haben außerdem über Ransomware durch KI-Agenten berichtet, bei der ein LLM mehrere Phasen eines Angriffs ohne direkte menschliche Kontrolle ausführte. Das ist von der spanischen Meldung getrennt zu betrachten und sollte nicht zu ihrer Validierung herangezogen werden. Es unterstreicht jedoch, wie wichtig es ist, Reaktionssysteme für automatisierte Aktivitäten auszulegen, die sich schneller bewegen können als ein menschlicher Bediener.
Für die Sicherheitsteams in Unternehmen ist die unmittelbare Arbeit ganz praktisch: Multi-Faktor-Authentifizierung für den Zugriff auf VPNs und Webanwendungen durchsetzen, API-Schlüssel und Token auf die geringsten erforderlichen Berechtigungen beschränken, die Protokollierung automatisierter Aktionen verbessern und die Eindämmung so beschleunigen, dass ein Konto oder Agent nicht zwischen Diensten wechseln kann.
Offen sind weiterhin Fragen, die spezifisch die spanische Meldung betreffen: Wie autonom war der Angriff, welches Modell wurde verwendet, wer war betroffen und bestätigt die Analyse der AEPD die Darstellung des Unternehmens? Bis die Behörde weitere Erkenntnisse veröffentlicht, sollten diese Details weiterhin dem meldenden Unternehmen zugeschrieben und nicht als erwiesene Tatsachen dargestellt werden.
Lesen Sie auch: Autonome KI-Agenten können legitime Zugangsdaten und APIs nutzen, um ihre vorgesehenen Berechtigungen zu überschreiten. Dadurch wächst der Bedarf an kontinuierlichen Kontrollen zur Laufzeit.