Die Europäische Kommission will fortschrittliche KI-Modelle vor ihrer Markteinführung in der EU einer genaueren Prüfung unterziehen, da die Technologie sowohl die Entdeckung von Schwachstellen als auch Cyberangriffe beschleunigt. Die Initiative rückt Modellfähigkeiten, Abhängigkeiten von Lieferanten und KI-gestützte Bedrohungen näher an etablierte Programme für Unternehmensrisiken heran.
Der am 7. Juli veröffentlichte Aktionsplan für Cybersicherheit und künstliche Intelligenz ist ein politischer Fahrplan und keine neue Compliance-Regelung. Er sieht Kapazitäten zur Modellbewertung in der EU, kontrollierte Tests für kritische Sektoren und stärkere Abwehrmaßnahmen gegen Angriffe vor, die schneller voranschreiten können als bestehende Prozesse zur Bereitstellung von Sicherheitsupdates.
Der EU-Aktionsplan für Cybersicherheit und KI unterstützt den sicheren Einsatz von KI, die Cyberresilienz und die europäischen Cybersicherheitskapazitäten. Er ergänzt den AI Act, NIS2, den Cyber Resilience Act, den Digital Operational Resilience Act und den Cyber Solidarity Act, ohne sie zu ändern.
Unternehmen könnten dennoch stärker unter Druck geraten, zu dokumentieren, was ein KI-Modell leisten kann, wie es getestet wurde und auf welche Systeme es zugreifen kann. Beschaffungs- und Sicherheitsprüfungen könnten über herkömmliche Zertifizierungen hinaus ausgeweitet werden und das Modellverhalten, Softwareabhängigkeiten und Kontrollen bei Anbietern abdecken.
Brüssel baut einen Rahmen für Modelltests auf
Die Kommission plant, Europas Fähigkeit zur Bewertung fortschrittlicher Modelle vor der Markteinführung auszubauen. Ihr Leitfaden zur Umsetzung des AI Act zufolge soll eine Prüfkapazität durch Dritte 2027 einsatzbereit sein und das Europäische KI-Amt unterstützen.
Die Kommission hat nicht festgelegt, welche Modelle bewertet werden, welche Benchmarks gelten oder ob Betreiber aus der Wirtschaft daran beteiligt sein werden.
Die Kommission und ENISA werden außerdem einen Blueprint für sicheren Zugriff und eine Testplattform für Organisationen in den Bereichen Energie, Verkehr, Gesundheit, Finanzen und öffentliche Verwaltung entwickeln. Die Arbeiten stehen im Einklang mit den Bemühungen der Industrie, zunächst Sicherheitskontrollen für autonome KI-Agentenzu etablieren, bevor diese umfassenderen Zugriff auf die Infrastruktur von Unternehmen erhalten.
Der Plan fördert den angemessenen Einsatz von KI und Open-Source-Modellen zur Erkennung von Schwachstellen und zur Reaktion auf Sicherheitsvorfälle. Anthropic berichtete, dass sein Forschungssystem Mythos 23.019 potenzielle Schwachstellenbefundeerzeugt habe – ein Beispiel dafür, wie eine schnellere Entdeckung größere Warteschlangen bei Validierung und Bereitstellung von Sicherheitsupdates schaffen kann.
Nach dem AI Act müssen Anbieter von KI-Modellen für allgemeine Zwecke mit systemischem Risiko diese Risiken bewerten und mindern. Der Cybersicherheitsplan würde diesen Rahmen um eine Testinfrastruktur ergänzen.
Bankenregeln zeigen die Auswirkungen auf Unternehmen
Die politische Ausrichtung hat im Finanzsektor bereits zu einer konkreten Vorgabe geführt. In einem Schreiben vom 7. Juli wies die Europäische Zentralbank bedeutende Instituteunter ihrer direkten Aufsicht an, bis zum 31. Oktober 2026 Aktionspläne für KI-Cybersicherheit einzureichen.
Banken müssen Governance, Ressourcen, Zeitpläne für die Umsetzung, das Schwachstellenmanagement und die Abhängigkeit von Drittanbietern berücksichtigen. Die EZB forderte die Leitungsorgane außerdem auf zu bewerten, ob Personal, Budgets und Kontrollen eine schnellere Bereitstellung von Sicherheitsupdates und eine KI-gestützte Abwehr unterstützen können.
Anbieter bringen fortschrittliche Modelle bereits in Sicherheitsabläufe von Unternehmen. IBM zufolge kann sein von OpenAI betriebenes Angebot ausnutzbare Softwareschwachstellen identifizieren und validierenund dabei auf schreibgeschützten Repository-Zugriff und eine begrenzte Ausführung zurückgreifen.
Die Frist der EZB gilt außerhalb des beaufsichtigten Bankensektors nicht, doch ihre Anforderungen bieten ein praktisches Governance-Modell. Organisationen können KI-Anbieter erfassen, den Modellzugriff auf Systeme und Daten dokumentieren sowie verfügbare Bewertungen, Red-Team-Ergebnisse und Verfahren für Sicherheitsvorfälle anfordern.
Verträge müssen möglicherweise auch die Zuständigkeiten für die Meldung von Schwachstellen, Modelländerungen und das Einspielen von Sicherheitsupdates über Cloud-, Software- und Open-Source-Abhängigkeiten hinweg klarer regeln. Die Kommission hat keine universellen Anforderungen an Nachweise festgelegt, doch einige EU-Aufsichtsbehörden erwarten bereits, dass KI-bezogene Cyberbedrohungen zu finanziell abgesicherten Plänen, klar zugewiesenen Verantwortlichkeiten und messbaren Kontrollen führen.
Mehr dazu: Die Cybersicherheitsinitiative ist Teil einer umfassenderen EU-Umsetzung, zu der auch ein Fahrplan zur Kennzeichnung KI-generierter Inhalteim Rahmen des AI Act gehört.