KI in Unternehmen wandert schneller von Pilotprojekten in den Produktivbetrieb, als viele Unternehmen sie absichern können.
Ein am 7. Juli 2026 veröffentlichter Bericht von DigiCert ergab, dass 78 % der befragten Organisationen KI-bezogene Vorfälle erlebt oder KI-bezogene Schwachstellen identifiziert hatten. Da die Ergebnisse auf Selbstauskünften beruhen, sollten sie als Momentaufnahme der Sicherheitserfahrungen in Unternehmen verstanden werden, nicht als unabhängig verifizierte Telemetriedaten zu Vorfällen.
Der Bericht, der auf einer im Mai 2026 durchgeführten Befragung von 1.001 IT- und Cybersicherheitsverantwortlichen in den Vereinigten Staaten, dem Vereinigten Königreich und Australien basiert, ergab, dass 75 % der Organisationen in den sechs Monaten vor der Befragung vier oder mehr KI-gestützte Systeme eingesetzt hatten. Fast der Hälfte fehlte laut dem DigiCert-Bericht.
eine zentrale Transparenz über KI-Systeme und -Aktivitäten. Damit verwalten CISOs, CIOs und Plattformverantwortliche bereits in Support, Softwareentwicklung, Sicherheitsbetrieb und internen Workflows eingebettete KI-Tools – ohne einheitliche Transparenz, Zuständigkeiten oder Reaktionsprozesse.
Sicherheitsrisiken erstrecken sich inzwischen auf Nutzer, Anwendungen und Infrastruktur
Separate Untersuchungen von Gartner liefern zusätzlichen Sicherheitskontext. In einer Befragung von 302 Cybersicherheitsverantwortlichen in Nordamerika, EMEA und im asiatisch-pazifischen Raum stellte Gartner fest, dass 62 % der Organisationen in den vorangegangenen 12 Monaten einen Deepfake-Angriff erlebt hatten, der Social Engineering oder die Ausnutzung automatisierter Prozesse beinhaltete, laut einer ITPro-Zusammenfassung der Ergebnisse.
Zu diesen auf Menschen ausgerichteten Risiken gehören Phishing, Identitätsvortäuschung, Stimmenklonen, synthetische Medien und Versuche, Mitarbeitende oder automatisierte Geschäftsprozesse zu manipulieren. Ältere Sensibilisierungsprogramme reichen für Angriffe möglicherweise nicht aus, die vertrauenswürdige Stimmen imitieren, Köder personalisieren oder KI zum Skalieren von Phishing über große Opfergruppen hinweg einsetzen.
Auch Anwendungs- und Infrastrukturteams sind eigenen Risiken ausgesetzt. Die Gartner-Befragung ergab, dass 32 % der Befragten Angriffe durch gegnerische Prompts erlebt hatten, während 29 % Angriffe auf die Infrastruktur von KI-Anwendungen erlebt hatten. Dadurch geraten Modellbereitstellungsumgebungen, APIs, Datenspeicher, Vektordatenbanken und Zugriffskontrollen in den Fokus der KI-Sicherheit.
KI-Kontrollen hinken der Nutzung im Produktivbetrieb hinterher
DigiCert stellte fest, dass 90 % der Organisationen auf Führungsebene oder im Vorstand über KI-Governance sprechen, aber nur etwa die Hälfte über formelle KI-Governance-Programme verfügt. Zudem gaben 47 % an, dass sie KI-Entscheidungen nicht vollständig auf die Modelle und Quelldaten zurückführen können, durch die sie entstanden sind.
Diese Lücke bei der Nachverfolgbarkeit wirkt sich auf Audits, Compliance-Prüfungen und die Reaktion auf Vorfälle aus. Wenn ein Modell sensible Daten offenlegt, eine fehlerhafte Empfehlung abgibt oder über einen automatisierten Workflow handelt, müssen Teams wissen, welches System beteiligt war, auf welche Daten es zugegriffen hat und wer für die Reaktion zuständig ist.
Dasselbe gilt für KI-Agenten und andere nicht menschliche Akteure, die Überwachung, Zugriffsbeschränkungen, Auditprotokolle und Mechanismen zum Anhalten benötigen, sobald sie Zugriff auf Unternehmenstools erhalten. Organisationen brauchen außerdem eine klare Möglichkeit, Vertrauen nach einer Kompromittierung zu widerrufen.
Für regulierte Branchen stellt sich zusätzlich die Herausforderung einheitlicher Standards. Am 7. April 2026 veröffentlichte NIST eine Konzeptnotiz für ein AI RMF Profile zu vertrauenswürdiger KI in kritischen Infrastrukturen, doch dieses Profil ist noch kein endgültiger Referenzpunkt.
Unternehmen brauchen kein separates KI-Sicherheitsuniversum. Sie müssen KI-Kontrollen in bestehende Programme integrieren: Transparenz über KI-Systeme und -Agenten, adversariale Tests für Anwendungen, die Rückverfolgbarkeit zu Modellen und Datenquellen sowie eine Planung der Reaktion auf Vorfälle bei autonomen Angriffs-Workflows.
Ohne Bestandsverzeichnisse, Zugriffskontrollen, Nachverfolgbarkeit und Reaktionspläne wird die Sorge auf Vorstandsebene nicht in belastbare KI-Sicherheit umgesetzt.
Mehr dazu: Forschende haben außerdem gezeigt, wie ein KI-Wurm seinen eigenen Angriffspfad wählen kann, was unterstreicht, warum Bedrohungsmodelle für Unternehmen autonomeres Malware-Verhalten berücksichtigen müssen.