Cisco integriert Anthropic's Claude Mythos in seine Plattform AI Defense und gibt Sicherheitsteams damit eine leistungsfähigere Möglichkeit, zu testen, ob Unternehmens-KI-Agenten dazu gebracht werden können, Daten preiszugeben, Tools missbräuchlich zu verwenden oder nicht autorisierte Aktionen auszuführen.
Die auf der Cisco Live APJC am 9. November angekündigte Integration nutzt Claude Mythos, um mehrstufige Angriffe zu entwickeln, die auf einzelne KI-Systeme zugeschnitten sind. Der Zugriff wird zunächst auf ausgewählte Unternehmen beschränkt, und Cisco hat noch keinen Termin für eine allgemeine Veröffentlichung angekündigt.
Der Ansatz zielt auf ein wachsendes Problem für Unternehmen, die autonome Agenten einsetzen: Sicherheitslücken, die entstehen, wenn KI-Systeme mit internen Anwendungen, APIs und sensiblen Informationen interagieren. Cisco zufolge kann das bestehende adaptive Red-Teaming-Framework diese Umgebungen testen, während Mythos die Grundlage für die Schlussfolgerungen hinter den simulierten Angriffen stärkt.
So funktioniert die Integration von Cisco Claude Mythos
Laut der Ankündigung von Cisco wird Claude Mythos das bestehende adaptive Red-Teaming-System von AI Defense ergänzen, statt es zu ersetzen.
Standardmäßiges Red Teaming prüft gängige Schwachstellen, darunter Prompt-Injection, Jailbreaks und die Offenlegung sensibler Daten. Beim adaptiven Testen wird eine bestimmte Anwendung untersucht, es werden auf Basis ihres Verhaltens Angriffe generiert und die Taktik abhängig von den Ergebnissen angepasst.
Claude Mythos ergänzt fortgeschrittenere, gegnerische Schlussfolgerungen, um kontextbezogene Angriffe mit mehreren Schritten oder verbundenen Tools zu entwickeln.
Cisco schränkt außerdem ein, wie Kunden das Modell verwenden können. In seiner technischen Erläuterung werden vier Schutzmaßnahmen genannt:
- Autorisierte Ziele: Tests werden ausschließlich gegen Systeme durchgeführt, die vom Kunden registriert und genehmigt wurden.
- Namentlich benannte Bediener: Jeder Einsatz ist mit einem authentifizierten Nutzer des Unternehmens verknüpft.
- Kontrollierte Ausführung: Die Tests folgen vordefinierten Zielen, finden innerhalb zeitlicher Grenzen statt und können beendet werden.
- Nachvollziehbarkeit: Aktionen werden zur Überprüfung aufgezeichnet, während Kunden Mythos nicht frei per Prompt anweisen oder beliebige Internetsysteme scannen können.
Diese Einschränkungen sind besonders relevant, weil Anthropic's Project Glasswing bereits gezeigt hat, dass das Modell schwierige Softwareschwachstellen aufdecken kann.
Die Herausforderung besteht darin, diese Fähigkeiten zur Abwehr einzusetzen, ohne Nutzern uneingeschränkten Zugriff auf ein fortgeschrittenes Cybersicherheitsmodell zu gewähren.
Was eWeek herausgefunden hat: Stärkere Tests, aber weiterhin wichtige Lücken
Die Ankündigung von Cisco vermittelt ein klareres Bild davon, wie Mythos kontrolliert werden soll, als davon, wie stark das Modell die Sicherheitsergebnisse verbessern wird.
Die Unterscheidung zwischen den bestehenden Fähigkeiten und der bevorstehenden Integration ist für Unternehmen wichtig, die AI Defense bewerten.
| Fähigkeit | Verfügbarkeit | Was Unternehmen wissen sollten |
|---|---|---|
| Standardmäßiges KI-Red Teaming | ✔ Verfügbar | Testet gängige KI-Schwachstellen |
| Adaptives KI-Red Teaming | ✔ Verfügbar | Entwickelt auf bestimmte Anwendungen zugeschnittene Angriffe |
| Integration von Claude Mythos | ✖ Demnächst verfügbar | Ergänzt fortgeschrittene Schlussfolgerungen für Angriffe; zunächst für ausgewählte Unternehmen |
| Unabhängige Ergebnisse zur Leistung von Mythos | ✖ Nicht veröffentlicht | Verbesserungen bei der Erkennung sind weiterhin nicht verifiziert |
| Termin für die allgemeine Verfügbarkeit | ✖ Nicht angekündigt | Ein breiterer Zugriff hängt von der Qualifizierung und den Entscheidungen zur Einführung ab |
Quelle: Ankündigung von Cisco vom 9. November und technischer Blog.
Für Sicherheitsteams sind drei Punkte besonders wichtig:
- Testen ist keine Prävention. Das Entdecken einer ausnutzbaren Schwachstelle behebt sie nicht automatisch. Unternehmen benötigen weiterhin Schutzmaßnahmen zur Laufzeit, eingeschränkte Berechtigungen für Agenten und Prozesse zur Behebung.
- Die Leistungsfähigkeit des Modells wird nicht anhand der Erkennungsgenauigkeit gemessen. Cisco hat keine Vergleichsergebnisse veröffentlicht, aus denen hervorgeht, wie viele zusätzliche Schwachstellen Mythos identifiziert, wie hoch die Falschpositivrate ist oder wie viel Zeit zur Validierung der Ergebnisse benötigt wird.
- Der eingeschränkte Zugriff begrenzt die unmittelbare Einführung. Bestehende AI-Defense-Kunden können standardmäßige und adaptive Tests nutzen, doch die Erweiterung durch Mythos ist noch nicht allgemein verfügbar.
Der Unterschied zwischen dem Auffinden und dem Beheben von Schwachstellen zeigt sich bereits in Anthropic's Mythos-Forschung, bei der eine große Zahl von KI-generierten Ergebnissen Herausforderungen bei der Überprüfung und beim Einspielen von Patches verursachte.
Cisco kündigte außerdem damit verbundene Verbesserungen an Splunk Agent Observability an. Tokenomics, das KI-Ausgaben mit Bewertungen der Ergebnisqualität verknüpft, geht im Dezember in eine private Vorschau; die allgemeine Verfügbarkeit im AWS Marketplace ist für Anfang 2027 geplant.
Für Unternehmen, die den Einsatz von Agenten mit Zugriff auf sensible Systeme vorbereiten, besteht die praktische Priorität weiterhin darin, realistische Angriffspfade zu testen, Berechtigungen zu begrenzen und vor dem Produktiveinsatz zu überprüfen, ob die Schutzmaßnahmen funktionieren. Claude Mythos könnte das Spektrum der von diesen Tests aufgedeckten Schwachstellen erweitern, doch erst Kundenergebnisse werden zeigen, wie groß die Verbesserung ist.
Auch lesenswert: Der Fall einer Bug-Bounty von 300.000 US-Dollar für einen KI-Agenten von Meta untersucht Authentifizierungsfehler, Prompt-Injection und die Offenlegung von Zugangsdaten bei einem anderen Einsatz von Unternehmens-KI.