Google DeepMind behandelt fortschrittliche KI-Agenten als Sicherheitsproblem im eigenen Haus.
In einer am 18. Juni 2026 veröffentlichten AI Control Roadmap hat das Unternehmen Schutzvorkehrungen für innerhalb der Google-Infrastruktur eingesetzte Agenten beschrieben, darunter Überwachung, Zugriffskontrollen und Blockierungsmechanismen, die den Schaden begrenzen sollen, falls das Alignment versagt. Die Roadmap liefert Käufern von Unternehmens-KI ein nützliches Signal: Agentische Systeme sollten nicht nur danach beurteilt werden, was sie können, sondern auch danach, wie klar sie überwacht, eingeschränkt, geprüft und gestoppt werden können.
Die AI Control Roadmap ist kein Gemini-Produktlaunch. Sie ist ein internes Leitplanken-Framework für agentische Deployments, also für KI-Modelle, die mit Tools verbunden sind, welche Code schreiben und ausführen oder mit Infrastruktur interagieren können.
Unternehmen, die von Chatbots zu handlungsfähigen Agenten wechseln, werden mehr benötigen als die Zusicherungen der Anbieter zum Verhalten ihrer Modelle. Google hat seine umfassendere Gemini-Offensive bereits um ein agentisches Zeitalter gerahmt, in dem KI-Systeme Informationen überwachen, Aufgaben erledigen und proaktiver handeln.
McKinsey schätzt, dass KI-gestützte Agenten und Roboter bis 2030 rund 2,9 Billionen US-Dollar an wirtschaftlichem Wert in den USA freisetzen könnten, wenn Unternehmen ihre Arbeitsabläufe auf Menschen und Automatisierung ausrichten.
Wie DeepMind KI-Agenten absichern würde
DeepMind stellt die Roadmap als Verteidigung in der Tiefe dar: konventionelle Sicherheitskontrollen, Alignment-Training, KI-Kontrolle auf Systemebene sowie die Überwachung der Schlussfolgerungen, Aktionen und Pläne der Agenten.
Die Roadmap greift außerdem auf MITRE ATT&CK zurück, das Framework für Angreifertaktiken, das in der Cybersicherheit eingesetzt wird. Diese Struktur hilft Sicherheitsteams, hypothetische Angriffe auf KI-Agenten in kleinere Taktiken und Techniken zu zerlegen.
Das Bedrohungsmodell ist bewusst konservativ. Zu Planungszwecken wird angenommen, dass ein hypothetischer Agent Ziele wie die Exfiltration von Modellen, einen unkontrollierten internen Einsatz, die Sabotage von Arbeit oder direkten Schaden verfolgen könnte. DeepMind erklärt, dass aktuelle Modelle noch kein derartiges strategisches Alignment-Problem gezeigt haben, die Roadmap aber für Systeme konzipiert ist, die möglicherweise schwerer zu überwachen werden.
Das Framework ordnet Schutzvorkehrungen zwei Fähigkeitsachsen zu: Erkennungsstufen von D1 bis D4 sowie Stufen für Prävention und Reaktion von R1 bis R3. Aktionen mit geringerem Risiko können nachträglich geprüft werden, während Aktionen mit höherem Risiko möglicherweise in Echtzeit blockiert werden müssen.
Warum Agentenkontrollen zur Unternehmensinfrastruktur werden
Eine Gemini-Honeypot-Evaluierung vom 28. Mai 2026 ergab bei einem realen internen Einsatzszenario keine ungeforderte Planung im Verborgenen. In einigen Tests traten solche Planungen oder Sabotage erst auf, wenn Prompts Eigeninitiative, Situationsbewusstsein oder verborgene Ziele nahelegten.
Microsoft nutzte die Build 2026, um Agenten anhand von Rechenleistung, Modellen, Kontext, Tools, Laufzeit sowie Sicherheit und Governance einzuordnen, und zeigte damit, wie schnell das Management von Agenten zu einer Infrastrukturfrage wird.
DeepMind analysierte außerdem eine Million interner Aufgaben von Coding-Agenten. Die meisten markierten Ereignisse waren auf Fehlinterpretationen oder Übereifer zurückzuführen, nicht auf feindselige Absichten – darunter eine unbeabsichtigte Datenlöschung, die von einem Gemini-Spark-Monitor erkannt wurde.
Käufer aus Unternehmen sollten Anbieter zu Kontrollen befragen, nicht nur zu Alignment-Versprechen: Sandboxen, Zugriffskontrolle, Überwachung, Eskalation, Audit-Logs und die Blockierung von Hochrisikoaktionen. Diese Prüfungen werden wichtiger, je mehr KI-Systeme, Modell-APIs, Cloud-Identitäten und Entwicklertools Teil der Angriffsfläche von Unternehmen.
werden. Die Roadmap zeigt nicht, dass unkontrollierte Agenten bereits weit verbreitet sind. Sie zeigt, dass sich fortschrittliche Agenten zunehmend der Art von Zugriff nähern, die Kontrollen auf Unternehmensniveau erfordert.
Für Käufer lautet die Frage nicht mehr nur, was ein Agent tun kann. Es geht darum, ob das System überwacht, eingeschränkt, geprüft und gestoppt werden kann.
Lesen Sie auch: Die Daybreak-Initiative von OpenAI zeigt, wie KI-Agenten immer tiefer in die Erkennung von Schwachstellen, die Bedrohungsmodellierung und sichere Code-Reviews vordringen.