Unternehmensweite KI-Agenten stoßen auf ein Infrastrukturproblem. Mehr als vier von fünf Unternehmen geben an, dass ihre Systeme Upgrades benötigen, um produktionsreife agentische KI zu unterstützen. Das geht aus einer Umfrage von Google Cloud unter 1.402 globalen IT-Führungskräften hervor.
Google Cloud veröffentlichte die Ergebnisse am 8. Juli, während Unternehmen ihre Agenten über kontrollierte Pilotprojekte hinaus einsetzen. Der Bericht verweist auf steigende Inferenzkosten, operative Komplexität, Governance-Anforderungen und Beschränkungen bei der Stromversorgung, da Agenten mehrstufige Aufgaben über verschiedene Unternehmenssysteme hinweg übernehmen.
Agentische KI belastet mehr als nur die Rechenkapazität
Die Zahl von 83 % umfasst ein breiteres Anforderungsspektrum als nur die Kapazität von Beschleunigern. In seinem Infrastrukturbericht 2026, erklärte Google, dass 52 % der Befragten hybride Multicloud-Architekturen nutzen, während 48 % Infrastruktur mit strengen Anforderungen an die Datenresidenz priorisieren.
Agentische Anwendungen können wiederholt Modellaufrufe durchführen, Datenbanken abfragen, externe Tools nutzen und mit anderen Agenten koordinieren. Für solche Workflows müssen Systeme den Kontext bewahren und Aktivitäten über mehrere Schritte hinweg verwalten.
Auch Edge-Deployments finden zunehmend Eingang in die KI-Pläne von Unternehmen. 90 % der Befragten bezeichneten sie als wichtig für ihre Initiativen, darunter 72 %, die sie als äußerst oder sehr wichtig bewerteten.
Die Kosten gehen über die Rechenkapazität hinaus. 62 % berichteten von einer laut Google erheblichen „Inferenzsteuer“, die Datenexportgebühren, überschüssigen Speicher und ungenutzte spezialisierte Hardware umfasst. Weitere 81 % nannten die operative Komplexität als versteckte Skalierungskosten.
Sicherheit und Governance bleiben große Hindernisse. 79 % nannten Sicherheit, Governance und den Betrieb von Machine-Learning-Systemen als ihre größte Herausforderung.
Auch der Energiebedarf beeinflusst Hardwareentscheidungen. 91 % gaben an, den Stromverbrauch bei der Auswahl von Hardware zu berücksichtigen, und 61 % bewerteten ihn als primären oder erheblichen Faktor. Das geplante Fife-AI-Rechenzentrumzeigt, wie Netzkapazität und Genehmigungen die Standorte neuer KI-Infrastruktur bestimmen können.
Produktionsreife erfordert neue Kontrollmechanismen
Infrastrukturteams müssen klären, wie Agenten ihren Zustand bewahren, sich von Ausfällen erholen und bei lang laufenden Workflows den Kontext aufrechterhalten. Für Demonstrationen konzipierte Systeme verfügen möglicherweise nicht über die Überwachung und Persistenz, die für aktive Geschäftsanwendungen erforderlich sind.
Governance-Prüfungen sollten Agentenidentitäten, Berechtigungen, Genehmigungspflichten und Auditprotokolle abdecken. Agenten, die E-Mails lesen, Datenbanken abfragen oder Datensätze ändern können, sollten für jede Aufgabe nur die erforderlichen Zugriffsrechte erhalten. Das Aufkommen von agentischer Ransomware, die mehrstufige Angriffe ausführen kannerhöht die Dringlichkeit eng begrenzter Zugangsdaten und einer kontinuierlichen Überwachung.
Die Platzierung von Workloads hängt außerdem von Anforderungen an Latenz, Ausfallsicherheit, Sicherheit und Datenresidenz ab. Einige Anwendungen müssen möglicherweise lokal, am Edge oder innerhalb bestimmter Cloud-Regionen betrieben werden.
Google erklärte in seinem Berichtsüberblick, dass 78 % der Befragten generative KI-Produkte inzwischen über ihren primären Cloud-Anbieter beziehen – 30 Prozentpunkte mehr als 2025. Eine Konsolidierung kann Beschaffung und Governance vereinfachen, aber auch die Abhängigkeit von den Modellen, Datendiensten und Orchestrierungs-Tools eines einzelnen Anbieters erhöhen. Anthropics 19-Milliarden-US-Dollar-Deal mit TeraWulfzeigt, wie KI-Unternehmen sich auch außerhalb herkömmlicher Cloud-Vereinbarungen dedizierte Rechen- und Stromkapazitäten sichern.
Google empfiehlt flexible Rechenressourcen, eine zentrale Governance für Agenten, einen einheitlichen Datenzugriff sowie Unterstützung für hybride und Edge-Deployments. Diese Empfehlungen entsprechen den von Google Cloud verkauften Produkten. Unternehmen sollten daher konkurrierende Architekturen hinsichtlich Portabilität, Kosten und Abhängigkeit von Anbietern vergleichen.
Die Überführung von Agenten in den Produktivbetrieb erfordert von Unternehmen, Governance-Regeln festzulegen, Ausfälle einzuplanen, den Ort der Datenverarbeitung zu kontrollieren und zu klären, ob sich wiederkehrende Infrastrukturkosten rechtfertigen lassen.
Mehr dazu: Ein hitzebedingter Ausfall des Cambridge-Supercomputerszeigt, warum Kühlung und Ausfallsicherheit in die Planung von KI-Infrastruktur gehören.