Google Cloud tritt bei der KI-Infrastruktur direkter gegen Nvidia an.
Auf der Cloud Next 2026 stellte Google TPU 8t für das Training und TPU 8i für die Inferenz vor und teilte seine neuesten KI-Chips damit zwischen dem Erstellen großer Modelle und deren Einsatz in der Produktion auf.
Warum Google Training und Inferenz aufteilt
Laut Google Clouds Übersicht zur TPU der achten Generation, ist TPU 8t für das Training und TPU 8i für die Inferenz ausgelegt; beide laufen auf Googles Axion-Prozessoren auf Arm-Basis. Google zufolge spiegelt diese Aufteilung die zunehmende Kluft zwischen der Hardware wider, die zum Trainieren großer Modelle benötigt wird, und der Hardware, die für den effizienten Betrieb von KI-Diensten erforderlich ist, sobald diese Modelle eingesetzt werden.
Das Training großer Modelle hängt von Skalierung, hoher Rechendichte und schneller Kommunikation über große Cluster hinweg ab. Bei der Inferenz stehen dagegen Latenz, Speichernutzung, Energieeffizienz und die Kosten für die kontinuierliche Bearbeitung von Anfragen stärker im Vordergrund.
In seinem technischen Deep Dive zu TPU 8t und TPU 8i, erklärt Google, dass TPU 8i bei der Inferenz eine um bis zu 80 % höhere Leistung pro Dollar und die doppelte Leistung pro Watt gegenüber der vorherigen Generation bietet. Diese Zahlen stammen von Google und nicht aus unabhängigen Tests. Daher sollten sie so lange als Produktangaben verstanden werden, bis Kunden sie in realen Bereitstellungen messen können.
Google bündelt die Chips außerdem in einem umfassenderen System. Sein AI Hypercomputer vereint Rechenleistung, Netzwerk, Speicher und Software in einem verwalteten Stack. Damit kann Google Cloud Unternehmen besser ansprechen, die zunehmend für den laufenden Betrieb von KI-Tools ausgeben und nicht nur für deren Training.
Dieser Trend hin zu maßgeschneiderter Hardware zeigt sich auch anderswo im Markt, unter anderem bei Anthropics jüngster Expansion bei kundenspezifischen Chips mit Google und Broadcom sowie bei Intels jüngstem Vorstoß in Nvidias GPU-Terrain.
Was Googles TPU-Aufteilung für Nvidia bedeutet
Gleichzeitig arbeitet Google weiterhin mit Nvidia zusammen. In seinem Infrastruktur-Update zur GTC 2026, erklärte Google, dass es Nvidia-Vera-Rubin-Systeme vom Typ NVL72 in der zweiten Hälfte des Jahres 2026 anbieten will.
Googles Cloud-Strategie deckt nun beide Optionen ab: eigene TPUs für Kunden, die bereit sind, ihre Lösungen auf Googles Stack auszurichten, und Nvidia-Systeme für Kunden, die etablierte GPU-Tools und CUDA-basierte Workflows nutzen möchten.
Für Kunden dürfte die Entscheidung letztlich von der jeweiligen Arbeitslast und den Betriebskosten abhängen. Unternehmen, die Frontier-Modelle trainieren, legen möglicherweise den größten Wert auf Clustergröße und Auslastung. Unternehmen, die KI-Funktionen für eine große Zahl von Nutzern bereitstellen, achten möglicherweise stärker auf Antwortzeit, Energieverbrauch und Kosten pro Abfrage.
Nvidia wirbt bei seiner jüngsten Einführung von KI-Infrastruktur mit denselben Anforderungen für die eigenen Lösungen, während Google argumentiert, dass separate Chips besser dazu passen, wie KI-Systeme entwickelt und bereitgestellt werden.
Ob dieses Argument zu einer breiteren Akzeptanz führt, wird davon abhängen, was Kunden nach der Markteinführung feststellen. Sobald diese Systeme eingesetzt werden, sind Preise, Leistung und Reibungsverluste bei der Software wichtiger als Architekturfolien.
Vorerst präsentiert Google TPU 8t und TPU 8i als spezialisiertere Alternative zu einem Ein-Chip-Ansatz und als direktere Herausforderung für Nvidia im Bereich der Cloud-KI-Infrastruktur.
Ebenfalls lesenswert: Nvidias Investition in CoreWeave zeigt, wie schnell die Ausgaben für KI-Infrastruktur steigen.