AMD und Cerebras teilen eine einzelne KI-Inferenzanfrage auf zwei Prozessorarchitekturen auf. Der am 23. Juli angekündigte Dienst soll AMD-Helios-Systeme zur Verarbeitung von Prompts und Cerebras’ Wafer-Scale Engine zur Generierung von Ausgabetokens nutzen; die Verfügbarkeit wird über Cerebras Cloud für die zweite Hälfte des Jahres 2026 erwartet.
Das Design richtet sich an Programmierassistenten, Echtzeit-Copiloten, Live-Agenten und andere Anwendungen, bei denen sich Antwortverzögerungen über wiederholte Modellaufrufe hinweg summieren können. AMD und Cerebras haben weder Preise und unterstützte Modelle noch End-to-End-Ergebnisse aus dem Produktivbetrieb veröffentlicht. Damit ist die Architektur außerhalb der Modellierungen der Unternehmen noch unbewiesen.
So funktioniert der zweistufige Ablauf
Die Inferenz großer Sprachmodelle besteht aus zwei Hauptphasen. Beim Prefill verarbeitet das System den Prompt und erstellt den Key-Value- oder KV-Cache, der zur Erzeugung einer Antwort dient. Beim Decode liest das Modell diesen gespeicherten Zustand und generiert die Ausgabe Token für Token.
AMD Helios übernimmt das Prefill und große Kontextfenster, während Cerebras’ Wafer-Scale Engine die speicherbandbreitenintensive Decode-Phase ausführt. Die Unternehmen beschreiben das Design in ihrer Partnerschaftsankündigungals einen einzigen integrierten Ablauf, obwohl der Dienst noch nicht allgemein verfügbar ist.
Prefill profitiert von paralleler Rechenkapazität. Beim Decode greift das System wiederholt auf Modelldaten zu, während es Tokens generiert, wodurch Speicherbandbreite und Latenz besonders wichtig werden. Cerebras integriert SRAM auf seinem Wafer-Scale-Prozessor, damit mehr Daten in der Nähe der Rechenkerne bleiben.
Cerebras verfolgt einen ähnlichen disaggregierten Inferenzdienst mit AWS, der Trainium für das Prefill, CS-3-Systeme für das Decode und Amazons Elastic Fabric Adapter nutzt, um den KV-Cache zwischen ihnen zu übertragen. AMD und Cerebras haben die Verbindungstechnologie für ihren Dienst nicht benannt, und unabhängige Berichte weisen darauf hin, dass öffentliche End-to-End-Benchmarks weiterhin nicht verfügbar sind.
Leistungsversprechen müssen noch unabhängig getestet werden
AMD und Cerebras gehen davon aus, dass die kombinierte Konfiguration bis zu fünfmal mehr Tokens pro Sekunde und Watt liefern könnte als ein reines Cerebras-Setup. Die Schätzung basiert auf einer internen Modellierung mit dem Modell Kimi K2.6 mit 1 Billion Parametern und nicht auf einem unabhängigen Vergleich mit Nvidia-Hardware oder einer eigenständigen AMD-Bereitstellung.
Die Unternehmen haben außerdem weder Preise und Daten zu den Gesamtbetriebskosten noch Vereinbarungen zu Service-Leveln veröffentlicht. Unternehmen sollten die Effizienzprognose von fünfmal nicht als Beschaffungsbenchmark betrachten. Sie müssen Latenz, Kosten pro abgeschlossener Anfrage und den Overhead der Übertragung des Modellzustands unter ihren eigenen Prompt-Längen und Verkehrsmustern messen.
Helios ist ein flüssigkeitsgekühltes Referenzdesign auf Basis des Open-Rack-Wide-Standards des Open Compute Project. Es kombiniert 72 Instinct-MI455X-GPUs mit EPYC-Prozessoren und Pensando-Netzwerktechnik und unterstützt AMDs Vorstoß in eine KI-Infrastruktur auf Rack-Ebene. OEM- und ODM-Partner, nicht AMD selbst, werden Systeme auf Basis dieses Bauplans verkaufen.
Die Vereinbarung mit Cerebras folgt auf Anthropics Zusage, über eine mehrjährige Infrastrukturvereinbarungbis zu 2 Gigawatt an AMD-Instinct-Kapazität bereitzustellen. Das erste Gigawatt soll in der ersten Hälfte des Jahres 2027 online gehen.
Die Vereinbarung tritt in einen wachsenden Markt für spezialisierte KI-Inferenz-Cloudsein. Ein konkretes Startdatum, eine Liste der unterstützten Modelle, Preise und unabhängige Messungen von Latenz, Durchsatz und Energieverbrauch werden die nächsten Belege liefern. Diese Ergebnisse werden zeigen, ob die Aufteilung der Inferenz auf AMD- und Cerebras-Hardware die Produktionskosten und Latenz senkt – oder die Komplexität lediglich in die Netzwerk- und Orchestrierungsebene verlagert.
Mehr lesen: Ein geplantes 5-Milliarden-US-Dollar-TPU-Cloud-Projektwürde Unternehmen eine weitere Möglichkeit für spezialisierte KI-Rechenleistung außerhalb der üblichen Public-Cloud-Angebote eröffnen.