Diese Woche stellte Nvidia auf dem Global Summit des Open Compute Project (OCP) seine Pläne für das vor, was das Unternehmen „Gigascale-Fabriken für künstliche Intelligenz (KI)“ nennt.
Diese Rechenzentren der nächsten Generation werden für die Verarbeitung gewaltiger KI-Workloads gebaut. Im Mittelpunkt stehen offene Standards, ein geringerer Stromverbrauch und skalierbare Designs. Nvidia kündigte gegenüber der OCP-Community mehrere Innovationen an.
Die Nachricht kommt nur eine Woche, nachdem CEO Jensen Huang sagte, dass die Nachfrage nach KI „stark anzieht“.
Vera Rubin NVL144 für KI-Fabriken
Während eines Pressebriefings zur OCP Nvidia die Spezifikationen für sein offenes Vera-Rubin-NVL144-MGX-Rack und Compute-Tray vorgestellt. Sie sind für eine schnellere Montage, eine höhere Leistungskapazität und eine effizientere Kühlung in großen KI-Rechenzentren ausgelegt.
Das System verfügt über ein vollständig flüssigkeitsgekühltes Design und ersetzt herkömmliche Verkabelung durch eine gedruckte Midplane-Platine. Jedes Tray umfasst modulare Erweiterungsschächte, die Nvidias ConnectX-9-Netzwerk mit 800 Gbit/s und Rubin-CPX-GPUs.
Mehr als 50 MGX-System- und Komponentenpartner entwickeln Produkte auf Basis der Vera-Rubin-Architektur. Nvidia erklärte, das Unternehmen werde die neuen Rack- und Compute-Tray-Designs als offene Standards in die OCP einbringen und damit das MGX-Framework erweitern, zu dem bereits die Systeme GB200 NVL72 und GB300 NVL72 gehören.
Stromversorgung direkt vom Netz zum Rack
Nvidia und seine Partner stellen auf eine neue 800-Volt-Gleichstromarchitektur (VDC) um, die die in heutigen Rechenzentren eingesetzten älteren 415-Volt-Wechselstromsysteme (VAC) ersetzt. Bei den 415-VAC-Systemen sind zwischen Netz und Rack mehrere Umwandlungen von Wechsel- in Gleichstrom erforderlich. Das verschwendet Energie und begrenzt die Skalierbarkeit eines Rechenzentrums.
Durch diese Änderung erfolgt die Stromumwandlung weiter vorgelagert, sodass 800 VDC direkt zum Rack geführt werden. Rechenzentren profitieren von höherer Effizienz, einem geringeren Materialverbrauch und einer höheren GPU-Dichte pro Standort. Das bereits in Elektrofahrzeugen und Solaranlagen eingesetzte Design unterstützt KI-Fabriken im Gigascale-Maßstab. Die Architektur bildet außerdem die Grundlage für Kyber, Nvidias Rack-Server-Plattform der nächsten Generation und Nachfolger von Oberon.
Mehrere Unternehmen setzen die Technologie bereits ein. So wird beispielsweise das 40-Megawatt-Rechenzentrum Kaohsiung-1 von Foxconn in Taiwan rund um 800 VDC gebaut, um Kyber zu unterstützen. CoreWeave, Lambda, Nebius, Oracle und Together AI verfolgen einen ähnlichen Ansatz.
Die Umstellung erfordert eine enge Koordination über alle Ebenen des Stacks hinweg. Nvidia arbeitet mit mehr als 20 Industriepartnern an einem gemeinsamen Entwurf für diesen Übergang. Diese Lösung eignet sich besonders für den wachsenden Rechenbedarf von Inferenz, generativer Videotechnik und fortgeschrittener Softwareentwicklung.
Spectrum-X- und Spectrum-XGS-Abstimmung mit der OCP
Nvidia gab bekannt, dass Spectrum-XGS Ethernet, die neueste Ergänzung seiner Spectrum-X-Ethernet-Plattform, nun OCP- und SONiC-Standards unterstützt.
Die von Meta gegründete OCP ist ein Industriekonsortium, das den Austausch von Produktdesigns und Best Practices für Rechenzentren erleichtert. SONiC ist ein Linux-basiertes Netzwerkbetriebssystem, das auf Switches verschiedener Anbieter läuft. Das Update von Nvidia ermöglicht es Unternehmen, große, leistungsstarke KI-Rechenzentren mit Open-Source-Hard- und -Software zu bauen.
Spectrum-XGS wurde Anfang dieses Jahres vorgestellt und ermöglicht die sogenannte „Scale across“-Vernetzung: Mehrere Rechenzentren in Städten, Bundesstaaten oder sogar auf verschiedenen Kontinenten können verbunden werden und als eine einzige Compute-Fabric agieren. Dabei kommen Algorithmen zum Einsatz, die das Netzwerk an die Entfernung zwischen den Rechenzentren anpassen, wodurch sich die Latenz bei verteilten KI-Workloads verringert. Meta und Oracle Cloud Infrastructure (OCI) gehören zu den ersten Unternehmen, die die Technologie in OCP-basierten Umgebungen einsetzen. Auch HPE wird Spectrum-XGS unterstützen.
NVLink Fusion wird auf Intel und Samsung Foundry ausgeweitet
Nvidias NVLink-Fusion-Ökosystem wächst und bietet Partnern eine Möglichkeit, ihre CPUs und kundenspezifischen Chips direkt in Nvidias Infrastruktur zu integrieren. Zu diesen Partnern gehören Intel und Samsung Foundry.
Intel wird x86-CPUs entwickeln, die über NVLink Fusion mit Nvidia-Plattformen verbunden werden. Samsung Foundry wird Design-to-Manufacturing-Dienstleistungen für kundenspezifische CPUs und spezialisierte Prozessoren (XPUs) für KI-Workloads bereitstellen. Auch Fujitsu integriert seine CPUs der Monaka-Serie über dieselbe Schnittstelle mit Nvidia-GPUs. Laut Nvidia vereinfachen diese Partnerschaften das Systemdesign und verkürzen Entwicklungszyklen, während sie zugleich die Markteinführung beschleunigen.
Ein einheitlicher, offener Ansatz zum Bau von KI-Fabriken
MGX ist der Bauplan des Unternehmens für ein modulares, wiederholbares Design. Dasselbe Konzept erstreckt sich auf die Vernetzung: Spectrum-XGS führt Open-Source-Kompatibilität ein und ermöglicht es Betreibern von Rechenzentren, Nvidia-Produkte in OCP-basierten Umgebungen zu integrieren, ohne die Infrastruktur grundlegend überarbeiten zu müssen.
Obwohl Nvidia diese Technologien entwickelt hat, verfügte das Unternehmen stets über ein starkes Ökosystem zur Unterstützung seiner Produkte. So soll beispielsweise die NVLink-Fusion-Partnerschaft mit Intel die gemeinsame Verarbeitung von Workloads durch CPUs und GPUs vereinfachen. Gleichzeitig erfordert die Umstellung auf die neue 800-VDC-Architektur eine enge Zusammenarbeit mit Zulieferern, Anbietern und Herstellern.
Nvidias jüngste Leistungssteigerungen mit der Blackwell-Plattform spiegeln diese Strategie ebenfalls wider. Nach neuen, von Nvidia veröffentlichten Benchmark-Ergebnissen arbeitet Blackwell dank einer umfassenderen gemeinsamen Entwicklung von Hard- und Software 15-mal schneller als die frühere Hopper-Generation. Nvidia kündigte an, dass in den kommenden sechs Monaten weitere Software-Updates folgen werden, die die Leistungsfähigkeit zusätzlich ausbauen.
Letztlich führten die jüngsten Ankündigungen zu einer einheitlichen Architektur, die über Komponenten und ganze Anlagen hinweg skaliert. Die OCP-spezifischen Ankündigungen überführen die Technologie in den Open-Source-Bereich und ermöglichen es mehr Unternehmen, sie zu nutzen.
Nvidia hat unmissverständlich klargemacht, dass jedes neue Feature und jede Partnerschaft einem übergeordneten Ziel dient: KI-Rechenzentren sollen im Laufe der Zeit einfacher zu bauen, zu erweitern und zu warten sein – und das ist gut für alle.
Im Oktober kündigte Nvidia außerdem die Veröffentlichung von DGX Spark an, der als „kleinster KI-Supercomputer der Welt.”