NVIDIA und das japanische Telekommunikationsunternehmen SoftBank haben sich zusammengeschlossen, um eine Plattform für generative künstliche Intelligenz (KI) und 5G-/6G-Anwendungen auf Basis von NVIDIAs GH200 Grace Hopper Superchip.
SoftBank plant, in Japan Rechenzentren zu errichten, die gemeinsam mit NVIDIA generative KI- und Funkanwendungen auf einer gemeinsam genutzten Serverplattform beherbergen können. Diese mandantenfähige Lösung soll Kosten senken und die Energieeffizienz verbessern.
Die geplante Plattform wird NVIDIAs neue modulare MGX-Referenzarchitektur mit dem GH200 Superchip nutzen und dadurch die Leistung von Anwendungslasten steigern. Die Grace-Hopper-Architektur mit 72 Arm-Neoverse-V2-Prozessorkernen und LPDDR5X umfasst eine Kombination aus zentralen Verarbeitungseinheiten (CPUs) und Grafikprozessoren (GPUs) für beschleunigtes Computing.
NVIDIA wird MGX noch in diesem Jahr auf den Markt bringen; SoftBank ist der erste Kunde, der die Architektur testet.
Siehe auch: 100+ Top-KI-Unternehmen 2023
Die Modernisierung der Telekommunikationsbranche erfordert beschleunigtes Computing
In den vergangenen sechs Jahrzehnten waren die meisten Computerarchitekturen primär auf CPUs ausgerichtet. Diese traditionellen Designs sind vielseitig und lassen sich gut an verschiedene Workloads anpassen, werden nun aber durch beschleunigtes Computing ersetzt.
Beschleunigtes Computing nutzt einen vollständigen Stack, das heißt, eine CPU und ein Beschleuniger – etwa eine GPU – arbeiten zusammen, um die Verarbeitungsaufgaben aufzuteilen. Dieser Ansatz ist für die Verarbeitung unterschiedlicher Workloads optimiert. Die Vernetzung dieser beiden Elemente ist entscheidend, um eine bestmögliche Leistung aufrechtzuerhalten.
Die gemeinsame Plattform wird außerdem NVIDIAs BlueField-3 Datenverarbeitungseinheiten (DPUs) nutzen, um virtualisierte Funkzugangsnetze (vRAN) für 5G und generative KI-Anwendungen zu beschleunigen. Es wird erwartet, dass sie 5G-Geschwindigkeiten mit einer Downlink-Kapazität im Bereich von 36 Gbit/s erreicht.
Im Vergleich zu einem dedizierten virtuellen 5G-RAN bietet dieser Ansatz etwa die vierfache Rendite, da ein Rechenzentrum auch für KI genutzt werden kann, erklärte Ronnie Vasishta, Sr. VP of Telecom bei NVIDIA, während eines Briefings mit Analysten.
Siehe auch: Unternehmen für generative KI: Die 12 wichtigsten Marktführer
Open RAN ermöglicht größere Agilität
Bis vor Kurzem war ein proprietäres RAN das vorherrschende Modell in der Telekommunikation, entwickelt als einzelner monolithischer Stack. Dieser Ansatz bietet eine hohe Leistung, ist aber teuer in der Wartung. Viele sind auf ein offenes virtualisiertes RAN umgestiegen und verlagern ihre Rechen-Workloads auf eine Serverarchitektur.
Ein virtualisiertes RAN hatte jedoch Schwierigkeiten, die Leistung eines proprietären RAN zu erreichen. Um dies zu überwinden, wurden speziell entwickelte Beschleuniger eingeführt. Diese zweckgebundenen Beschleuniger konnten jedoch nur für RAN-Workloads eingesetzt werden, was zu einer schlechten Leistung und einer unzureichenden Cloud-Wirtschaftlichkeit führte.
„Dedizierte Netze ausschließlich für 5G müssen für die Spitzenlast ausgelegt sein. Wenn neue KI-Anwendungen hinzukommen, wird diese Spitzenlast steigen. Der Energiebedarf wird wachsen. Auch der Rechenbedarf wird zunehmen“, sagte Vasishta. „Wir beobachten eine erhebliche Unterauslastung der aufgebauten Netze, und die Rendite (ROI) von 5G war bislang relativ niedrig.“
NVIDIA hat eine GPU-beschleunigte, softwaredefinierte Architektur entwickelt, in der ein Beschleuniger sowohl KI-Aufgaben als auch RAN ausführen kann. Dadurch können RAN und KI in einem Rechenzentrum koexistieren, unabhängig davon, ob es sich um eine öffentliche, verteilte oder lokale Umgebung handelt. Dieser Ansatz ermöglicht im Wesentlichen, 5G als Software-Overlay auf KI-Clouds zu betreiben, während die Hardware unverändert bleibt. Sobald Algorithmen für 6G entwickelt werden, können sie in die bestehende Hardware integriert werden, ohne dass neue Hardware bereitgestellt werden muss.
Siehe auch: Top-Anwendungen und -Tools für generative KI
Generative KI ist ein „iPhone-Moment“
Vasishta bezeichnete dies als einen „iPhone-Moment für KI“ (etwas, das NVIDIA-CEO Jensen Huang wiederholt erklärt hat) – die bahnbrechenden Auswirkungen der künstlichen Intelligenz auf Rechenzentren, vergleichbar mit der Revolution, die das iPhone bei Smartphones auslöste.
Dieser Moment ist durch das Zusammentreffen zweier transformativer Faktoren in der Technologiebranche geprägt: den Wandel der Computerarchitekturen und das Aufkommen generativer KI. Generative KI erfordert Scale-out-Architekturen, was eine enorme Nachfrage nach vernetzten „KI-Fabriken“ oder Rechenzentren antreibt, sagte Vasishta. Durch generative KI ermöglichte Anwendungen wie Chatbots und Videokonferenzen erzeugen eine erhebliche Nachfrage in Telekommunikationsnetzen.
NVIDIA begegnet diesem Problem, indem das Unternehmen die 5G-Infrastruktur nicht nur virtualisiert, sondern vollständig softwaredefiniert gestaltet. Dadurch ist es möglich, ein leistungsstarkes, effizientes 5G-Netz neben KI-Anwendungen im selben Rechenzentrum zu betreiben. Dies eröffnet Telekommunikationsanbietern wie SoftBank und anderen neue Möglichkeiten zur Monetarisierung und erlaubt ihnen, regionale Cloud-Service-Provider zu werden. Durch den Aufbau einer KI-Fabrik können sie außerdem RAN-Dienste anbieten und so ihr erworbenes Spektrum effektiver nutzen.
SoftBank untersucht 5G-Anwendungen in verschiedenen Bereichen, darunter autonomes Fahren, erweiterte und virtuelle Realität (AR/VR), Computer Vision und digitale Zwillinge. Die Partnerschaft mit NVIDIA ist ein bedeutender Schritt in der Entwicklung von Rechenzentren, in denen die Nachfrage nach beschleunigtem Computing und generativer KI grundlegende Veränderungen vorantreibt.
Zum selben Thema: Die Zukunft der künstlichen Intelligenz