In seinem CES-2024-Blog bezeichnete NVIDIA seine Ankündigungen als „Eine Startrampe für generative KI“ – passend, denn 2023 war zweifellos das Jahr, in dem generative KI den Mainstream erreichte.
Ich wollte sehen, was NVIDIA in der Pipeline hat. Wohl kein anderes Unternehmen ist für die Weiterentwicklung der KI wichtiger als der Chiphersteller. So entscheidend, wie Intel für die PC-Ära war, wird NVIDIA eine ähnliche Rolle für die KI spielen.
Auf der CES 2024 machte NVIDIA mehrere Ankündigungen, die sich auf Consumer-Computing und Gaming, die Automobilindustrie sowie Robotik erstreckten. Auch wenn diese Bereiche auf Endverbraucher ausgerichtet sind, müssen IT-Profis sie im Blick behalten, denn die Verbrauchermärkte nehmen typischerweise vorweg, was als Nächstes in der Geschäftstechnologie kommt.
NVIDIA: KI-Computing für Gamer und Content-Creator
Die wichtigste Ankündigung war der Aufstieg von künstlicher Intelligenz-Laptops, auf denen NVIDIA die neuen GPUs der GeForce RTX 40 SUPER Series, KI-fähige Laptops und Tools für generative KI – allesamt auf Gamer und Kreative ausgerichtet.
Mit einer installierten Basis von 100 Millionen GPUs und 500 RTX-Spielen und -Apps ist GeForce RTX die weltweit größte Plattform für Gamer, Kreative und generative KI. Diese GPUs bilden das Herzstück der generativen KI, darunter beliebte Dienste wie ChatGPT und Stable Diffusion.
Bei einem Briefing vor der CES erklärte Justin Walker, Senior Director of Product Management bei NVIDIA, dass RTX die am schnellsten wachsende Laptop-Plattform von NVIDIA sei. „In den vergangenen vier Jahren ist sie um das Fünffache gewachsen, und inzwischen gibt es weltweit mehr als 50 Millionen RDX-Laptops“, sagte er mir. „Auf der CES kündigen wir eine neue Welle von RTX-Laptops an, die von allen großen OEMs auf den Markt gebracht werden.“
Dazu gehören unter anderem Acer, ASUStek, Dell, HP, Lenovo und Samsung. Die RTX-Laptops reichen von kleinen 14-Zoll-Modellen bis hin zu größeren 18-Zoll-Geräten. „Sie alle werden von Tensor Cores angetrieben“, fügte er hinzu. „Jedes einzelne davon wird KI-fähig sein.“
Darüber hinaus kündigte das Unternehmen drei neue Desktop-GPUs an, die allesamt auf der Ada-Lovelace-Architektur basieren. Diese GPUs werden die Leistung für Gamer verbessern – mit mehr Kernen und höherer Speichergeschwindigkeit. „Das ist eine fantastische GPU für vollständig raytracing-basiertes Gaming in 4K, mit höchster Auflösung und Bildqualität“, sagte er. „Sie kann enorme KI-Leistung für extrem schnelle generative KI bereitstellen.“
Das sind die leistungsfähigsten KI-PCs und -Laptops, die Sie bekommen können. „Sie bieten bis zu 1.300 TOPS Rechenleistung“, fügte er hinzu. „Wir haben in den vergangenen zehn Jahren mit CUDA und TensorRT umfangreiche Grundlagenarbeit geleistet, um Entwicklern zu helfen, das Maximum aus diesen KI-Prozessoren herauszuholen.“
Auch wenn es sich hierbei um Anwendungsfälle für Verbraucher handelt, wird die Möglichkeit, große Sprachmodelle auf einem lokalen PC auszuführen, die Nutzung von Videokonferenzen, Metaverse- und AR/VR-Anwendungen sowie vieler vertikalspezifischer Workloads verbessern.
Beschleunigte große Sprachmodelle
Jeff Fisher, Senior VP for GeForce bei NVIDIA, erklärte, dass die im Oktober 2023 veröffentlichte TensorRT-LLM-Bibliothek für Windows große Sprachmodelle wie Llama 2 und Mistral auf RTX-PCs um das Fünffache beschleunige.
Mit dem neuen „Chat with RTX“ hat das Unternehmen noch einmal nachgelegt. Die Anwendung ermöglicht den Zugriff auf ein RTX-beschleunigtes LLM, das die eigenen Daten des Unternehmens nutzt – von lokal gespeicherten Dokumenten bis hin zu YouTube-Videos. Chat with RTX verwendet Retrieval-Augmented Generation (RAG), wodurch die Genauigkeit und Zuverlässigkeit von GenAI-Modellen verbessert wird.
NVIDIA führte TensorRT-Beschleunigung für Stable Diffusion XL und SDXL Turbo über die Text-zu-Bild-App Automatic1111 ein. NVIDIA zufolge steigert TensorRT die Leistung um bis zu 60 %.
Twitch-Livestreaming und Robotiksimulation
Nvidia erklärte, dass das Unternehmen mit Twitch zusammenarbeiten werde, um Livestreaming mit Mehrfachkodierung anzubieten. Dadurch können Streamer bis zu drei parallele Streams mit unterschiedlichen Auflösungen und Qualitätsstufen an Twitch senden, sodass jeder Zuschauer das optimale Erlebnis erhält.
Mehr als 500 Spiele und Apps von Activision/Blizzard nutzen die RTX-Technologie, darunter die preisgekrönten Titel Alan Wake 2, Horizon Forbidden West, Pax Dei und Diablo IV. Die Partnerschaft mit Activision erstreckt sich mit GEForce NOW auch auf die Cloud.
NVIDIA Isaac, die Robotiksimulations-App des Unternehmens, beschleunigt die Einführung von Robotern in der realen Welt. Der Einsatz kollaborativer Roboter (Cobots) am Arbeitsplatz nimmt in Bereichen wie Fertigung und Lagerhaltung zu und wird auch im Gesundheitswesen sowie in anderen Branchen Einzug halten. Die Möglichkeit, zunächst in einer simulierten Umgebung zu trainieren, kann Tausende Stunden Trainingszeit einsparen, da die Simulationen eine vollständige Bandbreite an Szenarien abdecken können – auch solche, die sich in der realen Welt nur schwer nachbilden lassen.
Meine wichtigsten Erkenntnisse
Wie man es von NVIDIA erwarten würde, war dieses Ankündigungspaket umfassend. Während andere Halbleiterunternehmen an NVIDIAs KI-Dominanz nagen, muss jedes Unternehmen, das mit NVIDIA konkurrieren will, über die GPU hinausdenken.
NVIDIAs Stärke liegt im Aufbau von Systemen, die die GPU, Software und weitere Hardware aus einem breiten Ökosystem vereinen. Für mich waren die KI-Laptops das Highlight der NVIDIA-Ankündigungen, da sie generative KI-Funktionen auf den Desktop bringen und damit ergänzen, was bereits in der Cloud geschehen ist.