Die Arbeit eines KI-Agenten endet nicht mit einer Modellantwort. Das Abrufen von Geschäftsdaten, die Ausführung von Code und die Koordination von Aufgaben stellen ebenfalls Anforderungen an CPUs.
Am 10. November kündigte AMD die allgemeine Verfügbarkeit seiner Serverprozessoren EPYC SP7 der 6. Generation an und positioniert sie für Infrastrukturen für agentische KI und Unternehmensanwendungen.
Für Unternehmen, die ihre KI-Implementierungen ausweiten, stellt sich die Frage, ob mehr CPU-Kapazität die Leistung ausreichend steigert, um die Investition zu rechtfertigen.
Was AMD mit EPYC der 6. Generation verändert
AMD positioniert sein EPYC-Portfolio der 6. Generation rund um drei CPU-Rollen in Infrastrukturen für agentische KI:
- Allgemeine Dienste: Zum Ausführen von Unternehmensanwendungen und zur Unterstützung von KI-Workloads
- GPU-Hostknoten: Um KI-Beschleuniger mit Daten zu versorgen
- Agenten-Sandboxen: Zum gleichzeitigen Ausführen mehrerer KI-Agenten
AMD stellte außerdem drei Bereitstellungsoptionen für seinen Helion-Rack-Bauplan für agentische KI, der im Oktober vorgestellt wurde, vor:
- AMD Helion Liquid: CPU-Kapazität mit hoher Dichte für die Ausführung von Agenten in großem Maßstab in flüssigkeitsgekühlten Rechenzentren.
- AMD Helion Air: Zusätzliche Agentenkapazität für bestehende luftgekühlte Rechenzentren.
- AMD Helion Air Inference:CPU-Ausführung und lokale GPU-Inferenz kombiniert in einem Rack.
Zusammen bieten die auf Workloads ausgerichteten Prozessoren und die Helion-Rack-Designs Unternehmen verschiedene Möglichkeiten zum Aufbau einer KI-Infrastruktur. Sie können CPUs anhand der zu unterstützenden Workloads und Rack-Konfigurationen anhand ihrer bestehenden Rechenzentrumskapazitäten, Kühlanforderungen und Bereitstellungsgröße auswählen.
Die Erkenntnisse von eWeek: Der Upgrade-Fall hängt vom Workload ab
Die Markteinführung rückt die CPU-Arbeiten rund um KI-Modelle in den Mittelpunkt, darunter Datenabruf, Codeausführung und Aufgabenkoordination. Unternehmen, die Infrastrukturen für agentische KI bewerten, sollten diese Anforderungen zusammen mit der GPU-Kapazität analysieren.
AMD prognostiziert eine bis zu 3,3-mal höhere Rack-Leistung im Vergleich zu Nvidia-Vera-basierten Systemen für Systeme auf Basis des EPYC 9996 innerhalb eines Leistungsbudgets von 100 kW. Der Vergleich umfasst sechs allgemeine Workloads, darunter Webbereitstellung, Datenbanken und Java-Anwendungen. Er basiert auf vorläufigen Prognosen oder Messungen und belegt keine entsprechenden Leistungssteigerungen bei agentischen KI-Workflows in Unternehmen.
Die Ankündigung belegt außerdem nicht, dass Unternehmen EPYC der sechsten Generation benötigen, um KI-Agenten einzusetzen. Die Investitionsentscheidung sollte mit Belegen dafür beginnen, wo die bestehende KI-Infrastruktur die Leistung begrenzt.
Vor einem Upgrade sollten Unternehmen Folgendes bewerten:
- Wo Workflows langsamer werden: Messen Sie CPU-Auslastung, Speicherdruck, Verzögerungen beim Datenzugriff und GPU-Leerlauf während repräsentativer Aufgaben.
- Was zusätzliche Kapazität bringt: Vergleichen Sie abgeschlossene Aufgaben, Antwortzeiten und Fehler bei der vom Unternehmen erwarteten Parallelität.
- Was die Bereitstellung kostet: Berücksichtigen Sie Server, Speicher, Netzwerk, Kühlung, Softwarelizenzen und Migration in den Gesamtkosten.
- Ob der Software-Stack unterstützt wird: Bestätigen Sie die Kompatibilität von Betriebssystem, Hypervisor und Anwendungen. AMDs x86-Architektur sollte nicht als pauschale Garantie verstanden werden, dass sich jeder Intel-basierte Workload ohne Änderungen migrieren lässt.
Agentische KI könnte verändern, wie Unternehmen ihre Infrastrukturinvestitionen verteilen, da die Kapazitätsplanung die Systeme berücksichtigen muss, die Modellantworten in abgeschlossene Arbeit umwandeln. AMDs neue Prozessoren bieten eine weitere Option, doch der überzeugendste Upgrade-Fall wird sich aus messbaren Verbesserungen in Produktions-Workflows ergeben.
Mehr dazu: Setzen Sie AMDs neueste Leistungsversprechen mit einem genaueren Blick auf den früheren EPYC-Vergleich von AMD mit Nvidia Vera in den richtigen Kontext – einschließlich der Gründe, warum sich die Schlagzeilengewinne bei einer Messung pro Kern verringern können.