La charge de travail d’un agent d’IA ne s’arrête pas à la réponse d’un modèle. La récupération de données métier, l’exécution de code et la coordination des tâches sollicitent également les processeurs.
Le 10 novembre, AMD a annoncé la disponibilité générale de ses processeurs serveur EPYC SP7 de 6e génération, en les positionnant pour les infrastructures d’IA agentique et les applications d’entreprise.
Pour les entreprises qui étendent leurs déploiements d’IA, la question est de savoir si une capacité accrue côté processeur améliorera suffisamment les performances pour justifier l’investissement.
Ce que change AMD avec les processeurs EPYC de 6e génération
AMD présente sa gamme EPYC de 6e génération autour de trois rôles de processeur dans les infrastructures d’IA agentique :
- Services généralistes : Pour exécuter les applications d’entreprise et prendre en charge les charges de travail d’IA
- Nœuds hôtes de GPU : Pour alimenter les accélérateurs d’IA en données
- Environnements isolés pour agents : Pour exécuter plusieurs agents d’IA simultanément
AMD a également présenté trois options de déploiement pour son plan directeur de rack pour l’IA agentique Helion, présenté en octobre :
- AMD Helion Liquid : Une capacité CPU haute densité pour l’exécution d’agents à grande échelle dans des centres de données refroidis par liquide.
- AMD Helion Air : Une capacité supplémentaire pour les agents dans les centres de données existants refroidis par air.
- AMD Helion Air Inference : Exécution sur CPU et inférence locale sur GPU combinées dans un même rack.
Ensemble, les processeurs axés sur les charges de travail et les architectures de racks Helion offrent aux entreprises différentes options pour bâtir leur infrastructure d’IA. Elles peuvent choisir leurs processeurs en fonction des charges de travail à prendre en charge, et leurs configurations de racks selon les capacités de leur centre de données, leurs besoins en refroidissement et l’ampleur du déploiement.
Ce qu’a constaté eWeek : le bien-fondé de la mise à niveau dépend de la charge de travail
Le lancement met en lumière les tâches effectuées autour des modèles d’IA, notamment la récupération de données, l’exécution de code et la coordination des tâches. Les entreprises qui évaluent une infrastructure d’IA agentique doivent examiner ces besoins en parallèle de la capacité GPU.
AMD estime jusqu’à 3,3 fois les performances au niveau du rack des systèmes fondés sur Nvidia Vera pour des systèmes fondés sur EPYC 9996, dans la limite d’une enveloppe énergétique de 100 kW. Cette comparaison combine six charges de travail généralistes, notamment le service web, les bases de données et les applications Java. Elle repose sur des projections ou des mesures préliminaires et n’établit pas de gains équivalents pour les workflows d’IA agentique d’entreprise.
L’annonce n’établit pas non plus que les entreprises ont besoin de processeurs EPYC de sixième génération pour déployer des agents d’IA. La décision d’investissement devrait commencer par des éléments montrant où l’infrastructure d’IA existante limite les performances.
Avant de migrer, les entreprises doivent évaluer :
- Les points de ralentissement des workflows : Mesurez l’utilisation du CPU, la pression sur la mémoire, les délais d’accès aux données et le temps d’inactivité du GPU pendant des tâches représentatives.
- Ce que fournit une capacité supplémentaire : Comparez le nombre de tâches terminées, les temps de réponse et les échecs au niveau de simultanéité attendu par l’entreprise.
- Le coût du déploiement : Intégrez les serveurs, la mémoire, le réseau, le refroidissement, les licences logicielles et la migration au coût total.
- La prise en charge par la pile logicielle : Vérifiez la compatibilité avec le système d’exploitation, l’hyperviseur et les applications. L’architecture x86 d’AMD ne doit pas être considérée comme une garantie générale que toutes les charges de travail fondées sur Intel pourront migrer sans modification.
L’IA agentique pourrait modifier la manière dont les entreprises répartissent leurs dépenses d’infrastructure, car la planification des capacités doit tenir compte des systèmes qui transforment les réponses des modèles en tâches accomplies. Les nouveaux processeurs d’AMD offrent une option supplémentaire, mais les arguments les plus solides en faveur d’une mise à niveau reposeront sur des améliorations mesurables dans les workflows de production.
Pour en savoir plus : replacez les dernières affirmations d’AMD sur les performances dans leur contexte grâce à un examen plus approfondi de sa précédente comparaison entre EPYC Venice et Nvidia Vera, notamment pour comprendre pourquoi les gains annoncés peuvent se réduire lorsqu’ils sont mesurés par cœur.