Où les charges de travail d'IA doivent-elles s'exécuter ? Repenser la répartition des charges de travail dans un monde IA hybride

À mesure que l'adoption de l'IA se généralise, les organisations doivent faire des choix délibérés quant à l'endroit où les modèles sont entraînés, optimisés et exécutés pour l'inférence, ainsi que sur la manière dont ces charges de travail sont réparties au sein de l'infrastructure de l'entreprise. Les stratégies d'IA hybrides répartissent les charges de travail d'IA entre les centres de données, les plateformes cloud et les environnements périphériques afin d'équilibrer les performances, l'évolutivité, la gouvernance et les coûts.

Points clés à retenir

• L'IA hybride permet une répartition optimisée des charges de travail : les organisations exécutent des charges de travail d'IA sur des infrastructures sur site, des plateformes cloud et des environnements périphériques en fonction des exigences de ces charges de travail.
• L'entraînement, l'affinement et l'inférence s'effectuent souvent dans des environnements différents : ces charges de travail nécessitent des fonctionnalités d'infrastructure et des caractéristiques de performance différentes.
• L'infrastructure d'IA d'entreprise intègre plusieurs composants : les plateformes de calcul accéléré, les réseaux à haut débit, le stockage haute performance et les plateformes d'orchestration fonctionnent de concert pour soutenir les charges de travail d'IA.
• Les décisions relatives à la répartition des charges de travail dépendent de plusieurs facteurs : la latence, la gouvernance des données, les exigences de conformité et la prévisibilité des coûts influencent les choix d'infrastructure.
• Les plateformes intégrées prennent en charge les déploiements hybrides : des solutions telles que Dell AI Factory with NVIDIA combinent l'infrastructure d'IA, les logiciels d'IA et les services dans une solution unifiée qui peut être déployée dans des environnements d'IA hybrides.

Les déploiements d'IA gagnent en ampleur dans les environnements d'entreprise et cette croissance s'accompagne d'un nouveau défi en matière d'infrastructure. Les organisations doivent déterminer où exécuter les différentes charges de travail d'IA. L'entraînement des modèles, la gestion des grands ensembles de données et la génération des prédictions nécessitent des environnements informatiques différents. Certaines charges de travail dépendent de grands clusters accélérés capables de traiter des ensembles de données massifs, tandis que d'autres doivent fonctionner à proximité des utilisateurs ou des appareils pour répondre rapidement.

La taille des infrastructures d'IA augmente également. Le rapport Stanford HAI 2025 AI Index note que la puissance de calcul utilisée pour entraîner des modèles d'IA avancés continue de croître à mesure que les modèles deviennent plus complexes et que les ensembles de données s'étoffent. Dans le même temps, à mesure que l'adoption de l'IA s'accélère, les entreprises atteignent un point d'inflexion en matière d'inférence, passant du développement de modèles au déploiement à grande échelle de l'IA en production. Le rapport Databricks State of Data + AI a révélé que les organisations ont déployé 11 fois plus de modèles d'IA en production d'une année sur l'autre, reflétant la croissance rapide des déploiements d'IA d'entreprise.

À mesure que les déploiements d'IA dépassent le stade de l'expérimentation, les entreprises adoptent des architectures d'IA hybrides qui répartissent les charges de travail entre les centres de données, les plateformes cloud et les environnements périphériques. Dell AI Factory with NVIDIA soutient cette approche en intégrant des capacités de calcul accéléré, de réseau et de stockage, ainsi que des logiciels d'IA, dans des solutions capables de fonctionner dans des environnements hybrides.

Fondamentaux en matière d'infrastructure pour l'entraînement et l'inférence de l'IA

Les charges de travail d'IA à grande échelle nécessitent une infrastructure conçue pour le calcul distribué. L'entraînement des modèles modernes d'apprentissage automatique implique le traitement de grands ensembles de données sur plusieurs nœuds de calcul, tandis que l'inférence basée sur le raisonnement introduit de nouvelles exigences nécessitant un calcul soutenu en plusieurs étapes pour générer des résultats de haute qualité en production.  

L'infrastructure d'IA d'entreprise comprend généralement plusieurs composants clés :

• Clusters de calcul accélérés par GPU : permettent le traitement parallèle nécessaire aux charges de travail d'entraînement et d'inférence d'IA à grande échelle
• Réseau à haut débit : permet aux nœuds de calcul d'échanger de grands volumes de données lors de l'entraînement distribué
• Systèmes de stockage distribués haute performance : stockent et gèrent de grands ensembles de données utilisés pour l'entraînement de modèles d'apprentissage automatique
• Cadres d'IA : prennent en charge le développement de modèles, l'expérimentation et les flux de travail d'entraînement
• Plateformes d'orchestration de charges de travail : coordonnent les environnements de calcul distribué qui exécutent les charges de travail d'IA

Ces composants permettent aux charges de travail d'IA de fonctionner sur des clusters distribués plutôt que sur des serveurs individuels. Lors de l'entraînement, les modèles échangent constamment des paramètres entre les nœuds de calcul. C'est pour cela que les performances du réseau et le débit de stockage sont cruciaux.

Plus les modèles deviennent volumineux et plus les ensembles de données se développent, plus les besoins en infrastructures augmentent. Selon NVIDIA, les charges de travail d'entraînement de l'IA sont très gourmandes en ressources en raison des architectures de modèles complexes, des techniques d'optimisation et des itérations d'entraînement répétées. Même des modèles relativement petits, entraînés sur des ensembles de données limités, peuvent nécessiter des ressources de calcul, de mémoire et d'énergie conséquentes. Face à ces exigences croissantes, les organisations adoptent des plateformes d'infrastructure intégrées qui simplifient le déploiement et répondent aux besoins des charges de travail d'IA à grande échelle.

Élaboration d'infrastructures capables d'évoluer avec la croissance de l'IA

Les projets d'IA débutent souvent comme des initiatives expérimentales, mais finissent par nécessiter une infrastructure capable de prendre en charge des applications d'IA utilisant la réflexion approfondie au sein de plusieurs équipes et fonctions commerciales.

L'une des approches permettant de mettre à l'échelle une infrastructure d'IA consiste à utiliser des clusters de GPU distribués. Ces clusters permettent d'exécuter simultanément les charges de travail d'entraînement sur plusieurs nœuds de calcul, réduisant ainsi le temps nécessaire à l'entraînement des modèles complexes.

L'infrastructure hybride joue également un rôle essentiel dans la capacité de mise à l'échelle. En combinant des centres de données sur site avec des plateformes cloud, les entreprises peuvent conserver le contrôle de leurs données sensibles tout en accroissant leur capacité de calcul lorsque les charges de travail augmentent.

Les environnements de développement conteneurisés aident les équipes de science des données à faire passer les modèles du stade du développement à celui de la production sans avoir à reconstruire l'infrastructure. Cette cohérence permet aux organisations d'accélérer les cycles de déploiement et de gérer plus efficacement les charges de travail d'IA.

Coordination des charges de travail d'IA dans des environnements hybrides

Avec l'expansion des déploiements d'IA, la gestion des charges de travail entre plusieurs environnements d'infrastructure gagne en complexité. Les environnements d'IA hybrides nécessitent une coordination entre les pipelines d'entraînement, les services d'inférence et les pipelines de données qui opèrent entre plusieurs centres de données, plateformes cloud et systèmes périphériques.

Les plateformes d'orchestration des charges de travail d'IA aident les organisations à gérer ces environnements. Elles prennent généralement en charge plusieurs fonctions essentielles :

• La planification des charges de travail attribue les charges de travail d'IA aux ressources de calcul disponibles.
• L'allocation des GPU répartit la capacité GPU entre les équipes et les projets.
• La coordination du pipeline d'entraînement gère les flux de travail d'apprentissage automatique distribués.
• La gestion des mouvements de données transfère les ensembles de données entre les environnements de calcul et de stockage.

L'orchestration des charges de travail permet également leur portabilité. Les modèles peuvent être entraînés dans de grands clusters de centres de données, puis être déployés sur des services cloud ou des appareils en périphérie, en fonction des besoins opérationnels.

Obstacles à la mise à l'échelle de l'IA d'entreprise

La mise à l'échelle de l'IA pour la déployer dans les différents environnements d'une entreprise soulève des défis à la fois techniques et opérationnels.

La capacité des infrastructures constitue souvent le premier obstacle. L'entraînement de modèles de grande taille nécessite une importante capacité de calcul GPU et un réseau à haut débit, deux éléments qui peuvent s'avérer coûteux à déployer et à entretenir.

Le point d'inflexion en matière d'inférence est atteint : l'IA agentique est désormais devenue courante, avec l'émergence d'agents autonomes et auto-évolutifs dans les cas d'utilisation grand public, d'entreprise et industriels. Avec 11 fois plus de modèles mis en production, les entreprises sont confrontées à une augmentation colossale de la demande en matière d'inférence. Cette croissance est encore amplifiée par la transition vers le raisonnement et l'inférence à réflexion approfondie, où chaque requête nécessite beaucoup plus de puissance de calcul et de génération de jetons que les réponses traditionnelles en une passe. Ajoutez à cela des agents toujours actifs, et le volume total de jetons augmente lui aussi de manière colossale. Il en résulte une augmentation brutale des exigences en matière d'infrastructure, ce qui nécessite de faire appel à des usines d'IA spécialement conçues pour fournir une inférence évolutive et efficace à l'échelle de la production.

La gestion des données ajoute une couche de complexité supplémentaire. Les modèles d'apprentissage automatique reposent sur de vastes ensembles de données qui doivent être stockés, traités et accessibles efficacement à travers différents systèmes. La préparation de ces ensembles de données pour l'entraînement et leur mise à disposition auprès des agents d'IA en production nécessitent souvent un travail d'ingénierie des données considérable.

La complexité opérationnelle augmente également à mesure que les organisations déploient l'IA dans leurs différents départements. La surveillance des modèles, la gestion des ressources d'infrastructure et la coordination des charges de travail entre les environnements nécessitent des outils et des processus spécialisés.

Comparaison des différents environnements de déploiement d'IA hybrides

Les organisations qui évaluent les stratégies d'IA hybrides comparent généralement plusieurs environnements d'infrastructure. Chaque environnement offre des avantages en fonction des caractéristiques des charges de travail et des exigences opérationnelles.

Plusieurs facteurs influencent ces décisions. Les exigences en matière de latence peuvent nécessiter que les charges de travail d'inférence s'exécutent à proximité des utilisateurs ou des appareils. Les politiques de gouvernance des données peuvent exiger que certains ensembles de données restent dans des environnements sur site. La prévisibilité des coûts peut également influencer le lieu de déploiement des charges de travail d'entraînement.

Des plateformes comme Dell AI Factory with NVIDIA aident les entreprises à déployer et à gérer des charges de travail d'IA dans des environnements hybrides tout en maintenant une infrastructure cohérente et un contrôle opérationnel optimal.

FAQ