Où exécuter les charges de travail d’IA ? Repenser le placement des charges dans un monde de l’IA hybride

À mesure que l’adoption de l’IA s’accélère, les organisations doivent décider délibérément où les modèles sont entraînés, ajustés et exécutés pour l’inférence — et comment ces charges de travail sont réparties entre les infrastructures d’entreprise. Les stratégies d’IA hybride répartissent les charges de travail d’IA entre les centres de données, les plateformes cloud et les environnements edge afin d’équilibrer performances, évolutivité, gouvernance et coûts.

Points clés à retenir

• L’IA hybride permet d’optimiser le placement des charges de travail : Les organisations exécutent les charges de travail d’IA sur des infrastructures sur site, des plateformes cloud et des environnements edge en fonction des exigences de ces charges.
• L’entraînement, le fine-tuning et l’inférence sont souvent exécutés dans des environnements différents : Ces charges de travail nécessitent des capacités d’infrastructure et des caractéristiques de performance différentes.
• L’infrastructure d’IA d’entreprise intègre plusieurs composants : Le calcul accéléré, les réseaux haut débit, le stockage haute performance et les plateformes d’orchestration fonctionnent de concert pour prendre en charge les charges de travail d’IA.
• Les décisions de placement des charges de travail dépendent de plusieurs facteurs : La latence, la gouvernance des données, les exigences de conformité et la prévisibilité des coûts influencent les choix d’infrastructure.
• Les plateformes intégrées prennent en charge les déploiements hybrides : Des solutions telles que Dell AI Factory with NVIDIA associent infrastructure d’IA, logiciels d’IA et services au sein d’une solution unifiée, déployable dans des environnements d’IA hybrides.

Les déploiements d’IA s’étendent à l’ensemble des environnements d’entreprise, et cette croissance s’accompagne d’un nouveau défi d’infrastructure. Les entreprises doivent déterminer où exécuter les différentes charges de travail d’IA. L’entraînement des modèles, la gestion de vastes jeux de données et la production de prédictions nécessitent des environnements de calcul différents. Certaines charges de travail dépendent de vastes clusters accélérés capables de traiter d’énormes jeux de données, tandis que d’autres doivent fonctionner à proximité des utilisateurs ou des appareils pour répondre rapidement.

L’échelle des infrastructures d’IA augmente également. Le rapport Stanford HAI 2025 AI Index Report note que la puissance de calcul utilisée pour entraîner les modèles d’IA avancés continue d’augmenter à mesure que les modèles gagnent en complexité et que les jeux de données s’étoffent. Parallèlement, alors que l’adoption de l’IA s’accélère, les entreprises atteignent un tournant de l’inférence — passant du développement des modèles au déploiement à grande échelle de l’IA en production. Le rapport Databricks State of Data + AI a révélé que les organisations ont déployé 11 fois plus de modèles d’IA en production d’une année sur l’autre, ce qui illustre la croissance rapide des déploiements d’IA en entreprise.

À mesure que les déploiements d’IA dépassent le stade de l’expérimentation, les entreprises adoptent des architectures d’IA hybrides qui répartissent les charges de travail entre les centres de données, les plateformes cloud et les environnements edge. Dell AI Factory with NVIDIA soutient cette approche en intégrant calcul accéléré, réseau, stockage et logiciels d’IA dans des solutions capables de fonctionner dans des environnements hybrides.

De quelle infrastructure les charges de travail d’entraînement et d’inférence de l’IA ont-elles besoin ?

Les charges de travail d’IA à grande échelle nécessitent une infrastructure conçue pour le calcul distribué. L’entraînement des modèles modernes de machine learning implique de traiter de vastes jeux de données sur plusieurs nœuds de calcul, tandis que l’inférence fondée sur le raisonnement introduit de nouvelles exigences : un calcul soutenu et réalisé en plusieurs étapes pour produire des résultats de haute qualité en production.  

L’infrastructure d’IA d’entreprise comprend généralement plusieurs composants clés :

• Clusters de calcul accélérés par GPU : Permettent le traitement parallèle nécessaire aux charges de travail d’entraînement et d’inférence de l’IA à grande échelle
• Réseaux à large bande passante : Permettent aux nœuds de calcul d’échanger de gros volumes de données pendant l’entraînement distribué
• Systèmes de stockage distribué haute performance : Stockent et gèrent les vastes jeux de données utilisés pour entraîner les modèles de machine learning
• Frameworks d’IA : Prennent en charge le développement des modèles, l’expérimentation et les workflows d’entraînement
• Plateformes d’orchestration des charges de travail : Coordonnent les environnements de calcul distribué qui exécutent les charges de travail d’IA

Ces composants permettent aux charges de travail d’IA de fonctionner sur des clusters distribués plutôt que sur des serveurs individuels. Pendant l’entraînement, les modèles échangent de manière répétée des paramètres entre les nœuds de calcul, ce qui rend cruciales les performances du réseau et le débit du stockage.

Les besoins en infrastructure continuent d’augmenter à mesure que les modèles grossissent et que les jeux de données s’étendent. Selon NVIDIA, les charges de travail d’entraînement de l’IA sont très gourmandes en ressources en raison de la complexité des architectures de modèles, des techniques d’optimisation et des itérations répétées d’entraînement. Même des modèles relativement petits entraînés sur des jeux de données limités peuvent nécessiter d’importantes ressources de calcul, de mémoire et d’énergie. Face à l’augmentation de ces besoins, les organisations adoptent des plateformes d’infrastructure intégrées qui simplifient le déploiement et prennent en charge les charges de travail d’IA à grande échelle.

Comment construire une infrastructure d’IA qui évolue avec la croissance des charges de travail ?

Les projets d’IA commencent souvent comme des initiatives expérimentales, mais nécessitent à terme une infrastructure capable de prendre en charge des applications d’IA à raisonnement long au sein de plusieurs équipes et fonctions métier.

Une approche pour faire évoluer l’infrastructure d’IA consiste à utiliser des clusters GPU distribués. Ces clusters permettent d’exécuter simultanément les charges de travail d’entraînement sur plusieurs nœuds de calcul, réduisant ainsi le temps nécessaire à l’entraînement de modèles complexes.

L’infrastructure hybride joue également un rôle essentiel dans l’évolutivité. En combinant des centres de données sur site et des plateformes cloud, les entreprises peuvent garder le contrôle de leurs jeux de données sensibles tout en augmentant leur capacité de calcul lorsque les charges de travail progressent.

Les environnements de développement conteneurisés aident les équipes de data science à faire passer les modèles du développement à la production sans reconstruire l’infrastructure. Cette cohérence permet aux organisations d’accélérer les cycles de déploiement et de gérer plus efficacement les charges de travail d’IA.

Comment les entreprises coordonnent-elles les charges de travail d’IA dans les environnements hybrides ?

À mesure que les déploiements d’IA se multiplient, la gestion des charges de travail entre plusieurs environnements d’infrastructure devient de plus en plus complexe. Les environnements d’IA hybrides nécessitent une coordination entre les pipelines d’entraînement, les services d’inférence et les pipelines de données opérant dans les centres de données, les plateformes cloud et les systèmes edge.

Les plateformes d’orchestration des charges de travail d’IA aident les organisations à gérer ces environnements. Elles prennent généralement en charge plusieurs fonctions essentielles :

• Planification des charges de travail attribue les charges de travail d’IA aux ressources de calcul disponibles
• Allocation des GPU répartit la capacité GPU entre les équipes et les projets
• Coordination des pipelines d’entraînement gère les workflows distribués de machine learning
• Gestion des mouvements de données transfère les jeux de données entre les environnements de calcul et de stockage

L’orchestration des charges de travail permet également leur portabilité. Les modèles peuvent être entraînés dans de grands clusters de centres de données, puis déployés dans des services cloud ou sur des appareils edge, selon les exigences opérationnelles.

Comment les entreprises doivent-elles décider où exécuter les charges de travail d’IA ?

Le placement des charges de travail d’IA doit tenir compte à la fois des exigences de la charge et de l’emplacement des données dont elle a besoin. L’entraînement, le fine-tuning, l’inférence, le RAG et l’IA agentique peuvent avoir des besoins différents en matière de latence, de localité des données, de conformité, de prévisibilité des coûts et d’échelle. Le cadre ci-dessous montre comment les facteurs de décision courants influencent l’adéquation d’une charge de travail à un environnement sur site, cloud, edge ou à une architecture hybride.

Le placement des données fait partie du placement des charges de travail, car les applications d’IA ont besoin d’un accès fiable aux informations qu’elles utilisent pour l’entraînement, la récupération et l’inférence. La Dell AI Data Platform est conçue pour fonctionner dans des environnements de données distribués, permettant aux organisations d’utiliser leurs sources de données existantes sans devoir centraliser chaque jeu de données avant de pouvoir l’exploiter pour une charge de travail d’IA.

Quels obstacles rendent la mise à l’échelle de l’IA d’entreprise difficile ?

La mise à l’échelle de l’IA dans les environnements d’entreprise introduit des défis à la fois techniques et opérationnels.

La capacité de l’infrastructure constitue souvent le premier obstacle. L’entraînement de modèles volumineux nécessite une importante capacité GPU et des réseaux haut débit, deux ressources coûteuses à déployer et à maintenir.

Le tournant de l’inférence est arrivé : l’IA agentique est désormais entrée dans les usages courants, avec l’émergence d’agents autonomes et capables d’évoluer d’eux-mêmes dans les cas d’usage grand public, d’entreprise et industriels. Avec 11 fois plus de modèles passant en production, les entreprises font face à une augmentation d’un ordre de grandeur de la demande d’inférence. Cette croissance est encore amplifiée par le passage au raisonnement et à l’inférence à raisonnement long, où chaque requête nécessite beaucoup plus de calcul et de génération de tokens que les réponses traditionnelles produites en une seule étape. Si l’on y ajoute des agents actifs en permanence, le volume total de tokens augmente encore d’un ordre de grandeur. Il en résulte une hausse en marche d’escalier des besoins en infrastructure — d’où la nécessité d’AI factories conçues spécifiquement pour fournir une inférence évolutive et efficace à l’échelle de la production.

La gestion des données ajoute un niveau de complexité supplémentaire. Les modèles de machine learning reposent sur de vastes jeux de données qui doivent être stockés, traités et accessibles efficacement entre les systèmes. La préparation de ces jeux de données pour l’entraînement et la mise à disposition des données pour les agents d’IA en production nécessitent souvent un important travail d’ingénierie des données. Dans le cadre plus large de Dell AI Factory with NVIDIA, la Dell AI Data Platform fournit une couche de données qui rend les données d’entreprise distribuées accessibles et gouvernées pour les charges de travail d’IA en production.

La complexité opérationnelle augmente également à mesure que les organisations déploient l’IA dans leurs différents services. La supervision des modèles, la gestion des ressources d’infrastructure et la coordination des charges de travail entre les environnements nécessitent des outils et des processus spécialisés.

Comment les entreprises doivent-elles comparer les déploiements d’IA sur site, dans le cloud et à la périphérie ?

Après avoir identifié les exigences des charges de travail, les entreprises peuvent comparer les environnements d’infrastructure disponibles dans une stratégie d’IA hybride.

Plusieurs facteurs influencent ces décisions. Les exigences de latence peuvent imposer l’exécution des charges d’inférence à proximité des utilisateurs ou des appareils. Les politiques de gouvernance des données peuvent exiger que certains jeux de données restent dans des environnements sur site. La prévisibilité des coûts peut également influencer le lieu de déploiement des charges d’entraînement.

Des plateformes comme Dell AI Factory with NVIDIA aident les entreprises à déployer et à gérer les charges de travail d’IA dans des environnements hybrides, tout en conservant une infrastructure et un contrôle opérationnel cohérents.

Prêt à faire passer l’IA de l’expérimentation à l’impact en entreprise ? Découvrez le Enterprise Guide to Scalable AI de TechRepublic pour obtenir des conseils pratiques sur la stratégie, les données, l’infrastructure, les cas d’usage et le retour sur investissement.