NVIDIA et l’entreprise japonaise de télécommunications SoftBank se sont associés pour créer une plateforme dédiée à l’intelligence artificielle générative (IA) et aux applications 5G/6G, basée sur le GH200 Grace Hopper Superchip.
de NVIDIA. SoftBank prévoit de construire au Japon des centres de données capables d’héberger, avec NVIDIA, des applications d’IA générative et des applications sans fil sur une plateforme serveur partagée. Cette solution mutualisée devrait réduire les coûts et améliorer l’efficacité énergétique.
La plateforme proposée utilisera la nouvelle architecture de référence modulaire MGX de NVIDIA avec le Superchip GH200, ce qui augmentera les performances des charges applicatives. L’architecture Grace Hopper, qui intègre 72 cœurs de processeur Arm Neoverse V2 avec de la mémoire LPDDR5X, associe des unités centrales de traitement (CPU) et des processeurs graphiques (GPU) pour accélérer les calculs.
NVIDIA déploiera MGX plus tard cette année, SoftBank étant le premier client à tester l’architecture.
À lire également :100+ grandes entreprises de l’IA en 2023
La modernisation des télécommunications nécessite l’accélération des calculs
Au cours des six dernières décennies, la plupart des architectures informatiques ont été principalement axées sur les CPU. Ces conceptions traditionnelles sont polyvalentes et s’adaptent bien à diverses charges de travail, mais elles sont aujourd’hui remplacées par l’informatique accélérée.
L’informatique accélérée utilise une pile complète, c’est-à-dire qu’elle fait fonctionner ensemble un CPU et un accélérateur, comme un GPU, afin de répartir les tâches de traitement. Cette approche est optimisée pour gérer différentes charges de travail. La mise en réseau de ces deux éléments est essentielle pour maintenir les meilleures performances possibles.
La plateforme commune exploitera également les NVIDIA’s BlueField-3 unités de traitement des données (DPU) de NVIDIA pour accélérer le réseau d’accès radio virtualisé (vRAN) 5G et les applications d’IA générative. Elle devrait atteindre des débits 5G avec une capacité en liaison descendante de 36 Gbit/s.
Par rapport à un RAN virtuel 5G à usage unique, cette approche offre un retour sur investissement environ quatre fois supérieur, car un centre de données peut également être utilisé pour l’IA, a expliqué Ronnie Vasishta, Sr. VP of Telecom chez NVIDIA, lors d’une réunion d’information avec des analystes.
À lire également :Entreprises de l’IA générative : les 12 leaders
L’Open RAN permet une plus grande agilité
Jusqu’à récemment, le modèle dominant dans les télécommunications était un RAN propriétaire, développé sous la forme d’une pile monolithique unique. Cette approche offre de hautes performances, mais elle est coûteuse à maintenir. Nombreux sont ceux qui sont passés à un RAN virtualisé ouvert, en transférant leurs charges de calcul vers une architecture serveur.
Cependant, un RAN virtualisé a eu du mal à égaler les performances d’un RAN propriétaire. Pour y remédier, des accélérateurs conçus à cet effet ont été introduits. Pourtant, ces accélérateurs à usage unique ne pouvaient être utilisés que pour les charges de travail du RAN, ce qui se traduisait par de faibles performances et une rentabilité médiocre dans le cloud.
« Les réseaux à usage unique exclusivement dédiés à la 5G doivent être dimensionnés pour répondre à la demande de pointe. Avec l’arrivée de nouvelles applications d’IA, cette demande de pointe va augmenter. Les besoins en énergie vont croître. Les besoins en calcul vont également augmenter », a déclaré Vasishta. « Nous constatons une sous-utilisation importante des réseaux construits, et le retour sur investissement (ROI) de la 5G est resté relativement faible. »
NVIDIA a développé une architecture logicielle, définie par logiciel et accélérée par GPU, dans laquelle un même accélérateur peut exécuter des tâches d’IA et de RAN. Le RAN et l’IA peuvent ainsi coexister au sein d’un centre de données, qu’il soit public, distribué ou sur site. Cette approche permet essentiellement à la 5G de fonctionner comme une couche logicielle par-dessus des clouds d’IA, le matériel restant identique. En réalité, à mesure que les algorithmes 6G seront développés, ils pourront être intégrés au matériel existant sans qu’il soit nécessaire de déployer de nouveaux équipements.
À lire également :Les meilleures applications et outils d’IA générative
L’IA générative est un « moment iPhone »
Vasishta a qualifié ce phénomène de « moment iPhone pour l’IA » (une expression que le PDG de NVIDIA, Jensen Huang, a employée à plusieurs reprises) — l’impact transformateur de l’intelligence artificielle sur les centres de données, comparable à la façon dont l’iPhone a révolutionné les smartphones.
Ce moment se caractérise par la convergence de deux facteurs qui transforment le secteur technologique : l’évolution des architectures informatiques et l’émergence de l’IA générative. L’IA générative nécessite des architectures scale-out, ce qui stimule fortement la demande en « usines d’IA » ou centres de données en réseau, a déclaré Vasishta. Les applications comme les chatbots et la visioconférence, rendues possibles par l’IA générative, génèrent une demande importante sur les réseaux de télécommunications.
NVIDIA s’attaque à ce problème en rendant l’infrastructure 5G non seulement virtualisée, mais aussi entièrement définie par logiciel. Il devient ainsi possible d’exécuter un réseau 5G performant et efficace parallèlement à des applications d’IA au sein du même centre de données. Cela ouvre de nouvelles possibilités de monétisation pour les opérateurs comme SoftBank et d’autres, en leur permettant de devenir des fournisseurs régionaux de services cloud. En construisant une usine d’IA, ils peuvent également fournir des services RAN et exploiter ainsi plus efficacement le spectre qu’ils ont acquis.
SoftBank explore des applications 5G dans différents secteurs, notamment la conduite autonome, la réalité augmentée et virtuelle (RA/RV), la vision par ordinateur et les jumeaux numériques. Le partenariat avec NVIDIA constitue une étape importante dans l’évolution des centres de données, où la demande en informatique accélérée et en IA générative entraîne des changements fondamentaux.
Sur un sujet connexe :L’avenir de l’intelligence artificielle