Nvidia a présenté Minerva le 22 octobre, une plateforme d’observabilité dopée à l’IA conçue pour aider les opérateurs de centres de données à détecter les problèmes des clusters de GPU avant qu’ils ne perturbent les charges de travail. Le système relie les données de l’infrastructure et des charges de travail, identifie les comportements inhabituels et regroupe les alertes associées pour aider les ingénieurs à localiser l’origine d’un problème.
Le lancement répond à un défi croissant pour les usines d’IA : surveiller des milliers de composants interconnectés sans submerger les équipes opérationnelles d’alertes. Nvidia affirme que Minerva peut prédire les défaillances émergentes et recommander des correctifs, sans toutefois avoir publié de benchmarks établissant la précision de ces fonctionnalités.
Comment Nvidia Minerva détecte les problèmes des clusters de GPU
Selon l’annonce de Nvidia, Minerva collecte la télémétrie des GPU, des équipements réseau, des systèmes de stockage, des ordonnanceurs de tâches et des charges de travail d’IA.
La plateforme organise ces informations dans un graphe de connaissances dynamique reliant les GPU, les SuperNIC, les commutateurs, les câbles et les tâches qui s’exécutent sur ces équipements.
Minerva utilise ensuite l’apprentissage automatique supervisé et non supervisé pour analyser des milliards de points de données par heure. Il apprend les schémas de fonctionnement normaux, détecte les anomalies jamais observées auparavant, prédit les défaillances émergentes et corrèle les événements associés en fonction des connexions de l’infrastructure.
Une tâche d’entraînement lente, par exemple, pourrait être attribuée à un périphérique de stockage ou à un composant réseau peu performant plutôt que traitée comme un problème isolé de l’application.
Nvidia affirme que Minerva peut regrouper plusieurs avertissements en un seul incident assorti d’une cause racine probable, réduisant ainsi le nombre d’alertes que les ingénieurs doivent examiner séparément.
Des défis similaires de corrélation des alertes sont pris en charge par des agents d’IA pour les opérations informatiques, notamment SolarWinds Avior, qui vise également à relier les signaux de l’infrastructure et à automatiser les investigations.
Minerva intègre un assistant IA qui permet aux opérateurs de poser des questions en langage naturel sur l’état du cluster et de recevoir des mesures correctives recommandées.
Les équipes peuvent appliquer ces recommandations manuellement ou connecter Minerva aux API de l’infrastructure et à des systèmes externes afin d’automatiser certaines actions.
Cependant, Nvidia n’a pas détaillé les contrôles d’approbation, les mécanismes de retour arrière ni les garde-fous qui encadrent les changements automatisés apportés à l’infrastructure de production.
L’entreprise n’a pas non plus précisé les générations de GPU prises en charge, les configurations d’ordonnanceurs ou la compatibilité avec les équipements autres que ceux de Nvidia.
Ces détails pourraient influer sur la facilité avec laquelle les entreprises intègrent Minerva à leurs environnements existants.
Ce qu’a constaté eWeek : quatre tests à effectuer avant de faire confiance à Minerva
Nvidia a cité le fournisseur d’infrastructures d’IA IREN comme utilisateur actuel de Minerva.
« NVIDIA Minerva offre à notre équipe opérationnelle une vue unique du réseau, des GPU et des tâches qui s’exécutent sur ces équipements, ce qui nous permet de nous concentrer davantage sur la maintenance proactive que sur le dépannage », a déclaré Denis Skrinnikoff, directeur technique d’IREN, dans l’annonce de Nvidia.
Sept autres organisations prévoient de déployer la plateforme : Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI et Tesla.
Dell Technologies, Lenovo et Supermicro prévoient également de proposer Minerva dans le cadre de leurs portefeuilles de solutions d’exploitation pour usines d’IA.
Ces engagements témoignent de l’intérêt du secteur, mais Nvidia n’a pas publié de chiffres propres à Minerva concernant la précision de la détection, les faux positifs ou le délai moyen de résolution.
Quatre tests aideraient les équipes d’infrastructure à évaluer si la plateforme apporte des améliorations mesurables :
- Mesurer la précision des alertes. Comparer les avertissements de Minerva aux incidents confirmés. Suivre les faux positifs et les défaillances que le système ne détecte pas, plutôt que de compter uniquement le nombre d’alertes qu’il regroupe.
- Tester l’identification de la cause racine. Introduire des défaillances connues de GPU, de réseau et de stockage dans un environnement contrôlé. Vérifier si Minerva identifie le composant affecté ou se contente de regrouper les symptômes associés.
- Mesurer le délai de rétablissement. Comparer les délais de détection, de diagnostic et de résolution des incidents avec ceux des outils de supervision existants. La seule accélération de la génération des alertes ne suffit pas à établir un rétablissement plus rapide.
- Valider les garde-fous de l’automatisation. Confirmer quelles actions nécessitent une approbation, si les changements peuvent être annulés et comment les administrateurs empêchent les mesures correctives automatisées de perturber les charges de travail saines.
Ces tests constituent des critères d’évaluation proposés, et non les résultats d’une évaluation de Minerva menée par eWeek.
La distinction entre détecter une défaillance et la résoudre en toute sécurité apparaît également dans des travaux récents sur les autorisations des agents d’IA, qui exigent des administrateurs qu’ils définissent les actions que les systèmes automatisés peuvent effectuer.
La valeur potentielle de Minerva dépend de la précision de ses recommandations dans différentes configurations de GPU, charges de travail et défaillances d’infrastructure.
Nvidia n’a pas communiqué ses tarifs ni de date de disponibilité générale, et son annonce n’établit pas la compatibilité avec tous les environnements d’entreprise.
Le déploiement d’IREN pourrait à terme fournir des éléments opérationnels utiles, mais Nvidia n’a pas publié de résultats détaillés sur les performances de cette installation.
En attendant ces résultats, les entreprises disposent d’une architecture documentée et d’une liste de partenaires intéressés, mais pas de suffisamment d’éléments pour quantifier l’effet de Minerva sur la disponibilité des GPU ou les coûts de dépannage.
À lire aussi : ServiceNow et Nvidia’s Arc présentent un agent d’IA d’entreprise capable d’exécuter des missions professionnelles étendues dans le respect des autorisations définies par l’équipe informatique.