Nvidia s’attaque au coût croissant des agents d’IA fonctionnant en permanence avec un modèle rapide et ouvert de 30 milliards de paramètres, ainsi qu’un outil de routage qui envoie les différentes parties d’une tâche vers des modèles en fonction de leurs capacités, de leur coût et de leur latence.
Le fabricant de puces a présenté mardi Nemotron 3.5 Lightning, un modèle d’IA ouvert, et NeMo Switchyard, une bibliothèque de routage open source destinée aux entreprises qui développent des agents d’IA autonomes sur des systèmes locaux, dans des centres de données et dans des environnements cloud.
Nemotron 3.5 Lightning est un modèle à mélange d’experts de 30 milliards de paramètres, dont 3 milliards de paramètres actifs, conçu pour les tâches à haut volume au sein de systèmes d’agents plus vastes. Nvidia a indiqué que le modèle offre une vitesse de génération jusqu’à quatre fois supérieure à celle de modèles de taille comparable. Sur PinchBench, il a atteint une précision de 86 % tout en réalisant 10 000 tâches 30 % plus rapidement que Qwen3.6 35B, avec une précision comparable.
Cette annonce marque le lancement du premier modèle d’IA open source de Nvidia depuis que son PDG Jensen Huang a déclaré publiquement que les modèles d’IA à poids ouverts devraient rester largement accessibles aux États-Unis.
Router les requêtes vers le modèle approprié
Parallèlement au modèle, Nvidia a lancé NeMo Switchyard, une bibliothèque de routage open source capable d’envoyer des requêtes, des étapes de workflow ou des sessions vers différents modèles en fonction de facteurs tels que les capacités, la latence et le coût.
L’entreprise affirme que les grands comptes peuvent utiliser Switchyard avec des combinaisons de modèles ouverts, propriétaires et Nvidia sans réécrire leurs applications existantes. Les benchmarks internes cités par Nvidia montrent que le logiciel peut maintenir une précision de niveau modèle de pointe tout en ramenant le coût d’exécution des tâches à environ un tiers de celui obtenu en utilisant uniquement le modèle Opus 4.8 d’Anthropic.
Nvidia affirme que des entreprises comme CrowdStrike, Harvey, CodeRabbit, Ramp, LangChain et Cognition ont testé ou intégré ces nouveaux outils à leurs workflows d’IA.
Pourquoi Nvidia mise sur l’IA ouverte
Cette annonce intervient alors que la concurrence dans le domaine de l’IA open source s’intensifie. Meta a lancé cette semaine un nouveau modèle ouvert de programmation, tandis que les développeurs chinois d’IA ont rapidement réduit l’écart de performances avec les systèmes américains de premier plan.
Nvidia se positionne de plus en plus comme un fervent défenseur des modèles ouverts. « Les modèles ouverts renforcent la sécurité et la cybersécurité, accélèrent l’innovation et sa diffusion, et favorisent la souveraineté », a écrit Huang dans une récente déclaration publique.
L’intérêt commercial de l’entreprise est également évident : les modèles d’IA gratuits nécessitent toujours du matériel puissant pour fonctionner. Comme Huang l’a déclaré à Axios le mois dernier, « l’IA gratuite devrait être une bonne chose pour le matériel. L’IA gratuite devrait être une bonne chose pour les puces. »
Le compromis pour les entreprises
Le changement concret consiste moins à trouver un modèle unique idéal qu’à concevoir un système d’IA capable de savoir quand utiliser chaque modèle.
Cela pourrait rendre Switchyard intéressant pour les entreprises qui exploitent des agents complexes, en particulier lorsque les requêtes courantes représentent une part importante des charges de travail. Mais les chiffres de Nvidia en matière de performances et de coûts reposent en grande partie sur ses propres benchmarks ou sur des tests réalisés par ses partenaires. Les acheteurs devraient donc vérifier les économies et la précision obtenues sur leurs propres charges de travail avant de remplacer leurs modèles existants.
Lightning n’est pas présenté comme un modèle généraliste de pointe. Son avantage réside dans une exécution efficace et personnalisable, ce qui rend particulièrement importante la distinction entre ses 30 milliards de paramètres au total et ses 3 milliards de paramètres actifs.
Nemotron 3.5 Lightning est disponible via Hugging Face, ModelScope, OpenRouter et les plateformes de Nvidia, tandis que NeMo Switchyard est disponible sur GitHub.
En savoir plus : découvrez comment les agents d’IA planifient, utilisent des outils et coordonnent des tâches, et comment les nouvelles sorties de Nvidia pourraient rendre ces workflows plus rapides et moins coûteux.