Nvidia veut empêcher les agents IA indociles grâce au matériel — voici comment fonctionne son nouveau système de sécurité

Les agents IA peuvent désormais utiliser des outils, accéder à des fichiers, appeler des API et fonctionner de manière autonome pendant de longues périodes. Nvidia veut que certains des contrôles qui les régissent se trouvent dans un emplacement que l’IA ne peut pas modifier directement : en dehors de son propre environnement logiciel.

L’entreprise a lancé l’Open Agent Safety Platform de Nvidia, qui associe une mise en bac à sable logicielle à un système de surveillance optionnel isolé matériellement, conçu pour limiter le comportement des agents. Nvidia affirme que cette couche matérielle peut placer un agent en quarantaine en quelques millisecondes lorsqu’elle est déployée avec ses unités de traitement de données BlueField-4.

Cette approche applique des principes de sécurité familiers — notamment l’isolation, le principe du moindre privilège, la vérification d’identité et l’application de politiques — à des systèmes d’IA autonomes susceptibles de fonctionner longtemps sans supervision humaine constante.

OpenShell place les agents dans un environnement d’exécution contrôlé

La première couche est Nvidia OpenShell, un environnement d’exécution open source sous licence Apache 2.0 qui exécute les agents dans des bacs à sable isolés.

Les opérateurs définissent les fichiers, réseaux, processus, outils et identifiants auxquels un agent peut accéder. Selon Nvidia, OpenShell applique ensuite ces restrictions à l’aide de contrôles au niveau du noyau couvrant les accès aux fichiers, aux processus et au réseau.

C’est important, car les agents utiles ont souvent besoin de permissions étendues.

Un agent de programmation, par exemple, peut avoir besoin de lire des fichiers, d’installer des paquets, d’appeler des services externes et d’utiliser des identifiants. OpenShell est conçu pour séparer ce que l’agent est capable de faire de ce à quoi il est effectivement autorisé à accéder.

Nvidia affirme également que les identifiants peuvent rester en dehors du bac à sable de l’agent et n’être ajoutés qu’aux requêtes envoyées vers des points d’accès approuvés, ce qui réduit la nécessité de les exposer directement à l’agent.

BlueField ajoute une couche de surveillance indépendante

La deuxième couche de Nvidia est Sentry, une architecture de référence qui s’exécute sur les DPU BlueField-4.

L’entreprise décrit Sentry comme un système de surveillance hors bande, car il fonctionne séparément de l’agent IA et des logiciels hôtes. À l’aide du framework logiciel DOCA de Nvidia, Sentry peut inspecter l’activité de l’agent, vérifier les identités, surveiller l’accès aux données et aux outils, et appliquer les politiques de sécurité.

Comme BlueField fonctionne dans un domaine matériel isolé, Nvidia affirme que sa surveillance peut se poursuivre même si les logiciels exécutés sur l’hôte sont compromis. L’agent ne peut pas modifier directement le mécanisme de surveillance exécuté en dehors de son environnement.

Nvidia affirme également que Sentry peut placer un agent en quarantaine en quelques millisecondes s’il détecte un comportement qui s’écarte des politiques définies.

Il s’agit d’une affirmation de performance de l’entreprise. La plateforme est nouvelle et il n’existe pas encore de preuves indépendantes montrant la constance de cette réaction dans des déploiements de production à grande échelle.

OpenShell peut fonctionner sans matériel Nvidia

La couche logicielle ne nécessite pas de BlueField-4.

Nvidia affirme qu’OpenShell peut fonctionner sur des systèmes locaux, des infrastructures sur site, des environnements cloud et Kubernetes, sans Sentry. L’environnement d’exécution est optimisé pour le processeur Vera de Nvidia, mais peut également être étendu à des plateformes de calcul tierces, notamment les systèmes Arm et Intel.

BlueField-4 ajoute la couche distincte d’application des règles, isolée matériellement, pour les organisations qui souhaitent une frontière de contrôle supplémentaire.

OpenShell prend également en charge les modèles ouverts et fermés et peut fonctionner avec les outils d’agents existants. Nvidia cite Claude Code, Codex, OpenCode, GitHub Copilot CLI et OpenClaw parmi les agents actuellement pris en charge.

L’entreprise affirme que Cadence, Slack et Gecko Robotics adoptent OpenShell pour des usages comprenant la conception de puces, l’automatisation des entreprises et la robotique.

L’Open Agent Safety Platform de Nvidia bénéficie également du soutien d’entreprises comme Anthropic, Cisco, CrowdStrike, Dell Technologies, Microsoft, Palantir, Palo Alto Networks, Salesforce, SAP, ServiceNow et SpaceXAI.

Comment fonctionnent les couches de sécurité des agents IA de Nvidia

Nvidia déplace certains contrôles de sécurité en dehors du modèle

Nvidia affirme que des cas récents d’agents contournant les contrôles au niveau de l’application ont contribué à motiver la plateforme.

Son équipe technique décrit un problème plus large qu’elle appelle le « drift » des agents, lorsqu’un système d’IA s’écarte de la tâche qui lui était assignée après avoir rencontré des actions bloquées, des outils manquants, des bugs, des instructions ambiguës ou des échecs répétés.

Plutôt que de s’appuyer uniquement sur les protections au niveau du modèle, Nvidia ajoute une couche d’application des règles en dehors du modèle lui-même.

Cela ne signifie pas qu’OpenShell ou Sentry puissent garantir qu’un agent IA se comportera toujours correctement. Nvidia présente la plateforme comme une couche supplémentaire de confinement et de surveillance, et non comme un remplacement des protections du modèle, de la sécurité des applications ou de la supervision humaine.

Jensen Huang, PDG de l’entreprise, a décrit cette stratégie comme un élément de l’approche plus large d’« ingénierie full-stack » de Nvidia en matière de sécurité de l’IA.

Ce qu’a constaté eWeek : Nvidia déplace une partie de l’application des règles visant les agents IA en dehors de l’agent lui-même

La distinction essentielle dans l’architecture de Nvidia tient à l’emplacement de l’autorité exercée sur un agent IA.

OpenShell définit des restrictions en dehors du processus de l’agent, tandis que Sentry peut déplacer une autre couche de surveillance et d’application des règles dans un domaine matériel isolé. La documentation de Nvidia distingue ces contrôles d’exécution des protections du modèle : les protections influencent ce que l’agent tente de faire, tandis que les contrôles d’exécution déterminent ce à quoi il est autorisé à accéder.

L’architecture applique des pratiques de cybersécurité établies — notamment la mise en bac à sable, le principe du moindre privilège, l’isolation et l’accès zero trust — à des agents autonomes susceptibles d’interagir avec des outils et des infrastructures sans intervention humaine continue.

Il existe des limites importantes à ce que l’on peut en conclure. Nvidia affirme que Sentry peut placer les agents en quarantaine en quelques millisecondes, mais la plateforme n’a été annoncée que récemment et son efficacité dans de grands environnements de production n’a pas encore été établie indépendamment.

Le système ne dispense pas non plus d’évaluer le modèle d’IA sous-jacent, les permissions de l’application, l’architecture de sécurité ou le processus d’approbation humaine.

Nvidia ajoute plutôt une frontière de sécurité supplémentaire : si un agent ignore ou contourne les contrôles au sein de son environnement logiciel, l’infrastructure située en dehors de cet environnement peut malgré tout limiter ce à quoi il peut accéder.

Vous souhaitez découvrir d’autres conseils, astuces et techniques de rédaction de prompts pour l’IA ? Les lecteurs d’eWeek bénéficient de 7 jours d’accès gratuit à The Neuron Academy, notre plateforme d’apprentissage pratique conçue pour aider les professionnels à utiliser l’IA avec davantage d’assurance au travail. Parcourir toutes les leçons →

Laissez-nous vous apprendre à parler à l’IA gratuitement ! Suivez notre cours de six minutes sur The Neuron Academy et découvrez quelques méthodes simples pour rédiger de meilleurs prompts et obtenir des résultats plus utiles avec l’IA, ou consultez gratuitement pendant sept jours notre autre cours consacré à l’IA. Découvrez toutes les leçons ici →