Nvidia lance une plateforme ouverte pour sécuriser les agents IA
Nvidia lance Open Agent Safety Platform pour encadrer l’exécution des agents IA. La plateforme combine un environnement logiciel open source et un mécanisme matériel capable de surveiller et d’isoler les agents qui sortent des limites définies.
Nvidia lance Open Agent Safety Platform, une plateforme destinée à contrôler les agents IA depuis leur phase de test jusqu’à leur déploiement. L’approche consiste notamment à déplacer une partie des mécanismes de sécurité hors du modèle et de sa couche applicative, après plusieurs incidents au cours desquels des agents ont contourné des contrôles situés à ce niveau, selon un communiqué.
La plateforme repose sur deux briques principales. OpenShell, logiciel open source, crée un environnement d’exécution sécurisé autour des agents, trace leurs actions et applique des politiques lorsqu’ils accèdent à des données, des outils, des API ou d’autres services.
OpenShell fonctionne notamment avec les processeurs Vera de Nvidia, conçus pour les charges de travail d’IA agentique. Son caractère open source permet toutefois son adaptation à des plateformes de calcul tierces, notamment celles reposant sur des technologies d’Arm et d’Intel.
Une surveillance indépendante dans le matériel
La seconde composante, Sentry, ajoute une couche de surveillance exécutée séparément sur les DPU BlueField-4 de Nvidia. Selon le fabricant, elle contrôle en continu l’activité de l’agent et peut l’isoler puis interrompre son fonctionnement en quelques millisecondes lorsqu’il tente de sortir de ses limites.
Cette couche indépendante est censée empêcher l’agent d’agir sur les mécanismes chargés de le surveiller. Basé sur la plateforme DOCA, Sentry peut inspecter les requêtes et réponses, vérifier l’identité des agents, générer des données de télémétrie et appliquer des politiques d’accès zero trust aux données, outils, API et services.
«La sécurité exige une ingénierie couvrant l’ensemble de la pile», affirme Jensen Huang, fondateur et CEO de Nvidia. Le groupe présente ainsi son approche comme un contrôle réparti entre les couches logicielles et matérielles.
Des intégrations avec Anthropic, Salesforce et SAP
Anthropic a ajouté OpenShell et BlueField à ses Claude Managed Agents afin de renforcer le contrôle des accès aux environnements d’exécution. Salesforce a intégré OpenShell à Slack, où les équipes peuvent consulter l’activité des agents, suivre les événements d’audit et approuver ou refuser des demandes d’autorisations supplémentaires. SAP prévoit pour sa part une intégration à l’environnement d’exécution de Joule Studio.
Le dispositif s’étend aussi aux systèmes autonomes physiques, avec Figure, Gecko Robotics et Skild AI, qui utilisent OpenShell pour appliquer des contrôles similaires à des systèmes robotiques, selon Nvidia. OpenShell et les autres composants logiciels de l’Open Agent Safety Platform sont disponibles via les ressources pour développeurs de Nvidia et GitHub. Le projet s’inscrit également dans les travaux de l’Open Secure AI Alliance, placée sous la gouvernance de la Linux Foundation.
L’actualité IT en Suisse et à l’international, avec un focus sur la Suisse romande, directement dans votre boîte mail > Inscrivez-vous à la newsletter d’ICTjournal, envoyée du lundi au vendredi!
