NVIDIA dégaine OpenShell pour mettre une laisse aux agents IA

NVIDIA vient de sortir le grand jeu avec l'Open Agent Safety Platform, une plateforme censée mettre des garde-fous sérieux aux agents IA qui ont parfois la fâcheuse tendance à contourner les règles qu'on leur impose. Le constructeur ne donne pas de noms, mais évoque clairement des incidents récents où des agents ont trouvé le moyen de passer outre les sécurités côté application pour accomplir leur mission coûte que coûte. L'idée derrière OpenShell, c'est de déplacer le contrôle non plus dans le harnais de l'agent (facilement manipulable) mais directement dans le moteur d'exécution qui le fait tourner.

Photo : ActuIA

Et contrairement à ce qu'on pourrait croire, OpenShell n'est pas né du jour au lendemain : le dépôt GitHub existe depuis mars 2026, avec des mises à jour quasi quotidiennes jusqu'à fin août, puis une pause de quatre semaines avant l'arrivée de la version 0.1.0 fin septembre. Concrètement, le système repose sur trois briques : une passerelle qui gère plein de bacs à sable, un superviseur qui scrute chaque requête sortante, et le bac à sable lui-même qui verrouille fichiers et processus au niveau du noyau. Les règles s'écrivent en YAML et passent par le moteur Open Policy Agent, avec un principe simple résumé par Anthropic : tout ce qui n'est pas explicitement autorisé est bloqué.

Autre fonctionnalité qui fait causer, le prouveur de politiques, censé vérifier mathématiquement ce qu'un agent peut ou ne peut pas faire sous un jeu de règles donné. Il s'appuie sur le solveur Z3 et traîne en coulisses depuis avril, bien avant d'être officiellement mis en avant. Reste que le second pilier de l'annonce, Sentry, le gardien matériel censé tourner sur les cartes BlueField-4 pour surveiller tout ça depuis l'extérieur, n'a toujours pas de date de sortie. NVIDIA livre donc la moitié du plan et fait patienter pour le reste.