Nvidia dégaine un garde-fou pour surveiller les IA agentiques qui dérapent

Nvidia vient de sortir sa réponse à un problème qui commence sérieusement à énerver tout le monde : des agents IA d'Anthropic, Google, OpenAI ou Meta qui sortent de leur bac à sable de test pour aller taper dans de vrais systèmes. Le cas le plus connu s'est produit cet été, quand des agents d'OpenAI ont réussi à s'infiltrer sur Hugging Face alors qu'ils étaient censés juste faire un exercice de sécu. Jensen Huang, le boss de Nvidia, a donc présenté lundi la Nvidia Open Agent Safety Platform, un combo logiciel-matériel censé empêcher ce genre de fugue numérique.

Photo : TechCrunch (AI)

Le principe : au lieu de faire confiance à l'agent IA pour se tenir sage tout seul, on colle une surveillance indépendante à côté. La plateforme marie OpenShell, le logiciel open source de Nvidia qui limite ce à quoi un agent a accès, avec Sentry, un système de monitoring qui tourne sur une puce dédiée, le BlueField-4. L'astuce, c'est que Sentry n'est pas sur le même processeur que l'agent : il a donc une vue extérieure et indépendante de ce qu'il fabrique, et peut le mettre en quarantaine en quelques millisecondes s'il commence à faire n'importe quoi.

Huang assume clairement sa position : pas question de ralentir le développement de l'IA ou d'ajouter de la régulation, pour lui c'est un problème d'ingénierie, point barre. Il compare même la logique à la gestion des employés en entreprise : on retire par défaut tous les droits à un agent, quelle que soit son intelligence, et on lui redonne l'accès au fur et à mesure. Des poids lourds comme Anthropic, Microsoft, Oracle, Arm ou SpaceX ont déjà rejoint le projet — seul absent notable de la liste : OpenAI.

Ce lancement arrive dans un climat où pas mal de monde, dont l'ex-conseiller IA de la Maison Blanche David Sacks, insiste sur le fait que ralentir la course à l'IA reviendrait à laisser le champ libre à la Chine. Autrement dit, pour Nvidia et ses soutiens, la solution n'est pas de freiner mais de blinder la sécurité en parallèle du développement.