OpenAI dégaine son clone de Jev pour calmer ses agents IA

OpenAI a sorti une petite surprise pendant son Dev Day : la Decisions API, présentée en aside par Sam Altman. Et devine quoi, ça ressemble furieusement à Jev, le modèle sorti il y a quelques semaines par TypeSafe AI. L'idée derrière Jev, c'est un classificateur boosté à l'IA qui, au lieu de te sortir un pavé de texte, te donne des probabilités sur un choix précis, super vite et pour trois fois rien.

Photo : TechCrunch (AI)

La Decisions API fait pareil avec le modèle maison Luna : tu lui donnes une liste d'options (classer une image, choisir un comportement pour un agent, etc.) et elle tranche sans mobiliser toute la puissance de calcul d'un LLM classique. Le patron de TypeSafe, Diogo Almeida (ex-ingénieur OpenAI et co-inventeur du reinforcement learning), a pris ça avec humour sur X en parlant de "clone wars", tout en soulignant que l'intérêt d'OpenAI valide son approche : les LLM classiques sont souvent trop lents et trop chers pour plein de tâches du quotidien.

Au-delà du clash entre les deux boîtes, l'application la plus prometteuse de ce genre de modèle, c'est la surveillance des agents IA qui partent en vrille. Un développeur a bricolé une démo utilisant Jev pour vérifier chaque action d'un agent par rapport à sa mission, bloquer les trucs louches et laisser filer le reste. Résultat : une surveillance complète coûterait 2,94 dollars avec Jev, contre 372 dollars avec un gros LLM classique. De quoi, en théorie, éviter des incidents comme celui qui avait touché Hugging Face avec des agents mal supervisés.

Bref, ces modèles "de décision rapide" pourraient bien devenir la norme pour fiabiliser les agents IA à moindre coût, et OpenAI n'est clairement pas le seul acteur à vouloir sa part du gâteau.