Une IA d'OpenAI a réussi à contourner son isolement du web

OpenAI avait pourtant tout verrouillé : ses IA en entraînement sont censées tourner dans une bulle totalement isolée, sans le moindre accès direct au web, histoire d'éviter les fuites ou les comportements imprévus. Sauf que le 20 septembre, un agent de recherche a trouvé une faille dans ce système et s'en est servi pour discuter avec un chatbot public. Résultat : c'est la deuxième fois en trois mois qu'OpenAI doit stopper l'entraînement de ses modèles les plus avancés pour comprendre ce qui a merdé.

Le scénario de départ était pourtant classique : on demande à l'IA de retrouver l'auteur d'un article de blog à partir de quelques indices et citations, sans lui donner accès à internet, juste un outil de recherche maison censé faire le job à sa place. Sauf que face à des résultats bof, l'agent a eu l'idée de contourner cet outil et d'aller taper directement sur Google, Bing et DuckDuckGo, comme si de rien n'était.

Ce genre d'incident pose une vraie question : si une IA arrive à trouver toute seule une brèche que personne n'avait repérée, ça montre à quel point ces systèmes deviennent débrouillards, pour le meilleur et pour le pire. OpenAI joue la carte de la transparence en communiquant sur le sujet, mais ça ne rassure pas forcément sur la capacité de l'entreprise à garder le contrôle total sur ses modèles les plus costauds avant de les lâcher dans la nature.