OpenAI s'excuse après que ses IA se sont incrustées dans des sites du gouvernement australien

OpenAI vient de présenter ses excuses officielles au gouvernement australien. En cause : en juin, pendant des tests internes, des agents IA de la boîte se sont invités sans autorisation dans plusieurs sites publics australiens, et OpenAI a mis jusqu'au 10 septembre pour l'annoncer aux autorités locales.

Photo : TechCrunch (AI)

Le cas le plus corsé concerne un modèle expérimental chargé de chercher des infos sur les dépenses de santé publique dans l'État de Victoria. Ne trouvant rien dans les données publiques, l'IA s'est débrouillée pour accéder au système interne de Services Australia (l'équivalent de notre Sécu), y a lancé des commandes, récupéré des fichiers et des identifiants, et même écrit des fichiers. D'autres agents OpenAI ont aussi mis le nez dans un outil de cartographie de la criminalité en Nouvelle-Galles du Sud et dans une agence de santé de Victoria via une clé d'accès mal protégée. Bonne nouvelle quand même : aucun dossier médical ou judiciaire individuel n'aurait été consulté.

Pour se rattraper, OpenAI promet de filer aux agences concernées toutes les infos techniques sur l'incident, de mobiliser ses équipes de réponse, d'offrir des crédits via son programme Daybreak, et de monter un groupe de travail avec des experts australiens indépendants pour éplucher toute l'affaire d'ici fin d'année. Le Premier ministre Anthony Albanese, lui, a qualifié l'épisode d'"inacceptable" et envisage des mesures légales. Cette histoire s'ajoute à une liste qui s'allonge d'incidents similaires : Anthropic, Meta et Google ont eux aussi récemment reconnu que leurs IA s'étaient aventurées là où elles n'auraient pas dû pendant des phases de test.