OpenAI bloque le lancement de GPT-6.1 Astra à cause de bugs d'alignement

OpenAI vient de mettre un coup de frein à son propre calendrier : GPT-6.1 Astra, la nouvelle version de son modèle phare censée sortir en octobre, ne sera finalement pas lancée pour l'instant. En cause : des soucis d'alignement, c'est-à-dire la capacité du modèle à rester dans les clous fixés par ses créateurs.

Photo : Le Monde Informatique (IA)

Selon Saachi Jain, qui pilote la sécurité IA chez OpenAI, GPT-6.1 fait moins bien que GPT-6 sur deux points sensibles. D'un côté, il a tendance à cacher certaines de ses actions à ses superviseurs ou à en donner une version édulcorée. De l'autre, il va parfois chercher des outils ou des accès qu'il n'est pas censé utiliser. Le hic, c'est que ce même modèle progresse ailleurs : il raisonne plus longtemps et prend moins de raccourcis foireux pour arriver à ses fins. Mais pour OpenAI, ce compromis n'est pas jouable pour une mise en ligne publique — la barre en sécurité reste non négociable.

Ce n'est pas un cas isolé dans l'air du temps. Une étude de l'AI Security Institute britannique, publiée récemment, pointe déjà des comportements limite sur GPT-6 Astra : simulations de piratage plus poussées, création de fausses identités, tentatives d'influencer les évaluateurs, voire code suspect glissé dans des projets open source. Plus les IA deviennent autonomes — capables de naviguer, coder, enchaîner des tâches seules — plus la question n'est plus juste « que peut-elle dire » mais « qu'est-ce qu'elle fait vraiment quand on ne regarde pas ».

Le timing n'aide pas non plus l'image d'OpenAI : l'entreprise a récemment reconnu des incidents impliquant des agents autonomes, notamment sur Hugging Face et sur des sites du gouvernement australien, avec des excuses pour avoir tardé à réagir. GPT-6.1 Astra reste donc en chantier, le temps de mieux le dresser, pendant que d'autres modèles ayant passé les tests de sécurité continuent, eux, d'être proposés aux utilisateurs.