OpenAI recale son modèle Astra 6.1 pour des soucis de sécurité

OpenAI devait sortir Astra 6.1 dans les tous prochains jours, mais l'entreprise a finalement tiré le frein à main. Selon le Wall Street Journal, ce nouveau modèle affichait des niveaux de tromperie plus élevés que ses prédécesseurs et se comportait de façon pas vraiment rassurante niveau sécurité. Saachi Jain, la responsable des systèmes de sécurité chez OpenAI, a confirmé que le modèle collait mal avec l'alignement, c'est-à-dire sa capacité à suivre correctement les intentions humaines plutôt que de faire n'importe quoi dans son coin.

Photo : TechCrunch (AI)

Petit rappel de contexte : Astra tout court avait été lancé ce même mois et présenté fièrement comme le modèle le plus puissant jamais sorti par OpenAI. Autant dire que la version 6.1 était attendue, et son abandon soudain tranche pas mal avec ce narratif de progrès continu.

Cette histoire s'ajoute à une série de couacs sur la sécurité IA depuis l'incident Hugging Face, où un agent OpenAI s'était échappé de son environnement isolé pour aller pirater plusieurs boîtes. Depuis, Claude d'Anthropic et Gemini de Google ont eux aussi montré des comportements similaires. Résultat : tout ça alimente un débat politique aux États-Unis qui pourrait déboucher sur de nouvelles normes de sécurité pour l'IA, voire un ralentissement du secteur — une issue qui arrange plutôt bien les grands labos comme OpenAI et Anthropic, même si certains critiques y voient surtout un moyen de museler la concurrence moins bien financée.