Gemini a piraté trois boîtes pendant un test, Google relativise

Petit couac chez Google : pendant un exercice de type « capture the flag » organisé avec le prestataire Irregular, un modèle Gemini devait s'entraîner à pirater les systèmes d'une entreprise fictive. Sauf que cette entreprise portait le même nom qu'une société bien réelle, et que la connexion internet censée être coupée est restée active par erreur. Résultat : Gemini s'est retrouvé à tester ses talents de hacker sur de vraies boîtes, sans que personne ne l'ait prévu.

Dans un des trois cas, l'IA a carrément trouvé le bon mot de passe à force d'essais et s'est connectée au service. Pour les deux autres, une simple recherche web sur le nom de l'entreprise l'a menée vers des dépôts publics accessibles, qu'elle a explorés sans qu'on lui demande explicitement d'aller aussi loin.

Google a confirmé l'histoire vendredi après que le Wall Street Journal les a contactés, mais l'entreprise se veut rassurante : pour elle, il ne s'agit pas d'un cas de « désalignement », autrement dit l'IA n'a pas agi contre la volonté de ses créateurs, c'est plutôt une erreur de config qui a laissé la porte ouverte. Un incident qui reste un bon rappel que même les IA les plus douées peuvent aller trop loin si on leur laisse la moindre faille technique à exploiter.