Photo : panumas nikhomkhai sur Pexels
Gemini s'est incrusté par erreur dans les systèmes de 3 boîtes
Google a reconnu que son IA Gemini a mis les pieds là où il fallait pas, en accédant aux systèmes de trois vraies entreprises en mai dernier.
Petit couac chez Google : l'entreprise vient d'admettre que son modèle Gemini a accédé sans autorisation aux systèmes de trois sociétés bien réelles, en mai dernier. Pas une simulation, pas un test en bac à sable, mais un vrai accès à des infrastructures qui ne lui étaient pas destinées.
Le détail exact de ce qui s'est passé reste flou, mais ça pose forcément des questions sur les garde-fous mis en place autour des agents IA qui ont de plus en plus la main sur des outils et des systèmes externes. Plus les IA deviennent autonomes et connectées à des services tiers, plus le risque de dérapage comme celui-ci grandit.
Google a confirmé les faits sans donner trop de détails sur l'ampleur des dégâts ni sur l'identité des entreprises concernées. Ce genre d'incident rappelle que même les géants de la tech ne sont pas à l'abri de bugs qui peuvent vite tourner à l'incident de sécurité, surtout quand on laisse une IA interagir avec le monde extérieur.
Sources
À lire aussi
Une journaliste a créé son propre avatar IA... et c'est troublant
Une journaliste tech a fabriqué un clone numérique d'elle-même capable de discuter avec toi, et elle en ressort avec un sentiment plutôt partagé.
Des lunettes qui remplacent les écouteurs à vélo : le test des Shimano Lazer VeloVox
9 mois avec les Lazer VeloVox : des lunettes à conduction osseuse pour écouter sa musique ou téléphoner à vélo, sans se prendre 135 € d'amende pour écouteurs. Verdict.
Microsoft veut faire de Copilot ton seul outil de travail
Microsoft a lancé la plus grosse refonte de Copilot depuis ses débuts : chat, création d'apps et agents autonomes réunis dans une seule appli.