Qui va poser des limites à l'IA ? Ça se discute à l'ONU

Franchement, qui aurait parié là-dessus il y a quatre ans ? Sam Altman et Dario Amodei, deux mecs que personne ne connaissait à l'époque, se sont retrouvés à la tribune de l'ONU pour causer coopération internationale sur l'IA. La France a été le moteur de cette séquence assez inédite, qui montre qu'une envie de réguler les modèles les plus puissants (les fameux modèles « frontière ») commence à émerger, même si les États-Unis ont toujours eu horreur qu'on leur impose des règles venues d'en haut.

Côté ambiance, on n'est pas vraiment dans la nuance. Yoshua Bengio, une des pointures historiques du deep learning, a carrément proposé un système de licences pour l'IA, sur le modèle de ce qui existe pour le nucléaire ou l'aviation. Son argument : le danger n'est plus hypothétique, il devient concret et proche. Dario Amodei (le boss d'Anthropic) va dans le même sens en réclamant des standards d'évaluation communs à l'échelle mondiale, plus des accords précis pour interdire certains usages jugés trop risqués.

Bref, l'ambiance générale ressemble à un signal d'alarme collectif venu des gens mêmes qui construisent ces IA. Reste à voir si ces discours à l'ONU vont déboucher sur du concret, ou si ça restera un joli symbole diplomatique sans suite législative réelle.