Mistral Large 4 alias Le Chonk : 1000 milliards de paramètres au menu

Mistral vient de lâcher Large 4, son nouveau modèle de langage qui porte le surnom affectueux de "Le Chonk" — comprendre : le gros bébé. Et pour cause, il embarque la bagatelle de 1000 milliards de paramètres, même si seulement 49 milliards sont réellement mobilisés à chaque réponse grâce à une architecture qui évite de réveiller tout le monstre d'un coup.

Pour l'instant, tu peux déjà le tester via l'API de Mistral en préversion. Les plus patients devront attendre le 27 octobre pour mettre la main sur les poids du modèle, qui seront publiés en libre accès sur Hugging Face. De quoi faire plaisir à la communauté open source qui aime pouvoir bidouiller et héberger elle-même ses modèles.

Côté tarif, Mistral reste plutôt raisonnable avec un prix annoncé autour de 0,70 dollar le million de tokens. Une façon pour la boîte française de continuer à jouer dans la cour des grands face aux mastodontes américains, tout en gardant une approche plus ouverte sur la diffusion de ses modèles.