27 milliards de paramètres dans seulement 5,9 Go : une IA de poche bluffante

Accroche-toi, parce que ce qu'a fait la startup américaine PrismML tient presque de la magie. Elle vient de sortir Ternary Bonsai 2 27B, un modèle d'IA doté de 27 milliards de paramètres qui ne pèse que 5,9 Go. Pour comparer, c'est le genre de modèle qui demande habituellement des dizaines de gigaoctets rien que pour être stocké, sans parler de la puissance de calcul nécessaire pour le faire tourner.

La technique derrière ce tour de force s'appelle la quantification ternaire : au lieu de coder chaque paramètre du modèle avec beaucoup de précision (et donc de poids en mémoire), PrismML les réduit à trois valeurs possibles seulement. Résultat, le modèle devient minuscule tout en gardant l'essentiel de son intelligence. Et la startup ne se contente pas de vagues promesses : elle affirme que son modèle conserve 98,2 % des performances de sa base d'origine, Qwen3.8 27B, un modèle chinois développé par Alibaba.

Concrètement, ça veut dire qu'une IA aussi costaude qu'un modèle de 27 milliards de paramètres peut désormais tourner directement sur un iPhone ou un simple Mac, sans passer par le cloud. Fini les allers-retours vers des serveurs distants pour chaque requête : tout se fait en local, ce qui est un vrai plus pour la confidentialité et la rapidité. Si cette approche se généralise, on pourrait bien voir débarquer des assistants IA puissants directement intégrés à nos appareils du quotidien, sans connexion internet obligatoire.