TypeSafe veut remplacer les LLM par des IA de décision ultra low-cost

TypeSafe vient de lever 40 millions de dollars pour pousser une idée un peu à contre-courant : au lieu d'utiliser des LLM pour tout et n'importe quoi, pourquoi ne pas créer un modèle spécialisé juste pour prendre des décisions rapides ? C'est le pari de Jev, leur nouveau système qui traite des décisions "typées" à un prix ridicule : 0,042 dollar par million de jetons en entrée.

L'idée derrière ça, c'est que les LLM classiques sont un peu des couteaux suisses surdimensionnés pour des tâches simples comme trier, classer ou trancher entre plusieurs options. Jev serait donc plus rapide et beaucoup moins gourmand en ressources sur ce type de besoin précis, plutôt que d'envoyer un modèle de langage géant faire un boulot de routine.

Les premiers tests confirment que ça va vite, mais montrent aussi des limites côté détection de cas complexes ou ambigus. TypeSafe a publié les infos techniques sur le contexte, les débits et les conditions d'utilisation des données, ce qui est plutôt transparent. Reste à voir comment le modèle se comporte sur la durée et à grande échelle, car sa calibration générale n'est pas encore totalement validée.

Bref, si l'idée séduit sur le papier — moins cher, plus rapide, plus ciblé — il faudra attendre des retours d'usage plus poussés pour savoir si Jev tient vraiment la comparaison face aux LLM généralistes sur les tâches de décision.