SSysDigest
Relier son LLM local à Discord pour y accéder de partout

Photo : XDA-Developpers

Actu Tech

Relier son LLM local à Discord pour y accéder de partout

Plutôt que VPN ou reverse proxy, cet utilisateur a branché son LLM local sur un bot Discord pour le piloter de n'importe où, sans ouvrir le moindre port.

IAtutorielself-hosting
Partager :

Tu fais tourner un LLM chez toi et tu galères à le joindre depuis l'extérieur sans bidouiller un VPN ou ouvrir des ports sur ta box ? L'auteur de cet article, qui héberge son modèle via Lemonade sur une machine Strix Halo dans son home lab, a trouvé une parade toute bête : brancher son IA sur Discord, l'appli de chat qu'il a de toute façon déjà ouverte en permanence sur son téléphone et son ordi.

Le principe est malin : au lieu d'attendre une connexion entrante (ce qui oblige à ouvrir des ports ou monter un tunnel), le bot se contente d'une connexion sortante vers les serveurs Discord, exactement comme le ferait l'appli Discord classique. Résultat, ça fonctionne même derrière un NAT ou un CGNAT, sans toucher au routeur, sans certificat à gérer, sans règle DNS à maintenir. Pour mettre ça en place concrètement, il a utilisé Hermes Agent de Nous Research, un agent doté d'outils, de mémoire et de tâches planifiées, tournant dans un petit conteneur Debian 13 isolé sur son serveur Proxmox.

Évidemment, il y a un revers à la médaille : comme tout transite par Discord, la plateforme voit passer l'intégralité des échanges. Pas question donc d'y envoyer des trucs sensibles, mais pour des questions rapides en déplacement, l'auteur juge le compromis largement acceptable. Et bonus appréciable : contrairement à certains outils IA qui effacent l'historique au bout de 30 jours, les conversations restent stockées et consultables indéfiniment dans Discord, bien pratique pour retrouver une ancienne discussion.

Si tu veux juste une interface de chat basique sans les fonctions d'agent, il existe aussi llmcord, un petit bot Python plus léger qui fait le même pont entre Discord et une API compatible OpenAI.

Ceci est un résumé rédigé par SysDigestLire l'article original sur XDA-Developpers →

À lire aussi