Semaine exceptionnelle pour @TPN_Labs, Gratis vient de sortir et c’est exactement le genre de chose que les gens disaient ne jamais être réalisable avec les subnets. C’est une application gratuite qui exécute des modèles open source directement dans votre onglet de navigateur ou sur le bureau, sans compte, sans installation, et rien de ce que vous tapez ne quitte jamais votre machine. Ce qui m’a impressionné, c’est l’ingénierie. Les navigateurs limitent normalement un onglet à 4 Go de mémoire, bien en dessous de ce dont un vrai modèle a besoin. L’équipe a forké le runtime d’inférence pour utiliser une adressage 64 bits et a porté la limite à 16 Go. C’est pourquoi un modèle de taille réelle peut s’exécuter dans un onglet. Il charge également des modèles parmi les plus de 900 000 options open source sur Hugging Face, gratuitement et sans limite d’utilisation, car il s’exécute sur le matériel que vous possédez déjà. L’avantage pour les personnes ici est simple : la prochaine fois que quelqu’un demandera ce que les subnets produisent réellement, vous envoyez un seul lien et ils exécutent eux-mêmes un modèle en environ une minute. Un vrai crédit à l’équipe, c’est ainsi qu’on rend l’IA locale accessible à tous. Le post complet avec les chiffres derrière cela demain. 1/2