🚨 CE GARS VIENT DE REMPLACER SON ABONNEMENT CLAUDE MAX À 200 $/MOIS PAR UN MINI PC SUR SON BUREAU ! Gemma 4 12B exécuté localement via llama.cpp avec Multi Token Prediction sur un GMKTEC EVO-X2, pas de cloud, pas de clés API, pas de limites de débit Vous devez télécharger le modèle quantifié Q4_K_M, lancer llama.cpp, et laisser faire Cela semble être un jouet jusqu’à ce que vous voyiez le résultat : Le modèle a rédigé une analyse technique complète de l’ingénierie de Starship, de sa propulsion, des moteurs Raptor, du carburant Méthalox, des mécanismes de réutilisabilité, des ailerons de contrôle, de la capture par Mechazilla, le tout structuré en sections, avec des puces et une vérification de clarté à la fin Vitesse de génération : ~18 t/s pour le traitement de la requête à 60 t/s. La mémoire GPU est à 96 %. Tout cela fonctionne sur un boîtier plus petit qu’une boîte à chaussures La plupart des développeurs continuent de dépenser 200 $/mois pour atteindre les limites d’utilisation des IA cloud, tandis que ce type exécute une inférence locale illimitée 24/7 au coût du matériel qu’il possède déjà Mettez cela en signet ! Plus d’alpha bientôt. L’ère des abonnements à 200 $/mois vient de recevoir une réalité check