
आपके ओपन-सोर्स मॉडल अब आपके अपने मशीन पर चल सकते हैं, बिना कुछ भी क्लाउड पर भेजे। @TPN_Labs (Bittensor SN65) प्रतिस्पर्धी अनुकूलन के माध्यम से मॉडल्स को संपीड़ित करता है। माइनर्स वास्तविक हार्डवेयर सीमाओं और बेंचमार्क न्यूनतम स्तर के तहत उन्हें छोटा करते हैं। वैलिडेटर्स परीक्षणों को फिर से चलाते हैं। सबसे छोटा मॉडल जो अभी भी बार पार करता है, वह जीतता है। @Gratis_AI फिर उन मॉडल्स (या @huggingface से कोई भी मॉडल) को लेता है और उन्हें ब्राउज़र या डेस्कटॉप ऐप में स्थानीय रूप से चलाता है। लेकिन सावधानी यह है कि स्थानीय निष्पादन अभी भी आपके हार्डवेयर पर निर्भर करता है। महत्वपूर्ण बातें: • मॉडल्स का अनुकूलन ऑन-चेन पर किया जाता है। हाल की प्रतियोगिता में एक मॉडल को ~17GB से 7.71GB तक संपीड़ित किया गया, जबकि बेंचमार्क स्कोर 66.57% से 74.93% तक सुधारा गया। • Gratis को कोई सेटअप की आवश्यकता नहीं है। कोई मॉडल चुनें या Hugging Face से एक मॉडल लोड करें - यह एक बार डाउनलोड होता है और आपके डिवाइस पर चलता है। • प्राइवेसी डिफ़ॉल्ट है। हर प्रॉम्प्ट आपके मशीन पर ही रहता है। प्रारंभिक डाउनलोड के बाद ऑफ़लाइन काम करता है। • कोई API शुल्क, कोई खाता आवश्यकता नहीं। जल्दी से एक उदाहरण: पहले एक हाई-एंड GPU की आवश्यकता वाला मॉडल, अब पर्याप्त संपीड़ित हो सकता है कि एक सामान्य लैपटॉप पर चल सके, और Gratis के माध्यम से कभी भी आपके डिवाइस से बाहर नहीं जा सके। TPN छोटे, क्षमताशाली मॉडल्स बनाता है। Gratis उन्हें चलाता है। #Bittensor #Subnet65 #TPN
