@TPN_Labs के लिए बड़ा हफ्ता, ग्राटिस अभी लाइव हो गया है और यह ठीक वही चीज है जिसकी बात लोग ऐसे सबनेट्स कभी शिप नहीं करेंगे कहते थे। यह एक मुफ्त ऐप है जो ओपन सोर्स मॉडल्स को सीधे आपके ब्राउज़र टैब या डेस्कटॉप पर चलाता है, कोई खाता नहीं, कोई इंस्टॉल नहीं, और आप जो कुछ भी टाइप करते हैं, वह कभी आपके मशीन से बाहर नहीं जाता। इंजीनियरिंग ही मुझे प्रभावित करती है। सामान्यतः ब्राउज़र किसी टैब को 4GB मेमोरी तक ही सीमित करते हैं, जो कि एक वास्तविक मॉडल की आवश्यकता से काफी कम है। टीम ने इन्फरेंस रनटाइम को 64-बिट एड्रेसिंग के लिए फॉर्क किया है और सीमा 16GB तक बढ़ाई है। इसीलिए ही वास्तविक आकार का मॉडल एक टैब में चल पाता है। यह Hugging Face पर मौजूद 900,000+ ओपन सोर्स विकल्पों से मॉडल्स को लोड करता है, मुफ्त में, कोई उपयोग सीमा नहीं, क्योंकि यह आपके पास पहले से मौजूद हार्डवेयर पर चलता है। यहाँ के लोगों के लिए सुविधा सरल है। अगली बार कोई पूछे कि सबनेट्स वास्तव में क्या प्रोड्यूस करते हैं, तो आप सिर्फ एक लिंक भेजें, और वे मात्र एक मिनट में स्वयं मॉडल चला सकते हैं। टीम को प्रशंसा के साथ, यही है कि कैसे स्थानीय AI को कोई भी स्पर्श कर सकता है। इसके पीछे के आंकड़ों पर पूरा पोस्ट कल। 1/2