पोस्ट्स
avatar

SN46 @instantsubnet डिस्ट्रिब्यूटेड इन्फरेंस के लिए एक और दिलचस्प दृष्टिकोण हो सकता है TEE के साथ "क्या हम माइनर के हार्डवेयर पर भरोसा कर सकते हैं" की पूरी समस्या को हल करने के बजाय, उन्होंने इसे उल्टा कर दिया, माइनर्स कच्ची कंप्यूटिंग प्रदान करते हैं, जबकि इंस्टेंट एक वर्चुअल नेटवर्क रनटाइम के माध्यम से माइनर सेटअप के अंदर अपना कोड चलाता है और गति भी काफी पागलपन भरी है, GPT-OSS 20B जैसे ओपन-वेट मॉडल पर 300 से 500 टोकन/सेकंड। यह OpenRouter जैसे API प्रदाताओं से आमतौर पर प्राप्त होने वाली गति से कहीं अधिक है और ऐसा लगता है कि यह केवल पहला कदम है, लंबे समय का लक्ष्य एनालॉग चिप आर्किटेक्चर में प्रवेश करना है, जहां मॉडल वेट्स मूल रूप से हार्डवेयर में बुने जाते हैं अगर वे इसे सफलतापूर्वक प्राप्त कर सकते हैं, तो $TAO पर डिस्ट्रिब्यूटेड इन्फरेंस वास्तव में बहुत तेज़ हो सकता है

यह कंटेंट केवल सूचनात्मक और शैक्षिक उद्देश्यों के लिए है। इसमें थर्ड-पार्टी की इनसाइट्स, प्रायोजित कंटेंट या प्रचार सामग्री शामिल हो सकती है जिसके लिए निर्माता को मुआवजा प्राप्त हो सकता है। इस फ़ीड में दी गई कोई भी जानकारी निवेश सलाह या प्रतिफल की गारंटी नहीं है। आप अपने निवेश संबंधी निर्णयों के लिए पूरी तरह से स्वयं जिम्मेदार हैं। हमेशा स्वयं शोध करें और ट्रेडिंग से पहले सावधानी बरतें। हम थर्ड-पार्टी की जानकारी की सटीकता की गारंटी नहीं देते हैं और किसी भी प्रकार की हानि के लिए उत्तरदायी नहीं हैं। पिछला प्रदर्शन भविष्य के परिणामों का सूचक नहीं है। विवरण के लिए कृपया हमारे सामुदायिक नियम और शर्तें और जोखिम डिस्कोजर स्टेटमेंट देखें।

avatarअपना रिप्लाई पोस्ट करें

कमेंट करें