मैंने अपने 16 GB के Mac पर 27B कोडिंग मॉडल चलाने की कोशिश की, बेशक यह विफल रहा। यह 0.4 टोकन प्रति सेकंड की गति से चल रहा था, लगभग प्रत्येक टूल कॉल के लिए 200 सेकंड। यह बहुत खराब था हाहाहा @darkbloomai पर एक ही बेस मॉडल लगभग 2 सेकंड में जवाब दे रहा था। इसलिए मैंने एक प्रयोग किया: क्या Darkbloom के नेटवर्क पर बेकार पड़े Macs पर मॉडल एक वास्तविक कोडिंग एजेंट का मस्तिष्क हो सकते हैं? सेटअप: छह Darkbloom मॉडल, एजेंट को आवश्यक छह टूल (पढ़ें, लिखें, संपादित करें, shell, grep, glob), और सैंडबॉक्स में वास्तविक कोडिंग कार्यों का निष्पादन, हर परिणाम की कठोरता से जाँच के साथ परिणाम: • 60/60 टूल कॉल साफ़ी से पार्स हुए • 67/71 बहु-चरणीय कार्य सुलझाए गए: एक बग को ठीक करना, फाइलों में नाम बदलना, एक अनुमानित AWS कुंजी ढूंढना, SQL इंजेक्शन को पैच करना • Qwen3.8 27B, Gemma 4 26B और GLM 5.3 Flash ने परफेक्ट 12/12 किया • हर रन की कुल लागत: लगभग 7 सेंट (बहुत सस्ता है) आम दृष्टिकोण है कि ओपन मॉडल्स चैट के लिए ठीक हैं, लेकिन एजेंट्स के लिए बहुत अस्थिर हैं। मैं सोचने लगा हूँ कि शायद ऐसा नहीं है। यहाँ है कि यह क्यों मायने रखता है। कोडिंग एजेंट्स भारी मात्रा में टोकन्स का उपयोग करते हैं, और वे जो ज्यादातर करते हैं, वह सामान्य है: एक फाइल पढ़ना, रिपो में सर्च करना, परीक्षण चलाना। मेरा मानना है कि एजेंट के 25-40% स्टेप्स @darkbloomai पर कम कीमत पर चल सकते हैं, और कठिन स्टेप्स केवल प्रगतिशील मॉडल्स पर ही रह सकते हैं। यदि सफल हुआ, तो यह बेकार पड़े Macs के नेटवर्क के लिए पूरी तरह से नई मांग की ش्रेणी होगी। प्रयोग 2, वास्तविक ट्रैफ़िक पर सटीकतः यही परीक्षण करता है...जल्द ही!