मेटा के आंतरिक AI हाइब्रिड AAI Labs एक “Switchboard” नामक AI मॉडल रूटिंग टूल विकसित कर रहा है, जो कार्य कठिनाई स्कोर के आधार पर सरल अनुरोधों को सस्ते छोटे मॉडल पर रीडायरेक्ट करके समग्र निष्पादन लागत को कम करता है। यह प्रोजेक्ट वर्तमान में प्रारंभिक चरण में है और मेटा द्वारा इस वर्ष मार्च में स्थापित AAI Labs के आंतरिक हाइब्रिड संगठन के अंतर्गत आता है। आंतरिक दस्तावेजों के अनुसार, मेटा प्रत्येक प्रोग्रामिंग अनुरोध के लिए शीर्ष मॉडल की कीमत भुगतान करता है, जिसमें छोटे मॉडल द्वारा संभाले जा सकने वाले सरल कार्य भी शामिल हैं, और निष्पादन लागत कंपनी के बड़े पैमाने पर एजेंट स्थापित करने की “प्रमुख बाधा” बन गई है। मेटा की AI बुनियादी ढांचे पर 2024 के लिए 1450 अरब डॉलर का खर्च होने का अनुमान है, और यह AI खर्च को नियंत्रित करने के लिए कई तरीकों का उपयोग कर रहा है। Switchboard का लक्ष्य बाजार मॉडल रूटिंग क्षेत्र भी है, जिसमें OpenRouter जैसे प्रतिस्पर्धी पहले से मौजूद हैं, और संबंधित अधिग्रहण लेनदेन से इसका मूल्य कई अरब डॉलर हो सकता है।लेखक, स्रोत: वॉल स्ट्रीट विजन
AI बुनियादी ढांचे पर खर्च लगातार बढ़ने के दबाव में, मेटा लागत कम करने के लिए आंतरिक रूप से रास्ते ढूंढ रहा है।
21 जुलाई को, प्रौद्योगिकी मीडिया The Information के अनुसार, मेटा का आंतरिक AI इंक्यूबेटर AAI Labs, "Switchboard" नामक एक AI मॉडल रूटिंग टूल विकसित कर रहा है, जिसका मुख्य तर्क OpenRouter के Auto Router उत्पाद के समान है—कार्य कठिनाई स्कोरिंग के माध्यम से, सरल अनुरोधों को सस्ते छोटे मॉडल पर रीडायरेक्ट करके समग्र निष्पादन लागत को कम करना।
Switchboard अभी भी प्रारंभिक चरण में है, और इसका अंतिम रूप से लागू होना अनिश्चित है। हालाँकि, The Information द्वारा प्राप्त आंतरिक दस्तावेजों के अनुसार, Meta टीम ने दो संभावित मार्ग स्पष्ट रूप से निर्धारित किए हैं: एक तो कंपनी के भीतर लागत कम करने के लिए स्थापित करना, और दूसरा बड़े पैमाने पर AI प्रोग्रामिंग एजेंट्स चलाने वाले बाहरी संगठनों के लिए जारी करना।
विश्लेषण दर्शाता है कि इसका अर्थ है कि यह उपकरण केवल लागत कम करने का उपाय ही नहीं, बल्कि Meta के लिए AI उपकरण बाजार में नए आय स्रोत की ओर एक प्रयास भी हो सकता है।
इसके अलावा, इस प्रोजेक्ट का प्रस्ताव सीधे रूप से कंपनी के वर्तमान में सामना कर रहे एक वास्तविक समस्या की ओर इशारा करता है: हर प्रोग्रामिंग अनुरोध के लिए शीर्ष मॉडल की कीमत भुगतान करना, जिसमें छोटे मॉडल द्वारा आसानी से संभाले जा सकने वाले सरल कार्य भी शामिल हैं।
सीधे समस्या पर ध्यान केंद्रित करें: निष्कर्ष निकालने की लागत बड़े पैमाने पर तैनाती की सबसे बड़ी बाधा है
रिपोर्ट के अनुसार, स्विचबोर्ड प्रोजेक्ट के लिए प्रोजेक्ट लॉजिक को आंतरिक दस्तावेज़ में काफी सीधे तरीके से व्यक्त किया गया है: "हम प्रत्येक प्रोग्रामिंग अनुरोध के लिए शीर्ष मॉडल की कीमत भुगतान करते हैं, जिसमें सरल अनुरोध भी शामिल हैं।"
फ़ाइल में आगे कहा गया है कि अधिकांश प्रोग्रामिंग एजेंट कार्य पूरी तरह से छोटे मॉडल द्वारा संभाले जा सकते हैं, और केवल कुछ ही कार्य वास्तव में अग्रणी बड़े मॉडल की क्षमताओं की आवश्यकता रखते हैं। हालाँकि, वर्तमान स्थिति इस प्रकार है कि "सभी अनुरोध एक ही मॉडल को भेजे जाते हैं, जिससे सरल कार्यों पर अतिरिक्त खर्च होता है या जटिल कार्यों पर पर्याप्त प्रदर्शन नहीं होता।"
दस्तावेज़ स्पष्ट रूप से निष्कर्ष लागत को कंपनी के भीतर एजेंट्स के व्यापक रूप से अपनाने की "प्राथमिक बाधा" के रूप में वर्णित करता है और सीधे कहता है: "लागत हमारे एजेंट्स को बड़े पैमाने पर चलाने की सीमा है।"
यह बयान मेटा द्वारा एआई खर्च पर नियंत्रण के लिए हाल ही में किए गए कदमों की पुष्टि करता है। पहले The Information की रिपोर्ट के अनुसार, मेटा ने इस साल जून में कर्मचारियों को सूचित किया था कि पूरी कंपनी में एआई टूल्स के व्यापक अपनाये जाने के कुछ ही सप्ताहों के बाद, वह एआई टोकन उपयोग के लिए सीमा लगाएगी और एआई खर्च का पता लगाने और टोकन बजट का पालन करने के लिए एक आंतरिक मंच विकसित करेगी।
ध्यान दें कि स्विचबोर्ड प्रोजेक्ट Meta के अंतर्गत AAI Labs का हिस्सा है, जो Meta Applied AI Engineering टीम के अंतर्गत एक आंतरिक इनक्यूबेटर है और इसकी स्थापना इस साल मार्च में हुई थी। The Information द्वारा समीक्षित आंतरिक दस्तावेजों के अनुसार, इस प्रणाली के तहत कर्मचारी AI उत्पादों और सेवाओं के प्रस्ताव जमा कर सकते हैं, जिनकी स्वीकृति के बाद छोटी टीमें उनका निर्माण करती हैं और बाहरी प्रकाशन का अवसर प्राप्त करती हैं।
इस साल जुलाई तक, AAI Labs ने उपभोक्ता उत्पादों, डेवलपर टूल्स और आंतरिक बुनियादी ढांचे के तीन क्षेत्रों में लगभग 200 प्रोजेक्ट्स को मंजूरी दे दी है। स्विचबोर्ड इनमें से एक है।
यह तंत्र मेटा के सीईओ ज़करबर्ग की एक अधिक व्यापक रणनीति को दर्शाता है—AI का उपयोग करके छोटी टीमों को उत्पाद तेजी से बनाने में सक्षम बनाना। ज़करबर्ग ने इस साल अप्रैल में विश्लेषकों को बताया कि AI एजेंट का अर्थ है “छोटी टीमें बहुत तेजी से प्रगति कर सकती हैं”, और उन्होंने यह भविष्यवाणी की कि यह प्रौद्योगिकी “बहुत सारी नवाचार” को बढ़ावा देगी। उन्होंने यह भी कहा कि मेटा 50 तक के नए ऐप्स बना सकता है।
मॉडल रूटिंग रेस: ओपनराउटर के अलावा, बड़े कंपनियाँ प्रवेश कर रही हैं
स्विचबोर्ड द्वारा लक्षित मॉडल रूटिंग वर्ग में बढ़ती हुई दिलचस्पी देखी जा रही है।
OpenRouter ने विकासकों को अधिक कम लागत पर कई AI मॉडल्स तक पहुँच प्रदान करके विकासक समुदाय में काफी लोकप्रियता प्राप्त की है। पिछले हफ्ते The Information ने रिपोर्ट किया कि OpenRouter ने एक बड़ी तकनीकी कंपनी के साथ संभावित अधिग्रहण पर चर्चा शुरू कर दी है, जिससे संभावित लेनदेन इसके मूल्यांकन को कई अरब डॉलर तक बढ़ा सकता है—कंपनी का अप्रैल में मूल्यांकन 13 अरब डॉलर था।
मॉडल रूटिंग की अवधारणा ने व्यापक रूप से ध्यान आकर्षित किया, जब OpenAI ने GPT-5 जारी करते समय इसके अंतर्निहित रूटिंग फ़ंक्शन का परिचय दिया—जो उपयोगकर्ता के सरल संकेतों के लिए स्वचालित रूप से अधिक सस्ते मॉडल पर स्विच करता है। इसके बाद, Databricks और Palantir जैसी कंपनियों ने भी लागत प्रबंधन और दक्षता में सुधार के लिए अपने-अपने रूटिंग टूल्स विकसित किए।
मेटा ने इस बार अपने स्वयं के Switchboard का विकास किया है, जो अपने लागत दबाव के प्रति सक्रिय प्रतिक्रिया है और इस तेजी से बढ़ते हुए क्षेत्र में अपनी स्वयं की क्षमताओं को स्थापित करने का रणनीतिक चयन है।
बड़ी इच्छाशक्ति: AI निवेश विविध आय स्रोतों की खोज कर रहा है
Switchboard प्रोजेक्ट के पीछे, मेटा का विशाल AI निवेश को नए उपकरणों, नए व्यवसायों और नए आय स्रोतों में बदलने की समग्र इच्छा है।
मेटा ने पहले अनुमान लगाया था कि इस वर्ष एआई बुनियादी ढांचे और अन्य उपकरणों एवं सुविधाओं पर खर्च 1450 अरब डॉलर तक हो सकता है, जो 2025 के स्तर से दोगुना से अधिक है। इसी बीच, मेटा एआई विकास क्षमताओं को मजबूत करने के लिए इंजीनियरिंग टीम को पुनर्गठित कर रहा है।
AAI लैब्स द्वारा इंक्यूबेट किए गए प्रोजेक्ट्स सिर्फ Switchboard तक सीमित नहीं हैं। The Information द्वारा प्राप्त एक अन्य आंतरिक दस्तावेज के अनुसार, AAI लैब्स एक AI-आधारित ड्राइवर गाइड ऐप विकसित कर रहा है, जो Apple CarPlay और Android Auto पर चल सकता है, जो AI के माध्यम से आसपास के स्थानीय स्थलों की व्याख्या करता है और ड्राइवरों को प्रश्न पूछने की अनुमति देता है।
दस्तावेज़ इस उत्पाद को इंस्टाग्राम मैप अनुभव का विस्तार बताता है, जिसमें भविष्य में स्थान-आधारित रील्स कंटेंट, यात्रा सुझाव, और यहां तक कि मेटा रे-बैन स्मार्ट चश्मे का एकीकरण शामिल हो सकता है।
रिपोर्ट के अनुसार, ये प्रोजेक्ट्स मेटा के लिए एक मार्ग चित्रित करते हैं: कर्मचारियों की अवधारणाओं से शुरू करके, AI उत्पादों को त्वरित रूप से प्रोटोटाइप करना, और फिर लागत को नियंत्रित रखते हुए, विज्ञापन व्यवसाय के अलावा अतिरिक्त आय के अवसरों का पता लगाने के लिए बाहरी बाजार में लॉन्च करना।