AI में अगली बॉटलनेक हमेशा मॉडल नहीं होती। कभी-कभी यह लेटेंसी होती है। कल्पना कीजिए कि आपका एजेंट करना चाहता है... एक दस्तावेज पढ़ना, डेटाबेस को कॉल करना, वेब पर खोज करना, एक टूल चलाना, और फिर मॉडल से पूछना कि अगला क्या करना है। अगर हर चरण पिछले चरण का इंतजार करता है, तो एक साधारण कार्य सेकंड या यहां तक कि मिनट ले सकता है। इसी स्थिति में समानांतर टूल कॉल, स्ट्रीमिंग, कैशिंग और एसिंक निष्पादन जैसी चीजें महत्वपूर्ण हो जाती हैं। आपको जरूरी नहीं कि एक बेहतर मॉडल चाहिए। आपको शायद इसके आसपास एक बेहतर सिस्टम की आवश्यकता है। यही वजह है कि मुझे AI इंजीनियरिंग के बारे में अभी बहुत पसंद है। बहुत से कठिन समस्याएं अब बहुत परिचित लगने लगी हैं—वितरित सिस्टम, कैशिंग, कतारें, समानांतरता, ऑब्ज़र्वेबिलिटी। AI हिस्सा नया है। इसके नीचे की इंजीनियरिंग समस्याएं नहीं हैं।
Pandit | Ξ🦇🔊साझा करें
स्रोत:मूल दिखाएं
डिस्क्लेमर: इस पेज पर दी गई जानकारी थर्ड पार्टीज़ से प्राप्त की गई हो सकती है और यह जरूरी नहीं कि KuCoin के विचारों या राय को दर्शाती हो। यह सामग्री केवल सामान्य सूचनात्मक उद्देश्यों के लिए प्रदान की गई है, किसी भी प्रकार के प्रस्तुतीकरण या वारंटी के बिना, न ही इसे वित्तीय या निवेश सलाह के रूप में माना जाएगा। KuCoin किसी भी त्रुटि या चूक के लिए या इस जानकारी के इस्तेमाल से होने वाले किसी भी नतीजे के लिए उत्तरदायी नहीं होगा।
डिजिटल संपत्तियों में निवेश जोखिम भरा हो सकता है। कृपया अपनी वित्तीय परिस्थितियों के आधार पर किसी प्रोडक्ट के जोखिमों और अपनी जोखिम सहनशीलता का सावधानीपूर्वक मूल्यांकन करें। अधिक जानकारी के लिए, कृपया हमारे उपयोग के नियम और जोखिम प्रकटीकरण देखें।