जेन स्ट्रीट, दुनिया के सबसे गुप्त और लाभदायक क्वांटिटेटिव ट्रेडिंग फर्मों में से एक, अपने AI इंफ्रास्ट्रक्चर की यात्रा पर पर्दा उठा चुकी है। छह डेल सर्वर्स के साथ शुरू हुई यह यात्रा अब टेक्सास में एक उद्देश्य-निर्मित डेटा सेंटर में बदल चुकी है, जहाँ 4,032 लिक्विड-कूल्ड GPU स्थापित हैं।
कंपनी ने हार्डवेयर से भी अधिक रोचक कुछ और भी खुलासा किया: एक आंतरिक नीलामी प्रणाली जिसे "हाइव बक्स" कहा जाता है, जो टीमों को GPU कंप्यूट समय के लिए एक-दूसरे के खिलाफ नीलामी करने के लिए मजबूर करती है।
छह सर्वर से 4,032 GPUs तक
जेन स्ट्रीट के एआई के लक्ष्य एक विशाल दृष्टि और खाली चेक के साथ शुरू नहीं हुए। वे छह डेल बॉक्स के साथ शुरू हुए। इसके बाद कंपनी ने इस सादगीपूर्ण शुरुआत को एक विशेष टेक्सास सुविधा में बदल दिया है, जो एआई अनुसंधान और ट्रेडिंग मॉडल विकास के लिए विशेष रूप से डिज़ाइन किए गए हजारों GPU से भरी हुई है।
तरल शीतलन प्रणालियाँ अपनी हवा-शीतलित तुलनाओं की तुलना में अधिकतम 15% अधिक ऊर्जा-कुशल हो सकती हैं, और पानी हवा की तुलना में बहुत अधिक प्रभावी ढंग से ऊष्मा का ट्रांसफ़र करता है। आधुनिक रैक-स्केल डिज़ाइन तरल शीतलन के साथ प्रति रैक अधिकतम 256 GPU समर्थित कर सकते हैं, एक घनत्व जो केवल पंखों के साथ असंभव होगा।
कंप्यूट की आंतरिक अर्थव्यवस्था
कंपनी ने “हाइव बक्स” बनाया, जो GPU समय के लिए बजट के रूप में आंतरिक टीमों को वितरित किया जाता है। टीमें केवल टिकट सिस्टम के माध्यम से कंप्यूट का अनुरोध नहीं करतीं या कतार में प्रतीक्षा नहीं करतीं। वे एक लाइव नीलामी में बोली लगाती हैं, जिसमें वे अन्य टीमों के साथ प्रतिस्पर्धा करती हैं जिन्हें भी हार्डवेयर की आवश्यकता होती है।
सिस्टम टीमों को वास्तविक विकल्प चुनने के लिए मजबूर करता है। यदि एक अनुसंधान समूह अपने हाइव बक्स का उपयोग एक अनुमानित प्रशिक्षण रन पर कर देता है, तो अगले प्रोजेक्ट के लिए उसके पास कम संसाधन उपलब्ध होते हैं। इससे यह निर्णय लेने की आवश्यकता नहीं पड़ती कि कौन सी एआई पहल सबसे महत्वपूर्ण है, और स्वाभाविक प्राथमिकता स्थापित होती है।