جین اسٹریٹ، دنیا کی سب سے پراسرار اور سب سے منافع بخش کونٹیٹاٹیف ٹریڈنگ فرم میں سے ایک، نے اپنے AI انفراسٹرکچر کے سفر پر پردہ اٹھا دیا ہے۔ جو شروعات چھ ڈیل سرورز کے ساتھ ہوئی تھی، وہ اب ٹیکساس میں ایک مقصد کے لیے تعمیر شدہ ڈیٹا سنٹر میں تبدیل ہو چکی ہے جس میں 4,032 لِکوڈ کولڈ جی پی یو موجود ہیں۔
اس کمپنی نے ہارڈویئر کے علاوہ ایک اور، جسے زیادہ دلچسپ کہا جا سکتا ہے، ایک اندر کا ٹینڈر نظام "ہائیو بکس" بھی ظاہر کیا جو ٹیموں کو GPU کمپیوٹ ٹائم کے لیے ایک دوسرے کے خلاف نیلامی کرنے پر مجبور کرتا ہے۔
چھ سرورز سے 4,032 جی پی یو تک
جین اسٹریٹ کی AI کی خواہشات ایک بڑی منصوبہ بندی اور خالی چیک کے ساتھ شروع نہیں ہوئیں۔ وہ شروع ہوئیں چھ ڈیل باکسز کے ساتھ۔ اب تک، کمپنی نے اس معمولی شروعات کو ایک مخصوص ٹیکساس سہولت میں تبدیل کر دیا ہے جو AI تحقیق اور ٹریڈنگ ماڈل ترقی کے لیے ہزاروں GPU سے بھرا ہوا ہے۔
لیکوڈ کولنگ سسٹمز اپنے ہوا کولڈ counterparts کے مقابلے میں تقریباً 15% زیادہ توانائی کے لحاظ سے کارآمد ہو سکتے ہیں، اور پانی ہوا کے مقابلے میں بہت زیادہ اثرات کے ساتھ حرارت ٹرانسفر کرتا ہے۔ جدید ریک سکیل ڈیزائنز لیکوڈ کولنگ کے ساتھ ہر ریک پر تکراراً 256 جی پی یو کو سپورٹ کر سکتے ہیں، جو صرف فینس کے ساتھ ناممکن ہوگا۔
کمپیوٹ کی اندر کی معیشت
کمپنی نے “ہائیو بکس” بنایا، جو GPU ٹائم کے لیے بجٹ کے طور پر اندر کی ٹیموں کو ورچوئل کرنسی کے طور پر تقسیم کیا گیا۔ ٹیمیں صرف ٹکٹ سسٹم کے ذریعے کمپیوٹ کا درخواست نہیں دیتیں یا قطار میں انتظار نہیں کرتیں۔ وہ اس کے لیے ایک لائیو نیلامی میں دوسری ٹیموں کے ساتھ مقابلہ کرتی ہیں جنہیں بھی ہارڈویئر کی ضرورت ہے۔
یہ سسٹم ٹیموں کو اصلی توازن کرنے پر مجبور کرتا ہے۔ اگر ایک تحقیقی گروپ اپنے ہائو بکس کو ایک تجسسی تربیتی عمل پر خرچ کر دے، تو اگلے منصوبے کے لیے اس کے پاس کم وسائل رہ جاتے ہیں۔ اس سے ایسی AI شناختوں کو ترجیح دینے کے لیے اوپر سے نیچے کے فیصلوں کی ضرورت نہیں پڑتی جو سب سے زیادہ اہم ہیں۔