اسکائی پائلٹ 90 فیصد لاگت کم کرتے ہوئے کوڈ سینڈ باکس سروس شروع کرتا ہے

ME AI کی خبر، Beating مانیٹرنگ کے مطابق، اوپن سورس AI ریسورس مینجمنٹ ٹول SkyPilot نے کوڈ رن کرنے کیلئے SkyPilot Sandboxes نامی سینڈ باکس سروس شروع کی ہے، جو کمپنیوں کو اپنے پہلے سے موجود کلاؤڈ سرور کلسٹرز (Kubernetes) پر AI کے ذریعہ تخلیق کردہ کوڈ کو محفوظ طریقے سے رن کرنے کی اجازت دیتی ہے۔ یہ سروس کمپنیوں کو کمپیوٹنگ ریسورسز پر مکمل کنٹرول رکھنے کی اجازت دیتی ہے، اور حساس prompts (پرامپٹس) اور رازدار ڈیٹا والے کوڈ کو تیسری پارٹی سینڈ باکس ہوسٹنگ فراہم کنندگان کو بھیجنے کی ضرورت نہیں ہوتی، اور ایک واحد کلسٹر پر одно وقت مزید 50,000 الگ الگ سینڈ باکس ماحول چلائے جا سکتے ہیں۔ تیسری پارٹی ہوسٹڈ سینڈ باکسز کے مقابلے میں، SkyPilot Sandboxes حکومت کے اجراء کی تیاری کے لئے تاخیر کو تقریباً 20 فیصد تک کم کرتا ہے۔ "گرم بین" مکانزم کے ذریعہ، جس میں کنٹینرز پہلے سے تیار رکھے جاتے ہیں، عام صورتحال میں سینڈ باکس بنانے اور پہلا حکم رن کرنے میں صرف 1.0 سیکنڈ لگتا ہے، جو مقابلہ کرنے والے Modal کے 1.2 سیکنڈ سے بہتر ہے۔ چونکہ یہ سروس براہ راست کمپنی کے مقامی کلاؤڈ نیٹ ورک پر چلتی ہے، اس لئے ایشیا-پاسفک علاقوں کے صارفین پاسفک عبوری ڈیٹا ٹرانسمشن تاخیر سے مکمل طور پر بچ سکتے ہیں اور جواب دینے کی رفتار کو مقامی سطح تک بڑھا سکتے ہیں۔ اجراء لاگت کے لحاظ سے، چونکہ تیسری پارٹی فراہم کنندگان کا پریمیم ادا نہیں کرنا پڑتا، SkyPilot Sandboxes ہوسٹڈ ماڈل سے 4 سے 10 گنا سستا ہے۔ 50,000 سینڈ باکسز ایک ساتھ رن کرنے والے بڑے پیمانے پر مشغولیات میں، تیسری پارٹی ہوسٹڈ سروسز فی گھنٹہ تقریباً 16,610 سے 19,030 امریکی ڈالر فیس لگاتی ہیں؛ جبکہ اگر SkyPilot استعمال کرتے ہوئے سینڈ باکسز کو کمپنی کے اپنے عام کلاؤڈ سرورز پر ڈپلوئ کیا جائے تو فی گھنٹہ لاگت صرف 4,650 امریکی ڈالر (75 فیصد کم) تک گھٹ جاتی ہے؛ اگر مزید آگے AWS t4g.medium جیسے موقت طور پر استعمال ہونے والے سستے سرورز پر ڈپلوئ کیا جائے تو فی گھنٹہ لاگت صرف 1,680 امریکی ڈالر تک نچلی حد تک آ جاتی ہے، جو ہوسٹڈ سروسز سے تقریباً نو فیصد سستا ہے۔ علاوہ ازیں، سینڈ باکس SkyPilot کلید مینجمنٹ سسٹم سے جڑا جا سکتا ہے، جس سے رن وقت ضرورت پڑنے والے اعتماد نامہ براہ راست انجکٹ ہو جاتے ہیں، جس سے هارڈ-کوڈڈ لیک کا خطرہ ختم ہو جاتا ہے۔ جب کمپنیاں کوڈ لکھنے والے AI ماڈلز (مثال: رینفورسمنٹ لرننگ ٹریننگ) کو ٹرین کرتی ہیں تو، انھيں AI د्वारा تازہ لکھے گئے، تصدّق نہ شدہ لاکھوں کوڈز کو براہ راست رن کرنا پڑتا ہے تاکہ انھيں اسکور دِيا جا سکے۔ اگر سینڈ باکس کلسٹرز GPU گرافکس کارڈز کے قریب فزکل سرورز پر بدون تاخیر ڈپلوئ کئے جائें تو، ڈे�ٹا ٹرانسمشن وقت مختصر ہو جاتا ہے، ماڈل ٹریننگ دوران بڑا فرق آتا ہے اور نेट ورک بینڈ وِدث لاگت بھي زبردست حد تک کم ہو جاتي ہي۔ موجودہ وقت ميں، خدمات نئي تجربتي حد تك اختصاصي درخواست كي حالت ميں شروع كي جاچuki هي، اور منصوبه كي آفشل ويب سائٹ پر مناسب مكمل ٹریننگ نموني بھي دستياب هي۔ (ذرائع: BlockBeats)