إطلاق SkyPilot لخدمة Sandbox الكودي مع خفض التكاليف بنسبة 90%

ME AI رسالة، وفقًا لمراقبة Beating، أطلقت أداة إدارة موارد الذكاء الاصطناعي المفتوحة المصدر SkyPilot خدمة ساندبوكس تشغيل الكود SkyPilot Sandboxes، مما يسمح للشركات بتشغيل كود تم إنشاؤه بواسطة الذكاء الاصطناعي بأمان على مجموعات خوادم السحابة الخاصة بها (Kubernetes). تتيح الخدمة للشركات التحكم الكامل في موارد الحوسبة، دون الحاجة إلى إرسال الكود الذي يحتوي على محفزات حساسة وبيانات سرية إلى مزودين خارجيين لاستضافة الساندبوكسات، ويمكن لمجموعة واحدة تشغيل أكثر من 50,000 بيئة ساندبوكس معزولة في وقت واحد. مقارنةً بساندبوكسات الاستضافة الخارجية، قللت SkyPilot Sandboxes زمن الاستعداد لتنفيذ الأوامر بنسبة حوالي 20%. من خلال آلية "البُركة الدافئة" التي تحافظ على الحاويات في حالة انتظار، يستغرق إنشاء الساندبوكس وتشغيل أول أمر حوالي 1.0 ثانية في الحالات الشائعة، وهو أفضل من 1.2 ثانية لمنافس Modal. وبما أن الخدمة تعمل مباشرة على شبكة السحابة المحلية للشركة، يمكن للمستخدمين في آسيا والمحيط الهادئ وغيرها من المناطق تجنب تكاليف التأخير الناتجة عن نقل البيانات عبر المحيط الهادئ، ورفع سرعة الاستجابة إلى مستوى محلي. من حيث تكلفة التشغيل، وبما أن الخدمة لا تتطلب دفع رسوم إضافية لمزود خارجي، فإن SkyPilot Sandboxes أرخص من نموذج الاستضافة من 4 إلى 10 مرات. في سيناريو كبير يشمل تشغيل 50,000 ساندبوكس في وقت واحد، تبلغ تكلفة خدمات الاستضافة الخارجية حوالي 16,610 إلى 19,030 دولارًا في الساعة؛ أما إذا تم نشر الساندبوكسات باستخدام SkyPilot على خوادم سحابية عامة تملكها الشركة، فتنخفض التكلفة إلى 4,650 دولارًا في الساعة (انخفاض بنسبة 75%)؛ وإذا تم نشرها بشكل إضافي على خوادم رخيصة مثل AWS t4g.medium المناسبة للمهام المتقطعة، فتنخفض التكلفة إلى 1,680 دولارًا في الساعة، أي أرخص بنحو 90% مقارنة بخدمات الاستضافة. بالإضافة إلى ذلك، تدعم الساندبوكسات التكامل مع مدير مفاتيح SkyPilot، حيث يمكن حقن الشهادات المطلوبة أثناء التشغيل مباشرةً، مما يتجنب مخاطر التسريب الناتج عن الترميز الثابت. عندما تقوم الشركات بتدريب نماذج ذكاء اصطناعي قادرة على كتابة الكود (مثل تدريب التعلم المعزز)، فإنها تحتاج إلى تشغيل آلاف أو عشرات الآلاف من الكودات التي كتبها الذكاء الاصطناعي للتو وبدون التحقق منها في وقت قصير جدًا لتصنيفها. إن نشر مجموعة الساندبوكسات مباشرةً على الخوادم الفيزيائية القريبة من بطاقات GPU يمكن أن يقلل بشكل فعال من وقت نقل البيانات، ويُقلص بشكل كبير دورة تدريب النموذج ويقلل من تكاليف عرض النطاق الترددي للشبكة. حاليًا، تم فتح التقديم لاختبار محدود مبكر، كما قدم المشروع مستودعه الرسمي أمثلة تدريب كاملة متوافقة. (المصدر: BlockBeats)