SkyPilot Melancarkan Perkhidmatan Code Sandbox dengan Pengurangan Kos 90%

ME AI berita, menurut pemantauan Beating, perangkat pengurusan sumber AI sumber terbuka SkyPilot telah melancarkan perkhidmatan sandbox pemeriksaan kod, SkyPilot Sandboxes, yang membenarkan syarikat menjalankan kod yang dihasilkan oleh AI secara selamat di cluster pelayan awan mereka sendiri (Kubernetes). Perkhidmatan ini membolehkan syarikat mengawal sumber pengiraan mereka sendiri tanpa perlu menghantar kod yang mengandungi prompt sensitif dan data sulit kepada penyedia sandbox pihak ketiga, dengan satu cluster mampu menjalankan lebih daripada 50,000 persekitaran sandbox yang dipisahkan secara serentak. Berbanding sandbox yang dihoskan pihak ketiga, SkyPilot Sandboxes mengurangkan masa tunggu persediaan pelaksanaan arahan sebanyak kira-kira 20%. Melalui mekanisme "warm pool" yang mengekalkan kontena dalam keadaan sedia, masa yang diperlukan untuk mencipta sandbox dan menjalankan arahan pertama dalam keadaan biasa hanyalah 1.0 saat, lebih baik daripada Modal yang memerlukan 1.2 saat. Disebabkan perkhidmatan ini dijalankan secara langsung di dalam rangkaian awan tempatan syarikat, pengguna di kawasan Asia-Pasifik boleh mengelakkan sepenuhnya latensi penghantaran data lintas Pasifik, meningkatkan kelajuan respons ke tahap tempatan. Dari segi kos pelaksanaan, kerana tidak perlu membayar premium kepada penyedia pihak ketiga, SkyPilot Sandboxes lebih murah 4 hingga 10 kali berbanding model hos. Dalam skenario berskala besar dengan menjalankan 50,000 sandbox serentak, perkhidmatan hos pihak ketiga mengenakan bayaran sebanyak kira-kira US$16,610 hingga US$19,030 sejam; jika SkyPilot digunakan untuk melaburkan sandbox di pelayan awan biasa milik syarikat sendiri, kos sejam akan turun kepada US$4,650 (penurunan 75%); jika dilaburkan lebih lanjut di pelayan murah seperti AWS t4g.medium yang sesuai untuk tugas sela, kos sejam boleh diturunkan kepada US$1,680, lebih murah hampir 90% berbanding perkhidmatan hos. Selain itu, sandbox menyokong integrasi dengan pengurus kunci SkyPilot, di mana kredensial yang diperlukan semasa pelaksanaan boleh disuntikkan secara langsung, mengelakkan risiko kebocoran kod keras. Apabila syarikat melatih model AI yang mampu menulis kod (contohnya latihan pembelajaran penguatan), mereka perlu menjalankan ribuan kod yang baru ditulis oleh AI dan belum disahkan dalam masa yang sangat singkat untuk penilaian. Dengan melaburkan cluster sandbox secara langsung di dekat pelayan fizikal yang mempunyai GPU, masa penghantaran data boleh dikurangkan secara efektif, memperpendek tempoh latihan model dan mengurangkan kos bandwidth rangkaian. Perkhidmatan ini kini telah membuka permohonan ujian terhad awal, dan repositori rasmi projek juga menyediakan contoh latihan lengkap yang sepadan. (Sumber: BlockBeats)