SkyPilot、コストを90%削減するコードサンドボックスサービスを開始

ME AI ニュース：動察 Beating の監視によると、オープンソースのAIリソース管理ツールSkyPilotが、コード実行用のサンドボックスサービス「SkyPilot Sandboxes」をリリースしました。このサービスにより、企業は既存のクラウドサーバークラスタ（Kubernetes）上で、AIが生成したコードを安全に実行できます。企業は計算リソースを自社で管理でき、機密性の高いプロンプトやデータを含むコードをサードパーティのサンドボックスプロバイダーに送信する必要がなく、1つのクラスタで最大50,000以上の隔離されたサンドボックス環境を同時に実行可能です。サードパーティのホスト型サンドボックスと比較して、SkyPilot Sandboxesはコマンド実行の起動遅延を約20%短縮しています。「ウォームプール」メカニズムにより、コンテナを待機状態に保つことで、サンドボックスの作成と最初のコマンド実行までの所要時間は通常1.0秒と、競合製品Modalの1.2秒を上回ります。サービスが企業のローカルクラウドネットワーク上で直接実行されるため、アジア太平洋地域のユーザーは太平洋を越えるデータ転送遅延を完全に回避でき、応答速度をローカルレベルまで向上させます。コスト面では、サードパーティプロバイダーへのプレミアム支払いが不要なため、SkyPilot Sandboxesはホスト型サービスより4〜10倍安くなります。50,000個のサンドボックスを同時に実行する大規模シナリオでは、サードパーティホストサービスの時間あたりの料金は約16,610〜19,030ドルですが、SkyPilotを使用して企業が所有する汎用クラウドサーバーにサンドボックスをデプロイすれば、時間あたりのコストは4,650ドルに低下（75%削減）。さらに、AWS t4g.mediumなどの間欠的タスクに適した低価格サーバーにデプロイすれば、時間あたりの費用は1,680ドルまで低下し、ホストサービスと比較して約9割のコスト削減が可能です。また、サンドボックスはSkyPilotキー管理システムと連携可能で、実行に必要な認証情報は直接インジェクトされ、ハードコードによる漏洩リスクを回避できます。コード作成AIモデル（例：強化学習トレーニング）を訓練する際、AIが新たに生成した未検証コードを数万件単位で短時間で実行してスコアリングする必要があります。サンドボックスクラスタをGPUカードに物理的に近いサーバー上に直接デプロイすることで、データ転送時間を短縮し、モデルトレーニングサイクルを大幅に短縮し、ネットワーク帯域コストを削減できます。現在、サービスは限定早期テストの申請を受け付けており、公式リポジトリには関連する完全なトレーニングサンプルも提供されています。（出典：BlockBeats）