SkyPilot lança serviço de sandbox de código com redução de 90% nos custos

ME AI Notícia, conforme monitorado pela Beating, o gerenciador de recursos de IA de código aberto SkyPilot lançou o serviço de sandbox de execução de código SkyPilot Sandboxes, permitindo que empresas executem com segurança código gerado por IA em seus próprios clusters de servidores em nuvem (Kubernetes). O serviço permite que as empresas mantenham o controle total sobre seus recursos de computação, sem a necessidade de enviar códigos contendo prompts sensíveis e dados confidenciais a provedores terceirizados de sandbox, e um único cluster pode executar simultaneamente mais de 50.000 ambientes sandbox isolados. Em comparação com sandboxes terceirizados, o SkyPilot Sandboxes reduziu a latência de prontidão para execução de instruções em cerca de 20%. Por meio do mecanismo de "pool aquecido", que mantém contêineres em estado de espera, o tempo para criar um sandbox e executar a primeira instrução é de apenas 1,0 segundo em cenários comuns, superando o Modal, que leva 1,2 segundos. Como o serviço é executado diretamente na rede local em nuvem da empresa, usuários na Ásia-Pacífico e outras regiões podem eliminar completamente a latência de transmissão de dados transpacífica, alcançando velocidades de resposta locais. Em termos de custo, ao não pagar taxas adicionais de provedores terceirizados, o SkyPilot Sandboxes é de 4 a 10 vezes mais barato que o modelo hospedado. Em cenários em larga escala com 50.000 sandboxes rodando simultaneamente, os serviços hospedados cobram cerca de US$ 16.610 a US$ 19.030 por hora; se os sandboxes forem implantados em servidores em nuvem genéricos próprios da empresa usando o SkyPilot, o custo por hora cai para US$ 4.650 (redução de 75%); se forem ainda mais otimizados e implantados em servidores baratos adequados para tarefas intermitentes, como AWS t4g.medium, o custo por hora pode cair para US$ 1.680 — cerca de 90% mais barato que os serviços hospedados. Além disso, o sandbox suporta integração com o gerenciador de chaves do SkyPilot, permitindo que credenciais necessárias durante a execução sejam injetadas diretamente, evitando riscos de vazamento por codificação rígida. Quando empresas treinam modelos de IA capazes de escrever código (por exemplo, treinamento por aprendizado por reforço), é necessário executar milhares de códigos recém-escritos pela IA e ainda não verificados em um curto espaço de tempo para avaliação. Ao implantar diretamente clusters de sandbox em servidores físicos próximos aos GPUs, é possível reduzir significativamente o tempo de transmissão de dados, encurtando drasticamente o ciclo de treinamento do modelo e reduzindo os custos com largura de banda da rede. O serviço já está aberto para inscrições em teste limitado e o repositório oficial do projeto fornece exemplos completos de treinamento correspondentes. (Fonte: BlockBeats)