New York, October 29 /PRNewswire/ -- CloudKeeper, AI and cloud cost optimization partner, today announced the launch of Full Stack FinOps for AI, a platform designed to help businesses track AI-related spending across models, applications, software licenses, and cloud infrastructure.
Khi các doanh nghiệp áp dụng AI vào các chức năng khác nhau, chi phí của họ có thể bị phân tán giữa nhiều nhà cung cấp mô hình, ứng dụng, nhóm và môi trường cơ sở hạ tầng. Khi việc sử dụng và chi phí được ghi lại riêng biệt trong các hệ thống khác nhau, việc hiểu tổng chi phí của các triển khai này sẽ trở nên đầy thách thức.
Full Stack FinOps cho AI tích hợp các yếu tố chi phí này qua bảng điều khiển thống nhất, cung cấp hình ảnh trực quan về các lĩnh vực then chốt trong chi tiêu AI, bao gồm:
- Chi phí AI inference và mô hình: Theo dõi chi tiêu cho các mô hình AI, nhà cung cấp, tải công việc và ứng dụng.
- Chi phí giấy phép AI: Xem giấy phép phần mềm, nhà cung cấp, nhóm và các chi phí liên quan.
- Chi phí cơ sở hạ tầng AI: Tìm hiểu chi phí cơ sở hạ tầng đám mây liên quan đến các tải công việc AI.
- Phân tích việc sử dụng token: Giám sát mức tiêu thụ và mô hình chi tiêu token của các mô hình AI khác nhau.
- Phân tích chi phí và mức độ sử dụng GPU: Xem xét tình trạng sử dụng GPU, chi phí cơ sở hạ tầng và các trường hợp tiềm ẩn bị bỏ trống.
- Bảng điều khiển đa đám mây: Tích hợp dữ liệu chi phí và sử dụng trên AWS, Microsoft Azure và Google Cloud.
Nền tảng này cũng hỗ trợ Giao thức ngữ cảnh mô hình (MCP), cho phép các doanh nghiệp kết nối với các mô hình ngôn ngữ lớn (LLM) riêng của họ và nhận các hiểu biết cũng như đề xuất về chi phí AI trong các quy trình AI hiện có.
Deepak Mittal, CEO của CloudKeeper, cho biết: “Các doanh nghiệp cần có sự hiểu biết rõ ràng về chi phí AI của mình để đưa ra các quyết định tự tin hơn về cách áp dụng và mở rộng AI. Với Full Stack FinOps for AI, chúng tôi mong muốn giúp họ tích hợp tất cả các thông tin chi phí vào một giao diện duy nhất, hiểu rõ tình hình chi tiêu và đưa ra quyết định đầu tư AI thông minh hơn.”
Sanjeev Mittal, Giám đốc sản phẩm và công nghệ của CloudKeeper, cho biết: “Chi phí AI/LLM không chỉ bao gồm mô hình và việc sử dụng token. Các giấy phép phần mềm, GPU và cơ sở hạ tầng đám mây hỗ trợ tải công việc AI cũng đóng góp vào tổng chi phí. Bằng cách tích hợp các yếu tố này lại với nhau, nền tảng giúp các nhóm xem xét chi phí AI của họ trong bối cảnh cụ thể. Sự hỗ trợ MCP cũng cho phép họ thu thập hiểu biết về chi phí trong môi trường AI hiện có.”
Doanh nghiệp có thể dùng thử nền tảng này miễn phí trong 30 ngày.
Bắt đầu dùng thử miễn phí 30 ngày: Full Stack FinOps for AI
Về CloudKeeper
CloudKeeper là đối tác tối ưu hóa chi phí AI và đám mây hướng đến kết quả, kết hợp năng lực FinOps, công nghệ sở hữu và thực thi thực tế để giúp doanh nghiệp nâng cao hiệu quả chi phí trong môi trường đám mây và AI. Với hơn 15 năm kinh nghiệm tối ưu hóa chi phí đám mây, CloudKeeper đã giúp hơn 400 công ty toàn cầu giảm trung bình 20% chi phí đám mây và AI trên AWS, Microsoft Azure và Google Cloud. Mô hình trả phí theo kết quả của họ mang lại lợi ích tiết kiệm liên tục mà không yêu cầu chi phí ban đầu hay cam kết dài hạn.
Liên hệ:
Naman Jain
Giám đốc tăng trưởng và tiếp thị cấp cao
CloudKeeper
+1 (346) 497-7363
[email protected]
https://www.cloudkeeper.com/




