Nvidia đầu tư vào startup AI Ấn Độ Simplismart để tối ưu hóa việc sử dụng GPU

Nvidia đã đầu tư vào vòng gọi vốn 14 triệu USD cho startup Ấn Độ Simplismart, phần mềm của công ty này cải thiện hiệu suất mô hình AI và có thể giảm nhu cầu GPU cho một số công việc. Dallas Venture Capital dẫn đầu vòng Series B toàn bộ vốn mới, cùng với Accel, Shastra VC và Micromax cũng tham gia cùng Nvidia. Việc đầu tư này định giá startup bốn tuổi này ở mức khoảng 100 triệu USD, bao gồm cả vốn mới.

Chi tiêu lớn của các doanh nghiệp vào GPU chưa xóa bỏ được khó khăn trong việc vận hành các mô hình AI một cách đáng tin cậy và kinh tế ở quy mô lớn. Các công việc khác nhau yêu cầu sự cân bằng khác nhau giữa tốc độ, chi phí và hiệu suất, trong khi các yêu cầu kinh doanh thường đòi hỏi những điều chỉnh triển khai phức tạp. Simplismart cho biết phần mềm của họ tự động hóa phần lớn công việc cấu hình này trên cơ sở hạ tầng tính toán hiện có của khách hàng. Đồng sáng lập và CEO Amritanshu Jain cho biết các công ty cần tốc độ suy luận và chi phí phù hợp với từng ứng dụng cụ thể, thay vì chỉ đơn thuần là tốc độ suy luận nhanh nhất hoặc rẻ nhất.

Simplismart đặt phần mềm của mình giữa các mô hình AI và cơ sở hạ tầng tính toán để điều chỉnh việc triển khai và vận hành theo yêu cầu của khách hàng. Simplismart cho biết phần mềm có thể tối ưu hóa thời gian phản hồi, dung lượng yêu cầu và mức tiêu thụ tính toán để nâng cao hiệu quả sử dụng các GPU hiện có. Công ty có trụ sở tại Bengaluru hỗ trợ triển khai thông qua nền tảng Simplismart hoặc thông qua cơ sở hạ tầng đám mây và tại chỗ hiện có của khách hàng. Simplismart cũng cung cấp các dịch vụ tinh chỉnh mô hình, tự động mở rộng tài nguyên theo nhu cầu và giám sát hiệu suất. Các nhà cung cấp đám mây có thể sử dụng phần mềm của Simplismart để tạo và vận hành các dịch vụ suy luận AI trên cơ sở hạ tầng GPU.

Simplismart cho biết phần mềm của họ đã giúp nền tảng tạo video AI InVideo giảm chi phí phục vụ GPU đến 56%. Simplismart cũng phục vụ các công ty video AI như HeyGen và Higgsfield, cùng với startup AI doanh nghiệp Ema, cùng nhiều khách hàng khác. Nhà cung cấp đám mây Ấn Độ Yotta sử dụng công nghệ Simplismart cho dịch vụ suy luận AI không máy chủ trên nền tảng Shakti Studio của Yotta.

Jain cho biết tốc độ doanh thu hàng năm của Simplismart đã tăng 14 lần trong sáu tháng qua lên một con số tám chữ số. Simplismart cho biết chỉ số này phản ánh mức độ sử dụng của khách hàng gần đây, không phải doanh thu định kỳ đã ký kết, và loại trừ số tiền chuyển cho các nhà cung cấp cơ sở hạ tầng. Jain không tiết lộ con số doanh thu chính xác. Jain cho biết Mỹ tạo ra hơn một nửa doanh thu của Simplismart, mặc dù Simplismart có nhiều khách hàng hơn ở Ấn Độ.

Jain cho biết Nvidia cũng đã hợp tác với Simplismart về các tích hợp kỹ thuật, bao gồm các tích hợp liên quan đến phần mềm suy luận Dynamo của Nvidia. Jain cho biết sự hợp tác kỹ thuật này kết nối các kỹ sư của Simplismart với các kiến trúc sư giải pháp của Nvidia. Jain cho biết Nvidia cũng đã giới thiệu Simplismart đến các khách hàng và đối tác tiềm năng. Việc đầu tư này tạo ra một mâu thuẫn rõ ràng vì Nvidia, nhà cung cấp chip AI hàng đầu, đang hỗ trợ phần mềm có thể giảm nhu cầu GPU cho một số công việc. Tuy nhiên, Jain lập luận rằng việc suy luận hiệu quả hơn có thể mang lại lợi ích cho Nvidia bằng cách tăng tính hấp dẫn của phần cứng Nvidia và thúc đẩy sự áp dụng rộng rãi hơn các ứng dụng AI.

Simplismart cạnh tranh trong thị trường phần mềm suy luận ngày càng đông đúc với Nvidia, các nhà cung cấp đám mây lớn và các hyperscalers bao gồm Amazon Web Services, Google Cloud và Microsoft Azure. Ngày càng nhiều startup đang phát triển các công cụ vận hành mô hình nhanh hơn và rẻ hơn khi nhu cầu ứng dụng AI tăng lên và khách hàng tìm cách tối ưu hóa hiệu quả sử dụng các GPU đắt tiền. Jain cho biết Simplismart thường giành được khách hàng có các thỏa thuận mức độ dịch vụ khắt khe và yêu cầu nghiêm ngặt về tổng chi phí sở hữu. Jain cho biết Simplismart tìm kiếm sự cân bằng phù hợp với từng khách hàng, thay vì các tùy chọn tốc độ hoặc chi phí đã được thiết lập sẵn mà các đối thủ cung cấp.

Cựu kỹ sư của Oracle là Jain và cựu kỹ sư của Google là Devansh Ghatak đã thành lập Simplismart vào năm 2022, dựa trên kinh nghiệm phát triển và triển khai các hệ thống học máy. Hai nhà sáng lập gặp nhau khi là sinh viên tại BITS Pilani. Jain cho biết Simplismart hiện có 58 nhân viên. Simplismart dự định sử dụng nguồn vốn để mở rộng tại Hoa Kỳ, tuyển dụng và phát triển thêm phần mềm suy luận của mình. Jain cho biết Hoa Kỳ vẫn là thị trường quan trọng khi Simplismart tìm cách mở rộng cơ sở khách hàng hiện tại tại đây.

Thông báo huy động vốn theo sau báo cáo của Economic Times cho biết Simplismart đang thảo luận về việc huy động từ 40 triệu đến 50 triệu USD với định giá từ 300 triệu đến 400 triệu USD. Jain từ chối bình luận về báo cáo đó. Jain cho biết Simplismart không chủ động tìm kiếm vốn. Jain nói rằng vòng Series B đã kết thúc và Simplismart sẽ không kéo dài vòng gọi vốn này.