Sa palagay ko, ang ngayon ay isa pang DeepSeek moment. Ang bawat inference provider sa ikalawang/tatlong antas ay mayroon na ngayong model at recipe na nakakagawa ng 90%+ na margin sa kanilang compute. Ang DeepSeek ay nagpapahayag din ng suporta at optimisasyon para sa mga susunod na model. Ito ay lumilikha ng malaking insentibo para sa mga inference provider na magbigay ng serbisyo, at ipaglaban ang kanilang mga customer na gamitin ang higit pang DeepSeek models at gamitin ang DeepInfer inference framework. Ang DeepSeek ay nakakakuha ng pagkalat at pagkakabukod, habang ang mga inference provider ay nakakakuha ng 90% na margin.
