Ipinaglaban ng DeepSeek ang kanilang open-source inference framework na DeepInfer—ang production-grade system na nagdedistribute ng computing power para sa epektibong pagpapatakbo ng model. Ang model (V4.1-Flash) ay nasa open-source na dati, at ngayon ay inilabas ang “engine” na nagpapatakbo nito. Ito ang unang pagkakataon sa mundo kung saan ang isang pangunahing kompanya sa malalaking model ay nagbukas ng ganitong teknolohiya, na dati ay isang pribadong kalakalan ng bawat kumpanya. Ito ay nagpapakita ng: 1. Ang kompetisyon ay nagsilip mula sa “pagpapalakas ng model” patungo sa “pagpapababa ng gastos.” Ang pagkakaiba sa kakayahan ng mga model ay nagiging mas maliit, at ang nananalo ay ang makakapagpapatakbo ng parehong serbisyo gamit ang mas kaunting GPU at mas mababang kuryente. Pinapakita ng DeepSeek kung gaano karaming pera ang bawat GPU ay kikita bawat oras—ito ay isang pagpapakita na “mas mababa ang aking unit cost kaysa sa inyo.” 2. Ang open-source ay naging isang estratehikong sandata, hindi lamang isang pagkilos. Sa panahon: noong Oktubre 19, inalis ito ng Amerika mula sa kanilang federal procurement channel, at noong Oktubre 20, inilabas nila ang kanilang pangunahing engine. Ang open-source = pagkakabukod sa global developer ecosystem = hindi makakapigil ang pagbabawal ng Amerika sa ecosystem. Ang presyon sa mga kompanyang may closed-source (lalo na ang OpenAI) ay totoo: ang mga cloud provider ay maaaring mag-deploy gamit ang DeepInfer, at maaaring mas mura pa kaysa sa native na opsyon. 3. Ang halaga ng “middle layer” ay naging malinaw at nakapag-定价. Dati, tanging ang performance score ng model ang pinag-uusapan, ngayon ay naintindihan na: parehong model, magkakaiba ng maraming beses ang gastos depende sa kalidad ng inference framework. Ito ay isang teknikal na “desensitization” para sa mga lokal na inference infrastructure (vLLM, SGLang ecosystem, at adaptasyon sa Ascend). 4. Ang praktikal na benepisyo para sa karaniwang developer: bumaba ang deployment cost ng cloud providers → may espasyo pa para bumaba ang presyo ng API; bumaba ang barrier para sa local deployment → mas mura ang private deployment. Ang pagkakaroon ng suporta para sa NVIDIA + Huawei Ascend ay lalong mahalaga para sa mga lokal na team na gumagawa ng private deployment. 5. Ang mapag-iisip na panig: ang pinakamahalagang code sa KV cache management at load balancing (na malalim na nakaka-link sa internal infrastructure) ay hindi buong inilabas—tanging ang design documentation lang. Kaya ito ay “half-transparent”—natutunan mo ang ideya, pero hindi buo ang kakayahan. Bukod dito, ang open-source version ay kasalukuyang mayroon lamang offline inference. Ipinaglabas ng DeepSeek ang kanilang production-grade inference system na dati ay pribado ng iba—naglalayong gamitin ang “open ecosystem” upang labanan ang “compute blockade.” Sa maikling panahon, nakakatulong ito sa lahat ng gumagamit ng AI; sa matagalang panahon, ito ay nagdudulot ng presyon sa mga closed-source company. #Ai