DeepSeek baru saja melepaskan kerangka kerja inferensi open-source bernama DeepInfer — sistem tingkat produksi yang mengatur kluster komputasi agar model dapat beroperasi secara efisien. Modelnya (V4.1-Flash) sudah lama di-open-source, kali ini yang dibuka adalah “mesin” yang menjalankan model tersebut. Ini adalah pertama kalinya di kalangan perusahaan model besar global, di mana teknologi semacam ini sebelumnya merupakan rahasia dagang masing-masing perusahaan.
Ini menunjukkan:
1. Persaingan telah berpindah dari “kompetisi model” menjadi “kompetisi biaya”. Kesenjangan kemampuan model semakin menyempit; siapa yang mampu menjalankan layanan yang sama dengan lebih sedikit kartu dan listrik lebih murah, dialah yang menang. DeepSeek mempublikasikan berapa banyak uang yang dihasilkan setiap kartu per jam — ini adalah bentuk pameran “biaya per unit saya lebih rendah daripada milik kalian”.
2. Open-source telah berubah dari sikap menjadi senjata strategis. Dari segi waktu, pada 19 Oktober AS baru saja menghapusnya dari saluran pengadaan federal, lalu pada 20 Oktober justru membuka sumber mesin intinya. Open-source = keterikatan dengan ekosistem pengembang global = pemblokiran AS tidak dapat menghentikan ekosistem ini. Tekanan terhadap pihak tertutup (terutama OpenAI) sangat nyata: penyedia cloud dapat menggunakan DeepInfer untuk penyebaran, bahkan mungkin dengan biaya lebih rendah daripada versi asli resmi.
3. Nilai “lapisan tengah” kini ditetapkan secara terbuka. Sebelumnya, orang hanya melihat skor model, tetapi sekarang semua menyadari: model yang sama, dengan kerangka inferensi yang berbeda, bisa membedakan biaya hingga beberapa kali lipat. Ini merupakan desensitisasi teknis bagi infrastruktur inferensi domestik (ekosistem vLLM, SGLang, dan adaptasi Ascend).
4. Manfaat nyata bagi pengembang biasa: biaya penyebaran penyedia cloud turun → harga API masih memiliki ruang untuk turun lagi; ambang batas penyebaran lokal berkurang → penyebaran privat lebih murah. Kompatibilitas dengan platform NVIDIA dan Huawei Ascend sangat penting bagi tim domestik yang melakukan penyebaran privat.
5. Sisi yang tenang: kode paling inti untuk manajemen cache KV dan beban seimbang (yang terlalu terikat dengan infrastruktur internal) tidak sepenuhnya di-open-source, hanya dokumen desainnya yang dipublikasikan. Jadi ini “separuh transparan” — Anda belajar konsepnya, tetapi tidak sepenuhnya mendapatkan seluruh kemampuan. Selain itu, versi open-source saat ini hanya mendukung inferensi offline.
DeepSeek mempublikasikan sistem inferensi tingkat produksi yang sebelumnya dirahasiakan pesaingnya, pada dasarnya menggunakan “ekosistem terbuka” untuk melawan “blokade komputasi”. Ini memberikan manfaat jangka pendek kepada semua pihak yang mampu mengakses AI, namun memberikan tekanan jangka panjang kepada pihak tertutup. #Ai