
DeepSeek baru saja melepaskan kerangka inferensi open-source DeepInfer—sistem produksi yang mengelola klaster komputasi agar model dapat berjalan secara efisien. Modelnya (V4.1-Flash) sudah lama di-open-source, kali ini yang dibuka adalah “mesin” yang menjalankan model tersebut. Ini adalah pertama kalinya di antara perusahaan model besar global, karena sebelumnya teknologi semacam ini selalu menjadi rahasia dagang masing-masing perusahaan. Ini menunjukkan: 1. Persaingan telah berpindah dari “kompetisi model” menjadi “kompetisi biaya”. Kesenjangan kemampuan model semakin menyempit; siapa yang bisa menjalankan layanan yang sama dengan lebih sedikit kartu dan listrik lebih murah, dialah yang menang. DeepSeek bahkan mempublikasikan berapa banyak uang yang dihasilkan setiap kartu per jam—ini adalah cara mereka menunjukkan “biaya per unit saya lebih rendah dari kalian semua.” 2. Open-source telah berubah dari sikap menjadi senjata strategis. Dari segi waktu, pada 19 Oktober AS baru saja menghapusnya dari saluran pengadaan federal, lalu pada 20 Oktober justru membuka sumber mesin intinya. Open-source = keterikatan dengan ekosistem pengembang global = larangan AS tidak bisa memblokir ekosistem ini. Tekanan terhadap pihak tertutup (terutama OpenAI) sangat nyata: penyedia cloud dapat menggunakan DeepInfer untuk deployment, bahkan biayanya bisa lebih rendah daripada versi asli resmi. 3. Nilai “lapisan tengah” kini telah ditetapkan secara terbuka. Sebelumnya, orang hanya melihat skor model, tetapi sekarang semua paham: model yang sama, jika dijalankan dengan kerangka inferensi yang berbeda, bisa menghasilkan perbedaan biaya beberapa kali lipat. Ini merupakan de-sensitisasi teknis yang signifikan bagi infrastruktur inferensi domestik (ekosistem vLLM, SGLang, dan adaptasi Ascend). 4. Manfaat nyata bagi pengembang biasa: biaya deployment penyedia cloud turun → harga API masih punya ruang untuk turun lagi; ambang batas deployment lokal berkurang → deployment privat lebih murah. Kompatibilitas dengan platform NVIDIA dan Huawei Ascend sangat penting bagi tim domestik yang melakukan deployment privat. 5. Sisi yang tenang: kode paling inti—manajemen cache KV dan load balancing—tidak sepenuhnya di-open-source karena terlalu terikat dengan infrastruktur internal; hanya dokumen desainnya yang dipublikasikan. Jadi ini “separuh transparan”—kita belajar ide-idenya, tapi tidak sepenuhnya mendapatkan seluruh kemampuannya. Selain itu, versi open-source saat ini hanya mendukung inferensi offline. DeepSeek mempublikasikan sistem inferensi produksi yang sebelumnya menjadi rahasia pesaingnya, pada dasarnya menggunakan “ekosistem terbuka” untuk menghadapi “blokade komputasi.” Ini memberikan manfaat jangka pendek bagi semua pihak yang mampu mengakses AI, dan tekanan jangka panjang diberikan kepada pihak-pihak tertutup. #Ai