[TL;DR Pilihan Harian] Yang saya perhatikan bukanlah seberapa mahal GPU-nya, tetapi apakah ia benar-benar mampu berfungsi seperti pabrik agen cerdas yang terus-menerus menghasilkan “kecerdasan” yang dapat dibillkan. Angka 38 dolar/GPU-jam yang diperkenalkan DeepSeek seolah mengungkap sedikit dari buku akuntansi paling sensitif industri AI: masalahnya bukan lagi berapa banyak uang yang dibakar, tetapi apakah setiap kartu mampu menghasilkan pendapatan sendiri. 📌 Lihat data paling mencolok terlebih dahulu: • DeepSeek mengungkap: satu klaster mampu memproses 155 triliun Token per hari. • Dengan mengonversi harga API luaran pada jam non-peak, secara teoritis setiap GPU-jam menghasilkan pendapatan 38 dolar. • Dengan ekstrapolasi tahunan kasar, satu GPU dapat menghasilkan nilai pembayaran lebih dari 330.000 dolar per tahun. Ini bukan “keuntungan”, bukan pula angka mudah dapatkan—hanya kapasitas pembayaran teoretis. Namun ini sangat penting—ia menunjukkan bahwa jika optimasi inferensi dilakukan cukup agresif, GPU tidak harus menjadi lubang biaya, tetapi bisa menjadi mesin yang menghasilkan arus kas. 📌 Bagaimana 38 dolar itu dipaksakan: • DeepSeek V4.1 Flash memiliki total parameter 552 miliar, menggunakan arsitektur MoE. • Saat memproses input, sekitar 8 miliar parameter diaktifkan; saat menghasilkan output, sekitar 16 miliar parameter diaktifkan. • Penggunaan global KV Cache turun menjadi sekitar 1/4 dari generasi sebelumnya, cache jangka panjang turun menjadi sekitar 1/8. • Setiap Token membutuhkan sekitar 890 byte global KV Cache, mendukung konteks hingga 1 juta Token. Dengan kata lain, ia tidak menghasilkan uang dengan “kartu yang lebih mahal”, tetapi dengan rekayasa sistem yang lebih agresif: paralelisme ahli, decoding spekulatif, penjadwalan asinkron, pemisahan Prefill/Decode, serta mempertahankan KV Cache selama mungkin. Singkatnya, dengan sekumpulan GPU yang sama, siapa yang mampu mengurangi perhitungan berulang, ia lebih dekat menjadi mesin cetak uang. 📌 Tapi jangan buru-buru menjadikan 38 dolar sebagai garis rata-rata industri: • DeepInfer belum sepenuhnya opensource seluruh komponen lingkungan produksi. • Sistem KV Cache, orkestrasi layanan, dan keseimbangan beban lintas replika masih perlu dilengkapi dari luar. • Saat ini hanya dioptimalkan untuk DeepSeek-V4.1 Flash; model lain sulit langsung diadopsi. Jadi, mengunduh kerangka kerja ≠ menyalin pendapatan. Angka 38 dolar lebih mirip “ruang contoh dalam keadaan rekayasa puncak”, bukan rahasia kekayaan yang bisa langsung ditiru hanya dengan beberapa GPU. 📌 Mengapa inferensi semakin kuat, tapi banyak perusahaan model tetap rugi: • Estimasi Stanford HAI / Epoch AI: pengeluaran komputasi OpenAI pada 2025 sekitar 16,3 miliar dolar, dengan 8,3 miliar untuk riset dan 8 miliar untuk inferensi. • Dibandingkan 2024, pengeluaran inferensi OpenAI naik dari 1,8 miliar menjadi 8 miliar dolar—sekitar 3,4 kali lipat. • Anthropic pada 2025 memiliki pengeluaran komputasi sekitar 6,8 miliar dolar, dengan 4,1 miliar untuk riset dan 2,7 miliar untuk inferensi. Inilah kebenarannya: pelatihan dan inferensi adalah dua buku akuntansi berbeda. Anda bisa menjual Token, tapi itu tidak berarti Anda tidak perlu terus membakar uang untuk model generasi berikutnya; semakin banyak pengguna, semakin besar tagihan inferensi Anda. Biaya per unit turun, tapi total biaya tidak otomatis turun. Industri AI seperti membangun jalan tol—semakin banyak mobil, semakin banyak biaya tol yang masuk, tapi biaya pemeliharaan, ekspansi, dan bunga pinjaman juga ikut naik. 📌 Apakah hanya menjual Token bisa menjadi bisnis? Jawabannya: mungkin bisa, tapi tidak mudah. Teks ini memberikan perhitungan sensitivitas yang sangat jelas: • Jika biaya total adalah 10 dolar/GPU-jam; • Pendapatan teoretis penuh adalah 38 dolar/GPU-jam; • Maka hanya perlu mencapai sekitar 26,3% output pembayaran efektif untuk menutupi biaya. • Jika output pembayaran efektif mencapai 50%, pendapatan per jam sekitar 19 dolar, setelah dikurangi 10 dolar biaya, tersisa 9 dolar. Model ini menarik, tapi realitanya tidak romantis. Throughput, konkurensi, latensi, struktur pelanggan, lalu lintas puncak, dan waktu idle akan menggerogoti keuntungan yang diharapkan. Belum lagi, ketika perang harga terjadi, sebagian keuntungan efisiensi seringkali diserahkan kepada pelanggan. 📌 CoreWeave juga menunjukkan sisi lain yang sangat nyata: • Pendapatan Q2 2026: 2,575 miliar dolar, tumbuh sekitar 112% tahun-ke-tahun. • EBITDA disesuaikan: 1,51 miliar dolar, margin 59%. • Namun di bawah GAAP, masih rugi bersih 626 juta dolar. • Penyusutan dan amortisasi kuartal ini: 1,393 miliar dolar; bunga bersih: 640 juta dolar. Lihat? Bisnis komputasi bukan “ada pendapatan = ada keuntungan”. GPU menyusut, ekspansi bergantung pada pembiayaan, dan bunga selalu mengikuti Anda. Mendapatkan laba kotor tidak sama dengan mempertahankan laba bersih. 📌 Lapisan aplikasi lebih memalukan: permintaan naik, tapi keuntungan tidak selalu mengikuti: • Cursor hingga kuartal Januari 2026 memiliki margin kotor hingga -23%; jika semua biaya inferensi pengguna gratis dimasukkan sebagai biaya, sekitar -31%. • https://t.co/RxWvQzBAAu mengajukan perlindungan kebangkrutan dengan sekitar 12 juta pengguna aktif bulanan, pendapatan Agustus 2026: 5,3 juta dolar, tapi kerugian bulanan tetap 8-9 juta dolar. • Hanya dalam delapan bulan pertama 2026, biaya komputasi https://t.co/RxWvQzBAAu mencapai 56,1 juta dolar—sekitar 45% dari biaya operasional. • Di sisi lain, Midjourney pada 2023 menghasilkan pendapatan jauh melebihi 2 miliar dolar dan tetap menguntungkan. Sama-sama AI Native, nasibnya sangat berbeda. Alasannya tidak rumit: tidak cukup hanya “menggunakan AI” untuk otomatis membentuk model bisnis—kuncinya adalah apakah nilai tugasnya bisa menutupi biaya inferensi dan operasional. 📌 Peluang lebih besar mungkin ada di Agent: • Menlo Ventures memperkirakan pengeluaran konsumen AI global pada 2026 telah mencapai 40 miliar dolar—tiga kali lipat dari 12 miliar dolar pada 2025. • Tapi tingkat penggunaan AI oleh orang dewasa AS hanya naik dari 61% menjadi 64%. Artinya: pengguna baru tidak meledak—yang meledak adalah pengguna lama yang menggunakan AI lebih dalam dan membayar lebih banyak. Pasar kini bertaruh bukan hanya pada jumlah obrolan, tapi pada berapa banyak tugas harian yang bisa dilakukan AI untuk Anda. Email, pembelian, penjadwalan, operasi perangkat lunak, koordinasi lintas layanan—ini adalah tempat Agent benar-benar bisa memperbesar konsumsi Token. Namun, saya tetap harus menuangkan air dingin: lebih banyak Token tidak sama dengan bisnis yang lebih baik. Jika sebuah produk Agent menghasilkan pendapatan bulanan 20 dolar tetapi menghabiskan 30 dolar untuk model dan alatnya, ia hanya membiayai GPU hulu—bukan membiayai dirinya sendiri. Penilaian saya sederhana: 1. Angka 38 dolar/GPU-jam menunjukkan bahwa bisnis inferensi AI “mungkin bisa berjalan”, dan nilai optimasi teknis sangat diremehkan. 2. Namun dari “bisa dibillkan” ke “bisa untung”, ada empat tembok tebal: tingkat pemanfaatan, kekuatan penetapan harga, biaya modal, dan nilai produk. 3. Yang benar-benar bisa melewati siklus bukanlah mereka yang paling ahli membakar kartu—tapi mereka yang paling ahli mengubah Token menjadi hasil tugas nyata.Jika di masa depan setiap Agent bekerja, membeli, bernegosiasi, dan melaksanakan proses untuk manusia, maka masalahnya bukan lagi "Berapa harga Token itu dijual?", tetapi—berapa banyak nilai yang diciptakan oleh kecerdasan saya untuk anda? Ini adalah perhitungan yang paling saya pedulikan.