[TL;DR Harian] Saya akan mengatakan hal yang diam-diam: ketika tagihan AI bulanan seorang insinyur mulai terdengar seperti pendanaan Seri A, ini berhenti menjadi cerita soal alat dan mulai terlihat seperti eksperimen ekonomi. Jadi, apa yang sebenarnya kita lihat—sistem operasi berikutnya di bidang rekayasa perangkat lunak, atau mesin sangat mahal untuk memproduksi sampah AI dalam skala industri? Kemungkinan besar keduanya. 🤖💸 🔥 Setup: fleksibilitas satu triliun token berubah menjadi perdebatan biaya publik 📌 Angka-angka utama sengaja terdengar absurd • Pendiri OpenClaw, Peter Steinberger, memperkirakan timnya menghabiskan sekitar $10 juta dalam biaya token selama satu bulan untuk pekerjaan AI, lalu langsung menambahkan: tidak semua pengeluaran itu bermanfaat. • Contoh viral lainnya berasal dari profil Cursor Lauren Tan, yang menunjukkan penggunaan sekitar 1,5 triliun token dalam 30 hari. • Dengan perkiraan kasar $8 per 1 juta token, Peter Piekarczyk memperkirakan biaya sekitar $384 ribu per hari, ~$11 juta per bulan, atau $132 juta per tahun. • Bahkan dengan diskon perusahaan 90%, perkiraan tetap berada di sekitar $1,1 juta per bulan, atau sekitar $13 juta per tahun. 📌 Mengapa orang panik: penggunaan ini sangat jauh di luar perilaku pengembang normal • Data Jellyfish dari 12.000 pengembang menunjukkan pengguna median mengonsumsi sekitar 51 juta token per bulan. • Persentil ke-90 sekitar 380 juta token per bulan. • Artinya, penggunaan 1,5 triliun token milik Lauren adalah sekitar 29.000x lipat median, sementara 603 miliar token yang sebelumnya dibagikan Steinberger masih sekitar 12.000x lipat. • Begitu penggunaan token diterjemahkan ke dalam perhitungan gaji, narasinya berubah cepat: ini bukan lagi “alat produktivitas,” melainkan terlihat seperti aristokrasi komputasi. 📌 Tagihan sebenarnya rumit, karena tidak semua token harganya sama • Jumlah token gaya Cursor bisa mencakup input standar, output model, penulisan cache, dan pembacaan cache. Semuanya memiliki harga yang sangat berbeda. • Dengan harga gaya Opus 5.5, 1 juta token input mungkin sekitar $4, output sekitar $20, dan pembacaan cache hanya sekitar $0,20. • Satu tangkapan layar penggunaan menunjukkan 73,3 miliar token menghabiskan biaya sekitar $30 ribu total, yang menyiratkan rata-rata sekitar $0,41 per 1 juta token karena lalu lintas cache mendominasi. • Terapkan tarif campuran ini ke 1,5 triliun token dan biaya bulanan turun menjadi sekitar $615 ribu, bukan $11 juta. • Dalam skenario batas bawah absolut di mana semuanya dibebankan dengan harga pembacaan cache, 1,5 triliun token akan biayanya sekitar $300 ribu per bulan. • Piekarczyk kemudian melembutkan klaimnya sendiri: bahkan jika perkiraan awalnya 10x terlalu tinggi, biaya bulanan mungkin tetap sekitar $100 ribu. 🔥 Jadi, apa yang sebenarnya dibeli oleh semua pengeluaran itu? 📌 Bukan “satu chatbot,” tapi seluruh struktur agen • Steinberger menggambarkan gaya kerja ini sebagai eksplorasi seperti apa pengembangan perangkat lunak ketika biaya token tidak lagi menjadi kendala. • Timnya yang terdiri dari 3 orang menjalankan sekitar 100 instansi Codex. • Agen-agen ini meninjau PR, memindai riwayat commit untuk bug keamanan, menggabungkan isu GitHub yang duplikat, menulis perbaikan, memantau regresi kinerja, bahkan bergabung dalam rapat untuk menghasilkan PR dari diskusi. • Lauren menggambarkan setup-nya sendiri sebagai tim lebih dari 20 agen: agen kepala staf, agen PM, dan lebih dari 20 agen eksekusi yang berjalan secara otonom. 📌 Inti utamanya bukan generasi—tapi verifikasi • Klaim Lauren adalah bahwa hambatan dalam pemrograman agen bukanlah menulis kode, tapi membuktikan kode benar-benar berfungsi. • Prosesnya membuat agen menjalankan kode, mengumpulkan jejak CPU dan snapshot heap, meluncurkan simulator iOS, dan berinteraksi dengan aplikasi seperti pengguna nyata. • Tujuannya adalah menciptakan loop tertutup: jika agen dapat memverifikasi outputnya sendiri, ia bisa terus berulang hingga tugas selesai. • Jika tidak dapat memverifikasi, ia mengembalikan diff ke manusia dan berhenti—artinya manusia menjadi bagian paling lambat dalam sistem. • Dalam skala yang diklaimnya—4.000 PR per bulan—even jika setiap PR membutuhkan 5 menit tinjauan manusia, totalnya mencapai ~333 jam, hampir satu bulan penuh tenaga kerja satu orang. Jadi tinjauan manual tidak bisa menjadi lapisan validasi. 📌 Ini mengubah peran insinyur • Dalam model ini, insinyur mulai terlihat kurang seperti programmer dan lebih seperti manajer teknik untuk agen. • Poin Lauren tegas: jika Anda tidak bisa mempercayai output satu agen, Anda tidak akan pernah bisa berskala hingga seratus. • Alur pstack-nya mengemas ini menjadi playbook terstruktur—mengstandarisasi pemahaman, desain, pemrograman, tinjauan, dan validasi di berbagai agen lokal dan cloud. 🔥 Tapi inilah bagian yang menjadi tajam: semua otonomi ini membutuhkan batasan brutal 📌 Basis kode harus dibangun ulang agar ramah agen • GrokBot dilaporkan dimulai sebagai perangkat lunak yang dikode cepat dengan batasan arsitektural lemah dan sedikit pembacaan kode manusia. • Hal itu membuat agen mudah memilih jalur paling mudah: lebih banyak kode, batas-batas kabur, risiko kinerja meningkat. • Untuk memperbaikinya, Lauren mengatakan ia menggunakan lebih dari 600 PR untuk merefaktor sistem menjadi arsitektur internal bernama Dune. • Aturan CI menjadi sangat ketat: larang useEffect, larang komentar, dan validasi graf ketergantungan agar Electron main dan renderer tidak saling mengimpor. • Dengan kata lain, bagian “cerdas” bukan hanya model yang lebih baik. Ini adalah merancang ulang lingkungan sehingga agen memiliki lebih sedikit cara untuk bersikap ceroboh. 📌 pstack mungkin kuat, tapi mungkin juga sangat tidak portabel • Paketnya mencakup 23 playbook dan lebih dari 20 prinsip teknik. • Ini terdengar kurang seperti alur kerja pengembangan universal dan lebih seperti kandang perilaku yang sangat disesuaikan untuk model. • Itu boleh-boleh saja—sampai orang mencoba menyalin-tempelnya ke tim biasa dengan anggaran biasa dan basis kode warisan biasa. Maka sihirnya mungkin menguap. 🔥 Reaksi balik: apakah ini inovasi, atau hanya teater komputasi anak orang kaya? 📌 Kritikus mengatakan ini adalah pabrik sampah AI yang dibungkus sebagai masa depan • Di Reddit dan di kalangan teknis banyak pengembang berargumen bahwa menggabungkan ribuan PR dengan pengeluaran token tak terbatas bukanlah revolusi dalam rekayasa perangkat lunak. • Klaim mereka: ini adalah komputasi brute-force yang digunakan untuk membanjiri basis kode dengan perubahan mikro, sambil mengabaikan hambatan nyata—kelangsungan hidup jangka panjang. • Dengan kata lain, generasi kode berskala lebih cepat daripada penilaian. Dan ketika penilaian kurang didanai, utangnya disosialisasikan kepada siapa pun yang mewarisi repositori. 📌 Nilai pemasaran mungkin lebih tinggi daripada nilai teknis • Pendiri T3 Theo berpendapat biaya internal sebenarnya mungkin lebih dekat ke $25 ribu–$50 ribu per bulan. • Pandangannya sederhana: bahkan pada level itu, eksposurnya bernilai. Beberapa perusahaan menghabiskan $1 juta untuk acara dan mendapat perhatian lebih sedikit daripada satu posting viral dari Lauren.• Dari perspektif Cursor, ini mungkin bukan cerita ekonomi unit, melainkan lebih merupakan keberhasilan PR. • Lauren sendiri mengakui privillegenya dengan jelas: ia bekerja di laboratorium AI dengan token yang secara efektif tak terbatas, sehingga ia tidak mengklaim semua orang harus meniru metodenya secara persis. 📌 Pertanyaan yang lebih dalam adalah masalah ekonomi, bukan hanya teknis • Jika pengembangan agen hanya berjalan lancar ketika loop validasi didanai secara besar-besaran, maka produk sebenarnya bukanlah “pengkodean AI.” Melainkan akses terhadap validasi murah dalam skala besar. • Dan jika itu benar, AgentFi menjadi kerangka yang lebih menarik: bukan hanya apa yang bisa dilakukan agen, tetapi siapa yang mampu membiarkan mereka beroperasi secara otonom. • Masa depan mungkin tidak dimiliki oleh tim dengan prompt terbaik. Mungkin dimiliki oleh tim yang membangun sistem insentif, pengaman, dan loop validasi efisien modal terbaik. Pendapat saya? Cerita ini berguna justru karena membuat semua orang tidak nyaman. • Kasus terbaik: ini adalah gambaran awal dari tumpukan teknik baru di mana agen mengirim, menguji, memperbaiki, dan mengoordinasikan di seluruh sistem perangkat lunak. • Kasus terburuk: ini adalah pertunjukan yang didanai komputasi yang keliru menganggap volume output sebagai kualitas produk. • Paling mungkin: kebenaran berada di tengah. Perangkat lunak agen mungkin nyata, tetapi tanpa arsitektur terdisiplin dan ekonomi yang sehat, ia mungkin hanya menjadi cara lebih cepat untuk memproduksi teknis utang. Jadi, inilah pertanyaan yang ingin saya tinggalkan untuk Anda: Jika sebuah agen dapat menulis 4.000 PR sebulan, tetapi hanya segelintir elit yang mampu membayar tagihan validasinya, apakah itu masa depan perangkat lunak—atau hanya demo kekuasaan?