Semua orang percaya bahwa kecerdasan memiliki permintaan tak terbatas, bukan hanya para maxis. Tetapi yang keliru dari para maxis adalah bahwa kecerdasan yang sedang dibangun oleh Anthropic, OpenAI, dan model frontier bukanlah jenis generik yang Anda bayangkan. Biarkan saya jelaskan—
Dua penggunaan komputasi terbesar secara kasar adalah pelatihan atau inferensi. “Kecerdasan generik” yang dikatakan semua orang memiliki permintaan tak terbatas sebagian besar berasal dari inferensi, dan inferensi membutuhkan daya serta pemanfaatan yang sangat berbeda dibanding pelatihan. Inferensi terjadi dalam lonjakan, sehingga secara default Anda harus membangun kapasitas berlebih untuk menangani puncaknya sampai masalah pemanfaatan teratasi, yang berarti hampir secara definisi kita akan membangun berlebihan. Tetapi pelatihan tidak memiliki masalah itu: beban kerjanya stabil dan kurva permintaannya dapat diprediksi. Oleh karena itu, pusat data saat ini akhirnya dibangun berlebihan justru karena pemanfaatannya belum dioptimalkan.
Jadi, Anthropic dan laboratorium frontier lainnya membangun masa depan mereka berdasarkan pelatihan, itulah sebabnya mereka mengatakan mereka bisa menyerap semua kapasitas berlebih ini. Tetapi “kecerdasan” mereka bukanlah produktivitas tempat kerja. Ini adalah lompatan menuju hasil semacam singularitas: penemuan obat baru, kemampuan siber, peningkatan mandiri rekursif. Ini adalah hal-hal benar-benar unik—1 dari 1. Itulah sebabnya ketika Anthropic berbicara tentang “ancaman eksistensial bagi umat manusia,” mereka tidak membicarakan kehilangan pekerjaan, tidak benar-benar. Mereka mengatakan mereka berada di ambang penemuan luar biasa, karena mereka masih TERUS MELATIH MODEL LEBIH BANYAK.
Tetapi distilasi nyata dan open source nyata. Paruh waktu dari setiap model frontier sangat kecil karena tidak ada yang melindunginya sebagaimana IP melindungi paten. Bayangkan perusahaan obat penyakit langka yang menghabiskan miliaran dolar untuk penelitian, dan dua bulan setelah terobosan, obat generik muncul. Perusahaan itu tidak akan pernah bisa menutup kembali investasinya, kecuali jika ia bisa menemukan jumlah obat penyakit langka yang tak terhingga. ITULAH jenis kecerdasan yang sedang dipertaruhkan Anthropic. Itulah yang menjadi taruhan dari $800 miliar pengeluaran komputasi.
Jadi, pertanyaan yang perlu Anda ajukan adalah: 1) Jika kecerdasan bersifat dua tingkat, berapa biaya masing-masing tingkat? Berapa biaya AGI, dan berapa biaya kecerdasan generik yang memiliki permintaan tak terbatas? Dan 2) Apakah kita mengalokasikan modal dengan kurva risiko dan fungsi peluruhan yang tepat untuk mengetahui apakah imbal hasil AGI itu nyata? Dan jika memang nyata, bisakah perusahaan swasta benar-benar memilikiinya?
Itulah disonansi kognitif di inti seluruh paradoks ini: semua orang saling gaslighting tentang apa itu kecerdasan, sementara unit pengukurannya sengaja tetap samar oleh baik pengguna maupun penyedia. Kecerdasan generik memiliki permintaan tak terbatas, tetapi ini adalah perlombaan menuju titik terendah. “Superkecerdasan” adalah sebaliknya: secara definisi tidak mungkin memiliki permintaan tak terbatas, tetapi jika ia memberikan setidaknya separuh dari apa yang dijanjikan, tidak ada perusahaan swasta yang akan pernah bisa mempertahankannya—setidaknya tidak tanpa campur tangan pemerintah untuk melindungi moat-nya (itulah sebabnya Anthropic terus menonjolkan sudut pandang ini, meskipun belum pernah menunjukkan bukti bahwa mereka dekat dengan tingkat penemuan semacam itu). Dan pada titik itu, Anda harus bertanya: siapa yang akan menanggung kerugian itu, dan apakah itu sebenarnya sangat cerdas sama sekali.