Semua orang percaya bahawa kecerdasan mempunyai permintaan tanpa had, bukan sahaja para maxis. Tetapi apa yang salah dipahami oleh para maxis ialah bahawa kecerdasan yang sedang dibina oleh Anthropic, OpenAI, dan model frontier bukanlah jenis generik yang anda bayangkan. Biarkan saya jelaskan—
Dua penggunaan utama komputasi adalah, secara kasar, sama ada pelatihan atau inferens. “Kecerdasan generik” yang semua orang katakan mempunyai permintaan tanpa had datang terutamanya daripada inferens, dan inferens memerlukan kuasa serta penggunaan yang sangat berbeza daripada pelatihan. Inferens berlaku dalam lonjakan, jadi secara lalai anda perlu membina kapasiti berlebihan untuk menangani puncak sehingga masalah penggunaan diselesaikan, yang bermakna hampir secara definisi kita akan membina berlebihan. Tetapi pelatihan tidak mempunyai masalah ini: beban kerja adalah stabil dan lengkung permintaan boleh dikenal pasti. Oleh itu, pusat data akhirnya dibina berlebihan sekarang kerana penggunaan belum dioptimumkan.
Oleh itu, Anthropic dan makmal frontier lain sedang membina masa depan mereka berdasarkan pelatihan, itulah sebabnya mereka mengatakan mereka boleh menyerap semua kapasiti berlebihan ini. Tetapi “kecerdasan” mereka bukanlah produktiviti tempat kerja. Ia adalah lompatan menuju kepada hasil jenis singularity: penemuan ubat baru, kemampuan siber, peningkatan diri berulang. Ini adalah benar-benar 1-of-1. Itulah sebabnya apabila Anthropic bercakap tentang “ancaman eksistensial terhadap kemanusiaan,” mereka tidak sedang bercakap tentang kehilangan pekerjaan, tidak benar-benar. Mereka mengatakan mereka berada di ambang penemuan yang luar biasa, kerana mereka masih TERUS MELATIH LEBIH BANYAK MODEL.
Tetapi distilasi adalah nyata dan sumber terbuka adalah nyata. Separuh hayat mana-mana model frontier adalah sangat kecil kerana tiada apa-apa yang melindunginya sebagaimana IP melindungi paten. Bayangkan sebuah syarikat ubat penyakit langka yang menghabiskan berbilion-bilion dolar untuk penyelidikan, dan dua bulan selepas penemuan itu, ubat generik muncul. Syarikat itu tidak akan pernah dapat mengekang semula pelaburannya, kecuali jika ia mampu menemui ubat penyakit langka yang tak terhingga bilangannya. ITULAH jenis kecerdasan yang sedang dipertaruhkan oleh Anthropic. Itulah yang dipertaruhkan oleh perbelanjaan komputasi sebanyak $800 bilion.
Oleh itu, soalan yang perlu anda tanyakan ialah: 1) Jika kecerdasan adalah dua tingkat, berapakah kos setiap tingkat? Berapakah kos AGI, dan berapakah kos kecerdasan generik yang mempunyai permintaan tanpa had? Dan 2) Adakah kita mengalokasikan modal dengan lengkung risiko dan fungsi reputasi yang betul untuk mengetahui sama ada pulangan AGI itu benar? Dan jika ia benar, adakah syarikat swasta mana-mana boleh benar-benar memiliki ia?
Itulah disonansi kognitif di jantung seluruh paradoks ini: semua orang sedang membohongi satu sama lain mengenai apa itu kecerdasan, sementara unit pengukuran sengaja dikepalkan kabur oleh pengguna dan pembekal. Kecerdasan generik mempunyai permintaan tanpa had, tetapi ia adalah perlumbaan menuju ke bawah. “Kecerdasan super” adalah sebaliknya: ia tidak mungkin mempunyai permintaan tanpa had secara definisi, tetapi jika ia memberikan walaupun separuh daripada apa yang dijanjikan, tiada syarikat swasta mana pun akan pernah mampu memilikinya, sekurang-kurangnya tanpa kerajaan turun tangan untuk melindungi moat (itulah sebabnya Anthropic terus memainkan sudut ini, walaupun belum pernah menunjukkan sebarang bukti bahawa mereka hampir mencapai tahap penemuan ini). Dan pada titik itu anda perlu bertanya: siapa yang akan menanggung beban itu, dan adakah itu sebenarnya sangat bijak sama sekali?