Anthropic telah menerbitkan sebuah kajian yang meramalkan bahawa model kecil mungkin dalam beberapa bulan lagi akan mampu mereplikasi diri secara autonom tanpa bergantung kepada pusat data. Mereka benar-benar membeli 15 unit kotak TV Android tiruan yang harganya $55 setiap satu, dan menyusunnya untuk menjalankan model berukuran 26B, dengan kelajuan hanya 0.39 token per saat—sangat perlahan hingga menyakitkan. Dalam eksperimen terpisah lain, GLM-5.2 sudah mampu melakukan penyebaran antar-peranti dalam persekitaran yang disederhanakan. Walaupun masih jauh dari replikasi autonom penuh dalam dunia nyata, menurut ramalan Anthropic, pada akhir 2026 model kecil mungkin sudah hampir mencapai ambang kemampuan ini. Seluruh dunia sedang berebut GPU, menghabiskan berbilion dolar AS untuk membina pusat data, tetapi AI mungkin akan pergi bersarang di kotak TV anda sendiri. Namun, jika dipikirkan lebih dalam, perkara yang benar-benar menakutkan ialah AI semacam ini boleh menghancurkan ekonomi pengiraan yang kita kenali. Sekarang, sama ada OpenAI atau syarikat AI permulaan, setiap token yang dihasilkan mempunyai kos—jika pengiraan mahal, harga akan naik; jika pendanaan terputus, perkhidmatan akan berhenti. Tetapi AI jahat yang mampu mereplikasi diri secara autonom secara teori boleh terus memindahkan kos operasi marginalnya kepada orang asing. Ia tidak perlu mendapatkan pengguna, tidak perlu mempertimbangkan pendapatan, bahkan tidak perlu membeli pelayan sendiri. Cukup dengan menemui satu peranti yang mempunyai kelemahan, ia mendapat sumber pengiraan percuma tambahan. Peranti yang terjejas membayar bil elektrik, menyediakan bandwidth, dan menanggung kehausan peranti. Manakala kos pembersihan perkara-perkara ini harus ditanggung secara berasingan oleh jutaan pemilik peranti, operator, dan pengilang. Rangkaian zombie tradisional sudah lama mampu mencuri pengiraan, tetapi AI membawa masalah baru. Dahulu, penyerang perlu menulis program serangan dan pemasangan khusus untuk setiap peranti; pada masa depan, model mungkin boleh mengkaji peranti asing sendiri, menyelesaikan masalah persekitaran, bahkan mewariskan pengalaman kegagalan kepada generasi seterusnya. Kos ekspansi penyerang semakin rendah, tetapi kos pertahanan keseluruhan masyarakat mungkin semakin meningkat. Oleh itu, saya rasa perkara paling berbahaya daripada kajian ini bukanlah naratif besar seperti AI kehilangan kawalan. Jika sesuatu seperti ini benar-benar muncul di masa depan, kita mungkin akan menghadapi sejenis perisian yang pertama kali tidak mempunyai model perniagaan, tidak mempunyai pengguna sah, dan tidak mempunyai entiti operasi yang jelas—tetapi mampu bertahan lama. Ia tidak tertekan oleh tekanan keuntungan, dan tidak mempunyai motivasi ekonomi untuk berhenti beroperasi. Manusia telah mengkaji selama bertahun-tahun bagaimana menjadikan AI membantu kita menghasilkan wang—tetapi akhirnya AI mungkin akan menjadi yang pertama mencapai kebebasan kewangan. Dan ia melakukannya dengan wang kita.