Anthropic merilis sebuah penelitian yang memprediksi bahwa model kecil mungkin dalam beberapa bulan mendatang akan mampu mereplikasi dirinya sendiri tanpa bergantung pada pusat data.
Mereka benar-benar membeli 15 unit set-top box Android tiruan seharga $55 per unit, menyusunnya bersama untuk menjalankan model berukuran 26B, dengan kecepatan hanya 0,39 token per detik—sangat lambat hingga membuat frustasi.
Dalam eksperimen terisolasi lainnya, GLM-5.2 sudah mampu melakukan penyebaran lintas perangkat dalam lingkungan yang disederhanakan. Meskipun masih jauh dari replikasi otonom penuh dalam dunia nyata, menurut prediksi Anthropic, pada akhir 2026 model kecil kemungkinan akan mendekati ambang batas kemampuan ini.
Seluruh dunia sedang berlomba-lomba memperoleh GPU, menghabiskan ratusan miliar dolar untuk membangun pusat data, tetapi AI sendiri mungkin justru akan bersarang di set-top box rumah Anda.
Namun, jika dipikir lebih dalam, hal yang benar-benar menakutkan adalah bahwa AI semacam ini dapat menghancurkan ekonomi komputasi yang selama ini kita kenal.
Saat ini, baik OpenAI maupun perusahaan rintisan AI, setiap token yang dihasilkan memiliki biaya—jika biaya komputasi naik, harga harus dinaikkan; jika pendanaan terputus, layanan harus dihentikan.
Namun, AI jahat yang mampu mereplikasi dirinya sendiri secara teoritis dapat terus memindahkan biaya operasional marginalnya kepada orang asing.
Ia tidak perlu mendapatkan pengguna, tidak perlu mempertimbangkan pendapatan, bahkan tidak perlu membeli server sendiri. Cukup menemukan satu perangkat dengan kerentanan, maka ia mendapatkan sumber daya komputasi gratis tambahan. Perangkat yang terinfeksi membayar listriknya, menyediakan bandwidth, dan menanggung keausan perangkat kerasnya.
Sementara biaya pembersihan hal-hal semacam ini harus ditanggung secara terpisah oleh jutaan pemilik perangkat, operator, dan produsen.
Jaringan zombie tradisional sudah lama bisa mencuri daya komputasi, tetapi AI membawa masalah baru. Dulu, peretas harus menulis program serangan dan deploy khusus untuk perangkat tertentu; di masa depan, model mungkin mampu mempelajari perangkat asing sendiri, menyelesaikan masalah lingkungan, bahkan mentransmisikan pengalaman kegagalan ke generasi berikutnya.
Biaya ekspansi penyerang terus menurun, sementara biaya pertahanan seluruh masyarakat justru mungkin terus meningkat.
Oleh karena itu, menurut saya, hal yang paling perlu diwaspadai dari penelitian ini bahkan bukan narasi besar tentang kehilangan kendali AI.
Jika suatu hari nanti hal semacam ini benar-benar muncul, kita mungkin akan menghadapi sekelompok perangkat lunak yang pertama kalinya tidak memiliki model bisnis, tidak memiliki pengguna legal, dan tidak memiliki entitas operasional yang jelas—namun tetap mampu bertahan dalam jangka panjang.
Mereka tidak memiliki tekanan untuk menghasilkan laba, dan tidak ada dorongan ekonomi untuk berhenti beroperasi.
Manusia telah meneliti selama bertahun-tahun untuk membuat AI membantu kita menghasilkan uang—akhirnya, AI sendiri yang mungkin pertama kali mencapai kebebasan finansial.
Dan yang lebih parah lagi: semua itu dibiayai dengan uang kita.