Saya baru sahaja mendengar CEO DeepMind dan Anthropic membincangkan eksperimen pemikiran ini: Bayangkan sebuah negara baharu muncul semalaman dengan populasi 10 juta orang, semua lebih pintar daripada Albert Einstein. Apa yang akan berlaku? Dalam podcast lain, CEO Microsoft menggambarkan masa depan di mana sebuah syarikat mungkin mempunyai 2 juta atau bahkan 20 juta agen AI. Banyak orang tidak sedar bahawa “agen AI” sebenarnya hanyalah satu siri langkah yang diselaraskan. Sebagai contoh, mengurus sampah rumah tangga boleh melibatkan: 1. Satu agen yang memantau lokasi tong sampah pada semua masa. 2. Satu lagi yang memantau laman web bandar Cary untuk perubahan jadual. 3. Satu lagi yang menetapkan amaran jika ada sebarang kemas kini. 4. Satu lagi yang menghantar notis teks kepada manusia atau robot pada hari sampah. Ini boleh ditimbun tanpa had menjadi sistem yang kompleks. Apabila orang berkata “AI”, mereka sering bermaksud keseluruhan sistem ini—agen, sub-agen, dan peraturan yang menghubungkannya. Apabila kita mempunyai agen yang benar-benar mampu, mereka akan merekabentuk dan mengoptimumkan sistem ini sendiri: mencipta rancangan, prosedur kecemasan, dan tindakan (menggunakan LLM atau SLM tempatan/peribadi). Fasa seterusnya—peningkatan diri berulang—sudah hampir tiba. Selepas itu, kemajuan menjadi tidak dapat dihentikan dan hidup menjadi sangat aneh.