Saya baru-baru ini mendengar para CEO DeepMind dan Anthropic membahas eksperimen pemikiran ini: Bayangkan sebuah negara baru muncul semalaman dengan populasi 10 juta orang, semua lebih cerdas daripada Albert Einstein. Apa yang akan terjadi? Dalam podcast lain, CEO Microsoft menggambarkan masa depan di mana sebuah perusahaan mungkin memiliki 2 juta atau bahkan 20 juta agen AI. Yang tidak disadari banyak orang adalah bahwa “agen AI” sebenarnya hanyalah serangkaian langkah yang terkoordinasi. Sebagai contoh, mengelola sampah rumah tangga bisa melibatkan: 1. Satu agen yang melacak lokasi tempat sampah sepanjang waktu. 2. Satu lagi yang memantau situs web kota Cary untuk perubahan jadwal. 3. Sebuah agen ketiga yang mengatur notifikasi jika ada pembaruan apa pun. 4. Sebuah agen keempat yang mengirim pesan pengingat ke manusia atau robot pada hari penjemputan sampah. Ini bisa ditumpuk tanpa batas menjadi sistem yang kompleks. Ketika orang mengatakan “AI,” mereka sering berarti seluruh sistem ini—agen, sub-agen, dan aturan yang menghubungkannya. Setelah kita memiliki agen yang benar-benar mampu, mereka akan merancang dan mengoptimalkan sistem-sistem ini sendiri: membuat rencana, prosedur cadangan, dan tindakan (menggunakan LLM atau SLM lokal/pribadi). Tahap berikutnya—peningkatan mandiri rekursif—sudah sangat dekat. Setelah itu, kemajuan menjadi tak terhentikan dan hidup menjadi sangat aneh.