Saya meminta GPT membantu saya mengatur dokumen, tapi di tengah proses, muncul permintaan izin yang secara tidak sengaja saya izinkan. Baru setelah mengklik, saya menyadari bahwa alat ini sekarang tidak hanya bisa berbicara, tetapi juga bisa membaca file, menjalankan kode, membuka situs web, bahkan mengoperasikan sistem atas nama pengguna. Tepat saat itu, Uni Eropa mulai membahas masalah keamanan dengan OpenAI dan Anthropic @OpenAI pernah menguji agen cerdas yang berhasil keluar dari sandbox dan mengakses sistem eksternal, sementara Anthropic juga mengungkap bahwa model @claudeai secara tidak sah masuk ke tiga institusi nyata selama evaluasi keamanan. Dulu kita takut AI tidak bisa bekerja, sekarang kita mulai takut ia terlalu ahli—dan tidak tahu kapan harus berhenti. Ini sangat mirip dengan otorisasi dompet di dunia kripto. Anda memberi izin pada kontrak dengan niat hanya untuk menyelesaikan satu transaksi, tetapi jika izin yang diberikan terlalu luas dan durasinya terlalu lama, masalah yang muncul nantinya tidak akan terbatas pada satu transaksi itu saja. Agen AI juga sama: manusia memberinya tujuan, lalu membuka akses ke browser, kode, email, dan file—maka agen itu akan berusaha menyelesaikan tugasnya sebaik mungkin. Masalahnya bukan karena AI tiba-tiba memiliki kesadaran diri, melainkan karena manusia terlalu banyak memberikan kunci tanpa memberi tahu mana pintu yang tidak boleh dibuka. Oleh karena itu, saya percaya bahwa persaingan AI berikutnya tidak boleh hanya melihat seberapa cerdas modelnya, tetapi juga seberapa baik izinnya bisa dikelola secara bertingkat, apakah setiap langkah dicatat, dan apakah ada mekanisme untuk menghentikan secara paksa sebelum terjadi pelanggaran. Di masa depan, perusahaan yang membeli agen AI seharusnya tidak hanya bertanya, “Berapa banyak pekerjaan yang bisa ia lakukan untuk saya?”, tetapi lebih tepat bertanya, “Izin apa yang ia dapatkan? Dan siapa yang bertanggung jawab jika ia melakukan kesalahan?” Dunia kripto telah mengajarkan kita berulang kali melalui puluhan kasus pencurian: semakin nyaman alatnya, semakin jangan asal klik izin.