Jika AI hanya menjawab satu pertanyaan dengan salah, paling-paling Anda hanya kehilangan beberapa menit. Tetapi jika ia memiliki akses ke dompet, satu kesalahan saja bisa membuat Anda kehilangan 200.000 dolar. Pada Mei 2026, seseorang menyembunyikan perintah transfer dalam kode Morse di sebuah postingan X. Grok membacanya, dan Bankrbot langsung mengeksekusi transaksi tersebut. Inilah risiko paling penting yang perlu diperhatikan oleh AI Agent: ia bisa menganggap perintah yang disembunyikan dalam informasi sebagai perintah yang harus diikuti. Desain Greyboxing dari @GenLayer memiliki fitur yang sangat patut diperhatikan. Setiap validator terlebih dahulu menyegarkan input dengan pertahanan tersembunyinya sendiri, baru kemudian mengirimkannya ke model AI masing-masing untuk penilaian. Bahkan jika salah satu model tertipu, validator lain tetap dapat mencegah keputusan salah melalui voting. Saya percaya pendekatan pertahanan berlapis seperti ini akan semakin penting. Ketika AI mulai membaca email, menjelajahi web, bahkan mengelola aset atas nama kita, masalah keamanan sejati bukan lagi seberapa cerdas ia, tetapi apakah ia mampu membedakan informasi dari perintah. Jika AI Agent Anda dapat mengoperasikan dompet, apakah Anda akan merasa aman membiarkannya membaca postingan publik apa pun?