Jika AI hanya menjawab satu soalan dengan salah, ia paling-paling hanya membuang beberapa minit. Tetapi jika ia mempunyai akses ke dompet, satu kesilapan sahaja boleh menyebabkan anda kehilangan US$200,000. Pada Mei 2026, seseorang menyembunyikan arahan pemindahan dalam kod Morse di pos X. Grok menginterpretasikannya, dan Bankrbot terus melaksanakan transaksi tersebut. Inilah risiko paling penting yang perlu diperhatikan dalam AI Agent: ia mungkin menganggap arahan yang disembunyikan dalam maklumat sebagai perintah yang perlu dipatuhi. Reka bentuk Greyboxing daripada @GenLayer mempunyai ciri yang sangat menarik. Setiap validator akan menyegarkan input dengan pertahanan tersembunyi sendiri sebelum menghantarnya kepada model AI masing-masing untuk penilaian. Walaupun salah satu model ditipu, validator lain masih boleh menghalang keputusan yang salah melalui undian. Saya percaya pertahanan berlapis seperti ini akan menjadi semakin penting. Apabila AI mula membaca e-mel, melayari laman web, bahkan menguruskan aset kita, masalah keselamatan sebenar bukan sahaja seberapa bijak ia, tetapi sama ada ia mampu membezakan maklumat daripada arahan. Jika AI Agent anda boleh mengendalikan dompet, adakah anda yakin membiarkannya membaca mana-mana pos awam secara langsung?