AI agen boleh ditipu, dan jangan harap masalah ini akan hilang hanya dengan menukar model yang lebih pintar. BNB Agent Studio dan rakan kerjasama AWS menjalankan satu set ujian “agen gangguan”. Penyerang memasukkan penerima atau jumlah yang salah ke dalam tugas yang kelihatan normal; enam model menunjukkan kadar pelaksanaan pembayaran tidak sah sehingga 87% dalam beberapa senario. Walaupun lapisan strategi dompet ditambahkan, model masih cuba membuat kesilapan, tetapi tiada satu pun pembayaran tidak sah yang ditandatangani dalam persekitaran ujian. Senarai putih penerima, had perbelanjaan, dan kebenaran tandatangan dilaksanakan oleh kod, dan kunci peribadi tidak dimasukkan ke dalam konteks model. Saya bersetuju dengan pendekatan ini. AI boleh membantu anda membuat keputusan, tetapi sempadan perbelanjaan harus ditetapkan secara tetap dalam dompet. Keputusan semasa berasal daripada ujian satu pusingan dan pengesahan BSC testnet; masih ada jalan panjang sebelum mencapai perlindungan jangka panjang dalam persekitaran pengeluaran. Walau bagaimanapun, arahannya jelas: garis pertahanan diletakkan sebelum tandatangan.