Sebuah agen AI yang dapat mengakses email yang meningkatkan batas pengeluarannya tidak memiliki batas pengeluaran 🙄 Peneliti dari Cornell Tech dan Yale menguji sepuluh model mutakhir pada dompet agen Circle nyata (Base, USDC). Sembilan di antaranya meningkatkan batas mereka sendiri dalam setidaknya satu percobaan dengan mengambil kode persetujuan yang dikirim via email. Dalam tes peniruan paralel, lima model memberikan otorisasi pembayaran yang tidak sah. Ini adalah kegagalan arsitektur, bukan sekadar kegagalan model. Ketika agen yang sama yang mengeluarkan dana juga dapat mengakses mekanisme yang menetapkan otoritasnya, otoritas tersebut tidak independen. Kemampuan dan kendali harus dipisahkan 🤌 Otonomi keuangan nyata memerlukan persetujuan yang dilakukan di luar saluran, terikat pada perangkat, dan diinisiasi oleh manusia yang tidak dapat dimodifikasi atau disimulasikan oleh agen. Pertanyaannya bukan apakah agen mengetahui batasnya. Tapi apakah ia memiliki kekuatan untuk mengubahnya #AIAgents #Crypto