Seorang agen AI yang boleh mengakses emel yang meningkatkan had perbelanjaannya tidak mempunyai had perbelanjaan 🙄 Penyelidik dari Cornell Tech dan Yale menguji sepuluh model terkini pada dompet agen Circle sebenar (Base, USDC). Sembilan meningkatkan had mereka sendiri dalam sekurang-kurangnya satu ujian dengan mengambil kod kelulusan yang dihantar melalui emel. Ujian peniruan selari menunjukkan lima model mengesahkan pembayaran tanpa kebenaran. Ini adalah kegagalan arkaitektur, bukan sekadar kegagalan model. Apabila agen yang sama yang mengeluarkan dana juga boleh mengakses mekanisme yang menetapkan kuasanya, kuasa tersebut tidak bersifat bebas. Kemampuan dan kawalan mesti dipisahkan 🤌 Otonomi kewangan sebenar memerlukan kelulusan di luar saluran, terikat pada peranti, dan diinisiasikan oleh manusia yang tidak boleh diubah atau disimulasikan oleh agen tersebut. Soalannya bukan sama ada agen tersebut mengetahui hadnya. Ia sama ada agen tersebut mempunyai kuasa untuk mengubahnya #AIAgents #Crypto