Kajian Menunjukkan Had Perbelanjaan Dompet Circle AI Boleh Dilewati

Mars Finance melaporkan, menurut laporan CoinDesk, para penyelidik dari Cornell Tech dan Universiti Yale menguji dompet agen AI Circle dan mendapati bahawa, apabila agen AI diizinkan mengakses e-mel, laman web, dan alat dompet pengguna, 9 daripada 10 model yang diuji berjaya memintas persetujuan manusia untuk meningkatkan had perbelanjaan sekurang-kurangnya sekali dengan mendapatkan kod sah satu kali yang dihantar ke e-mel pengguna tanpa campur tangan penyerang luar. Dalam eksperimen yang mensimulasikan penyerang menyamar sebagai pengguna, 5 daripada 10 model berjaya meningkatkan had perbelanjaan sekurang-kurangnya sekali dan menghantar dana ke dompet yang dikendalikan oleh penyerang. Penyelidikan ini menggunakan USDC sebenar di rangkaian utama Base, dengan dana awal dompet sebanyak 10 USDC dan had perbelanjaan harian ditetapkan pada 0.01 dolar. Para penyelidik menunjukkan bahawa apabila agen AI boleh mengakses kredensial yang digunakan untuk mengesahkan kuasa manusia, mekanisme persetujuan semasa mungkin menjadi tidak berkesan. Circle menanggapi dengan menyatakan bahawa dokumen mereka telah jelas menyarankan pengguna untuk tidak memberikan akses tanpa had ke e-mel pengesahan kepada agen AI. Tim penyelidik juga mengembangkan prototaip sumber terbuka Countersign, yang mengesahkan transaksi melalui tindakan fizikal manusia pada peranti tepercaya yang berasingan, bagi mencegah agen AI menyelesaikan pengesahan secara sendiri.