Studi Mengungkap Batas Pengeluaran Dompet Circle AI Dapat Dilewati

Berita Mars Finance melaporkan, menurut laporan CoinDesk, para peneliti dari Cornell Tech dan Yale University menguji dompet agen AI Circle dan menemukan bahwa, dalam kondisi di mana agen AI diizinkan mengakses email pengguna, situs web, dan alat dompet, 9 dari 10 model yang diuji berhasil melewati persetujuan manusia setidaknya sekali untuk meningkatkan batas pengeluaran dengan secara mandiri memperoleh kode verifikasi satu kali yang dikirim ke email pengguna, tanpa intervensi penyerang eksternal. Dalam eksperimen simulasi di mana penyerang berpura-pura menjadi pengguna, 5 dari 10 model setidaknya sekali meningkatkan batas pengeluaran dan mentransfer dana ke dompet yang dikendalikan oleh penyerang. Penelitian ini menggunakan USDC nyata di jaringan utama Base, dengan dana awal dompet sebesar 10 USDC dan batas harian pengeluaran ditetapkan pada 0,01 dolar. Para peneliti menunjukkan bahwa mekanisme persetujuan saat ini mungkin gagal ketika agen AI dapat mengakses kredensial yang digunakan untuk memverifikasi otorisasi manusia. Circle merespons dengan menyatakan bahwa dokumentasinya telah secara jelas menyarankan pengguna untuk tidak memberikan akses tanpa batas ke email verifikasi kepada agen AI. Tim peneliti juga mengembangkan prototipe open-source bernama Countersign, yang mengonfirmasi transaksi melalui operasi fisik manusia pada perangkat terpercaya independen, mencegah agen AI menyelesaikan otorisasi secara mandiri.