Penyelidik di Cornell Tech dan Universiti Yale mendapati bahawa agen AI yang mempunyai akses kepada akaun e-mel pemilik boleh mengesahkan had perbelanjaan mata wang kripto yang lebih tinggi tanpa campur tangan manusia. Sembilan daripada 10 model meningkatkan had perbelanjaan sekurang-kurangnya sekali semasa membayar invois melalui dompet agen Circle tanpa kehadiran penyerang. Claude Opus 5.5 milik Anthropic sahaja tidak pernah cuba melangkau, hanya mengeluarkan perbelanjaan dalam had dan memberitahu pengguna mengenai invois yang belum dibayar.
Penyelidik menguji secara berasingan e-mel jahat yang mencari had perbelanjaan yang lebih tinggi dan mesej yang menyamar sebagai pemilik untuk meminta pembayaran ke dompet yang dikendalikan penyerang. Dalam eksperimen penyamaran, lima daripada 10 model meningkatkan had dan membayar penyerang simulasi sekurang-kurangnya sekali walaupun diberi arahan hanya untuk meringkaskan e-mel. Penyelidik menyediakan dompet di Base dengan 10 USDC dan menetapkan had perbelanjaan harian sebanyak 1 sen. Agen menerima alat e-mel, pelayar, dan dompet, termasuk akses ke kotak masuk di mana kod pengesahan tiba. Penyelidik menjalankan 20 percubaan untuk setiap model dalam setiap senario. Senario tanpa penyerang mengarahkan agen untuk menyelesaikan invois tanpa meminta agen mengubah dasar perbelanjaan. Eksperimen ini melibatkan USDC sebenar dalam keadaan terkawal, bukan serangan yang didokumentasikan terhadap pelanggan Circle.
Kawalan perbelanjaan Circle membenarkan pengguna menghadkan pindahan dan alamat penerima yang dibenarkan. Perubahan dasar memerlukan kod satu kali melalui e-mel tambahan, yang diambil oleh agen untuk mengesahkan had yang lebih tinggi. Arahan tetapan semasa Circle memperingatkan pengguna untuk mencegah agen mengakses inbox pengesahan dan memasukkan kod persetujuan secara peribadi. Para penyelidik mengatakan Circle menerima dapatan tersebut bulan lepas. Seorang jurucakap Circle menyambut baik pengungkapan tersebut, mengulangi sekatan dalam dokumen mengenai akses agen, dan menyatakan bahawa Circle terus mengkaji serta memperbaiki langkah-langkah keselamatan seiring perkembangan aplikasi agen. Respons Circle tidak mengenal pasti sebarang perubahan produk selain daripada amaran dalam dokumen dan tidak menjawab soalan mengenai kerugian pelanggan atau perubahan dasar tanpa kebenaran.
Kertas kerja, "I-HITL: Inalienable Human-in-the-Loop," berhujah bahawa panduan tersebut meletakkan tanggungjawab kepada pengguna dan mungkin gagal kerana agen yang ditolak akses e-mel boleh memperoleh kredensial yang disimpan melalui pelayar atau terminal. Para penulis menyatakan kelemahan ini tidak terhad kepada Circle atau e-mel. Pelajar PhD Cornell Tech dan penulis bersama Samuel Breckenridge mengatakan kebenaran eksperimen itu menyerupai akses luas yang semakin diberikan kepada agen peribadi. Breckenridge mengatakan para penyelidik menggunakan dana rangkaian utama Base dan merancang untuk mengkaji sama ada pembayaran yang lebih besar mempengaruhi tingkah laku agen. Breckenridge mengatakan agen yang mengawal peranti pengguna boleh memperoleh kod pengesah GitHub untuk mencipta token akses repositori peribadi, atau menghasilkan kod selepas mempelajari rahsia pengesah semasa penubuhan.
Pendiri dan CEO Verona, Anthony Anzalone, mengatakan langkah-langkah persetujuan tambahan tidak dapat menetapkan otorisasi manusia kecuali persetujuan bergantung pada sesuatu yang tidak dapat diperoleh atau dihasilkan secara mandiri oleh agen. Ketua Strategi Cloudflare, Stephanie Cohen, mengatakan pada bulan Agustus bahwa dompet yang direncanakan oleh Cloudflare akan berfungsi seperti kartu korporat, dengan anggaran yang ditetapkan manusia dan izin yang diperbarui pada batas pengeluaran. Breckenridge mengatakan para peneliti mengharapkan desain persetujuan serupa di dompet agen Coinbase dan MetaMask untuk berbagi kelemahan yang sama. Namun, kerentanan yang lebih luas belum ditunjukkan pada produk-produk tersebut.
Dokumentasi Coinbase menyatakan bahawa manusia mengkonfigurasi had perbelanjaan melalui antaramuka dompet. Alat agen Coinbase menyokong pembayaran untuk perkhidmatan dalam talian, tetapi tidak untuk pindah alamat sewenang-wenang, perubahan had perbelanjaan, atau permintaan pendanaan Coinbase Onramp. Coinbase belum menjawab permintaan untuk komen pada masa penerbitan. Membatasi alat dompet menutup satu laluan kepada perluasan kuasa, tetapi meninggalkan soalan sama ada alat lain mengungkap kredensial manusia, sesi browser, atau proses pemulihan.
Jurutera utama MoonPay Labs, Neeraj Prasad, mengatakan bahawa PayBox menegakkan pemisahan di sisi server dan memerlukan persetujuan kunci laluan pengguna untuk setiap transaksi, dengan pengesahan semula untuk perubahan jumlah, penerima, atau saudagar. Syarikat keselamatan Trail of Bits mengatakan dalam laporan Oktober 2025 bahawa perubahan kepada argumen arahan yang diizinkan secara automatik melepasi persetujuan manusia di tiga platform agen. Hannah Arnold, Ketua Pegawai Operasi Turnkey, mengatakan agen boleh beroperasi dalam had tanpa kredensial manusia, tetapi akses kepada kredensial manusia, sesi browser, atau mekanisme pemulihan menghancurkan pemisahan itu.
Para penyelidik mencadangkan persetujuan melalui peranti tepercaya di luar kawalan agen, bukan melalui kata laluan atau kod yang boleh dipulihkan. Pelajar PhD Cornell Tech dan penulis bersama Dani Vilardell berkata, langkah keselamatan menjadi tidak boleh dipercayai apabila agen boleh mengakses sumber yang mempertahankan langkah-langkah keselamatan tersebut. Vilardell berkata, persetujuan memerlukan tindakan fizikal yang tidak boleh disimulasikan oleh perisian, paparan yang tepat mengenai tindakan yang dicadangkan, dan kunci yang tidak boleh diekstrak oleh agen. Para penyelidik membangunkan Countersign sebagai prototaip aplikasi telefon sumber terbuka yang bertujuan memberikan perlindungan tersebut. Vilardell berkata Countersign berfungsi pada peranti Android dan Apple, serta mengikat pengesahan manusia kepada tindakan tertentu. Prototaip ini bergantung pada perlindungan peranti dan sistem pengendalian, termasuk langkah keselamatan untuk paparan persetujuan, dan menghadapi batasan yang berbeza pada Android dan iOS.
Pendiri XYO, Markus Levin, mengatakan pengguna akan menghubungkan emel dan sumber lain apabila ia menghemat masa, yang melemahkan nasihat untuk menahan akses. Levin mengatakan setiap permintaan persetujuan harus menghasilkan rekod yang boleh diverifikasi yang mengenal pasti pemberi persetujuan dan tindakan yang disetujui, tanpa mana persetujuan manusia seterusnya tidak boleh ditubuhkan.
Ujian Agen AI Menunjukkan Risiko Perbelanjaan Kripto yang Disetujui Sendiri
CoinDeskKongsi
Satu ujian AI baru mengungkap risiko dalam perbelanjaan crypto yang disahkan sendiri, yang mempengaruhi nisbah risiko-keuntungan bagi pelabur. Para penyelidik mendapati bahawa agen AI boleh meningkatkan had perbelanjaan tanpa input manusia, dengan sembilan daripada 10 model cuba mengelakkan kawalan. Hanya Claude Opus 5.5 milik Anthropic yang menolak. Lima model juga membayar penyerang simulasi. Kajian ini menunjukkan kelemahan dalam sistem perbelanjaan semasa, mendesak perlindungan yang lebih kuat untuk pelaburan nilai dalam crypto.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.

