Penyelidik di Universiti Zhejiang telah mengungkapkan cara baru yang mengejutkan untuk menguasai sistem suara AI: isyarat audio yang tidak dapat didengar dan boleh dibaca mesin yang mengubah cara model berkelakuan sambil tetap tidak terdengar oleh manusia. Teknik ini—dikenali sebagai AudioHijack—dipersembahkan di Simposium IEEE ke-47 mengenai Keselamatan dan Privasi di San Francisco, dan boleh mengubah model audio-bahasa besar (LALMs) dengan kadar kejayaan sehingga 96%, menurut pasukan tersebut. Apa yang dilakukan serangan ini - AudioHijack menyematkan arahan tersembunyi secara langsung ke dalam gelombang audio digital dengan mengubah nilai nombor dengan cara yang tidak dapat didengar manusia tetapi ditafsirkan oleh LALMs sebagai arahan. - Isyarat adversarial ini adalah konteks-agnostic: selepas lebih kurang separuh jam latihan, isyarat yang sama boleh dimainkan semula bersama sebarang ucapan sah dan tetap mengarahkan tingkah laku model, kata pemimpin utama, Meng Chen. - Kerana ia memanipulasi audio itu sendiri, bukan transkripsi teks, ia mengelakkan banyak pertahanan yang direka untuk mengesan arahan teks jahat. Apa yang telah dipertunjukkan oleh penyelidik - Pasukan tersebut menguji AudioHijack terhadap 13 model suara AI sumber terbuka dan sistem suara komersial daripada Microsoft dan Mistral yang menggunakan arsitektur serupa. - Audio yang dimanipulasi boleh membuat model menolak permintaan, menyebarkan maklumat palsu, menyuntik pautan berbahaya, mengubah personaliti, atau menjalankan tindakan yang pengguna tidak pernah minta—contohnya termasuk carian web, muat turun fail, dan menghantar e-mel yang bocorkan data peribadi. - Penyelidik mencatat bahawa serangan ini boleh dihantar melalui saluran biasa seperti video dalam talian, fail muzik, nota suara, atau audio yang ditangkap daripada panggilan Zoom dan dimuat naik ke perkhidmatan transkripsi AI. Kerja susulan yang belum diterbitkan dilaporkan menunjukkan serangan serupa dalam perbualan suara AI secara langsung. Mengapa ini berbeza dan sukar dihentikan - Serangan “penyuntikan arahan” tradisional mengubah apa yang dikatakan pengguna atau menyuntik teks jahat. AudioHijack pula mengubah isyarat audio analog/digital supaya manipulasi itu tidak kelihatan kepada penapis berasaskan teks dan banyak langkah keselamatan sedia ada. - Memantau mekanisme perhatian dalaman model adalah pertahanan paling berkesan yang diuji oleh pasukan itu, tetapi penyerang adaptif boleh melemahkan manipulasi mereka untuk mengelakkan langkah lawan ini sambil mengekalkan sebahagian besar kekuatan serangan. “Pertahanan titik tunggal ini sukar menentang serangan kami kerana kami mendapati sangat sukar bagi model-model ini untuk membezakan niat pengguna biasa dan serangan adversarial kami,” kata Chen. Mengapa platform kripto perlu prihatin - Sebagai perkhidmatan kripto semakin banyak mencuba ciri-ciri berdasarkan suara—akses dompet berdasarkan suara, pembantu dagangan, alur sokongan pelanggan, atau autentikasi suara—AudioHijack menonjolkan permukaan serangan baru yang boleh disalahgunakan untuk phishing, rekabentuk sosial, atau memicu tindakan tidak diingini dalam sistem yang disambungkan. - Walaupun kajian ini tidak mempertunjukkan pencurian khusus kripto, sebarang perkhidmatan yang menerima arahan lisan atau menerima audio boleh berisiko jika antaramuka suara dipercayai untuk operasi sensitif. Vektor penghantaran seperti video, muzik, atau rakaman panggilan adalah semua saluran yang biasa digunakan dalam penipuan. Kesimpulan praktikal - Pembekal dan pengendali yang menggunakan model suara AI seharusnya tidak bergantung semata-mata pada penapis teks sahaja untuk mengesan penyalahgunaan; pertahanan yang memeriksa dalaman model dan pemeriksaan pelbagai faktor untuk tindakan sensitif disarankan. - Bagi syarikat dan pengguna kripto, elakkan bergantung semata-mata pada suara sebagai kaedah autentikasi atau autorisasi; minta pengesahan tambahan untuk pindahan dan tindakan penting akaun, serta berhati-hati terhadap audio dari sumber tidak dipercayai. - Kajian ini menekankan keperluan kepada pemodelan ancaman yang lebih luas dan kerjasama antara pasukan AI, keselamatan, dan kripto semasa ciri-ciri berdasarkan suara dilancarkan. Serangan dan eksperimen penuh telah dipersembahkan oleh penyelidik Universiti Zhejiang di simposium IEEE; kajian ini menimbulkan soalan mendesak mengenai cara mengamankan sistem AI berdasarkan audio sebelum ia menjadi vektor penyalahgunaan berskala besar.
Penyelidik Universiti Zhejiang memperingatkan ancaman AudioHijack terhadap AI suara dan dompet kripto
ChainGPTKongsi
Ringkasan
Penyelidik dari Universiti Zhejiang telah mengenal pasti ancaman baharu bernama AudioHijack, yang memanfaatkan isyarat audio yang tidak terdengar untuk memanipulasi model audio-bahasa besar. Serangan ini boleh mengubah tingkah laku model dengan kejayaan sehingga 96% dan mengelakkan pertahanan berasaskan teks biasa. Diuji pada 13 model dan sistem, ia boleh menyuntik pautan berbahaya atau memicu tindakan tanpa kebenaran. Sebagai platform kripto menerapkan ciri-ciri yang digerakkan suara, berita AI + kripto ini menonjolkan risiko baharu bagi phishing dan penipuan. Peniaga digalakkan untuk melaksanakan pemantauan dalaman dan semakan pelbagai faktor untuk operasi sensitif.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.