Nakatuklas ang mga siyentipiko sa Zhejiang University ng isang nakakagulat na paraan upang manakwil sa mga sistema ng AI na may boses: mga hindi makikinig na, machine-readable na audio signal na nagbabago sa pag-uugali ng mga modelong ito habang nananatiling hindi makikinig ng mga tao. Ipinaliwanag sa 47th IEEE Symposium on Security and Privacy sa San Francisco, ang teknik—na tinawag na AudioHijack—ay maaaring baguhin ang mga malaking audio-language model (LALMs) na may hanggang 96% na rate ng tagumpay, ayon sa koponan. Ano ang ginagawa ng pagsalakay - Ang AudioHijack ay nagtatanim ng mga nakatago na utos direktang sa isang digital na audio waveform sa pamamagitan ng pagbabago sa mga numerikal na halaga nang paraan na hindi makikinig ng mga tao ngunit binabasa ng LALMs bilang mga utos. - Ang adversarial signal ay context-agnostic: matapos ang halos kalahating oras ng pagtuturo, maaaring i-replay ang parehong signal kasama ang anumang legal na talakayan at nananatiling magpapaliwanag sa pag-uugali ng model, ayon sa pangunahing may-akda, si Meng Chen. - Dahil ito ay nagmamaniplula sa audio mismo at hindi sa text transcription, ito ay nag-iwas sa maraming mga pagsisilbing pangkaligtasan na disenyo upang matukoy ang masasamang text prompts. Ano ang ipinakita ng mga siyentipiko - Sinubukan ng koponan ang AudioHijack sa 13 open-source AI voice models at sa mga komersyal na voice systems mula sa Microsoft at Mistral na gumagamit ng katulad na arkitektura. - Ang manipuladong audio ay maaaring gawing tumanggi ang mga model sa mga hiling, magpalaganap ng maling impormasyon, magdagdag ng mapanganib na link, baguhin ang pagkatao, o gawin ang mga aksyon na hindi hiningi ng user—mga halimbawa ay web searches, file downloads, at pagpapadala ng emails na naglalabas ng personal na data. - Tinitiyak ng mga siyentipiko na maaaring ipadala ang pagsalakay sa pamamagitan ng karaniwang mga channel tulad ng online videos, music files, voice notes, o audio na kinuha mula sa Zoom calls at i-upload sa AI transcription services. Ang hindi pa inilabas na susunod na pag-aaral ay sinasabing ipinakita ang katulad na pagsalakay sa live AI voice chats. Bakit ito iba at mas mahirap pigilan - Ang tradisyonal na “prompt injection” attacks ay nagbabago sa sinasabi ng user o nagtatanim ng masasamang text. Ang AudioHijack naman ay nagbabago sa analog/digital audio signal kaya ang manipulasyon ay hindi makikita ng text-based filters at maraming umiiral na pagsisilbing pangkaligtasan. - Ang pagmamasid sa internal attention mechanisms ng model ay ang pinakaepektibong pagsisilbing pangkaligtasan na sinubukan ng koponan, ngunit ang adaptive attackers ay maaaring pahinaan ang kanilang manipulasyon upang maiwasan ang countermeasure na ito habang nananatili pa rin ang malaking bahagi ng lakas ng pagsalakay. “Ang mga pagsisilbing pangkaligtasan na ito ay nahihirapan labanan ang aming pagsalakay dahil natuklasan naming sobrang mahirap para sa mga modelong ito na ibaon ang normal na user intent at aming adversary attack,” sabi ni Chen. Bakit dapat mag-alala ang crypto platforms - Habang dumadami ang pagsubok ng crypto services sa voice-driven features—voice-based wallet access, trading assistants, customer support workflows, o voice authentication—ipinapakita ng AudioHijack ang isang bagong attack surface na maaaring gamitin para sa phishing, social-engineering, o upang i-trigger ang hindi hiniling na aksyon sa mga konektadong sistema. - Bagaman hindi ipinakita ng pag-aaral ang crypto-specific na pagkawala, anumang serbisyo na tumatanggap ng spoken commands o nag-iinput ng audio ay maaaring nasa panganib kung pinagkakatiwalaan ang voice interfaces para sa sensitibong operasyon. Ang mga delivery vectors tulad ng videos, music, o call recordings ay lahat mga channel na karaniwang ginagamit sa scam. Mga praktikal na aral - Dapat hindi mag-asa ang mga vendor at operator na gumagamit ng AI voice models sa text-only filters upang matukoy ang pang-aabuso; dapat isaalang-alang ang mga pagsisilbing pangkaligtasan na sinusuri ang internal ng model at multi-factor checks para sa sensitibong aksyon. - Para sa mga crypto firm at user, huwag mag-asa lamang sa boses bilang authentication o authorization method; kailangan ng karagdagang verifikasyon para sa pag-transfer at account-critical actions, at maging maingat sa audio mula sa hindi tiwalaan. - Ipinapakita ng pag-aaral ang pangangailangan para sa mas malawak na threat modeling at pakikipagtulungan sa pagitan ng AI, security, at crypto teams habang ipinapakilala ang voice-driven features. Ipinaliwanag ng mga siyentipiko mula sa Zhejiang University ang buong pagsalakay at eksperimento sa IEEE symposium; itinataguyod ng gawaing ito ang malalaking tanong kung paano mapaprotektahan ang audio-driven AI systems bago ito maging vector para sa malawakang pang-aabuso.
Ang mga siyentipiko ng Zhejiang University ay nagbaba ng babala tungkol sa banta ng AudioHijack sa Voice AI at mga crypto wallet
ChainGPTI-share
Summary
Ang mga siyentipiko ng Zhejiang University ay natuklasan ang isang bagong banta na tinatawag na AudioHijack, na nagpapahayag ng inaudible na audio signals upang manipulahin ang malalaking audio-language models. Ang pag-atake ay maaaring baguhin ang pag-uugali ng model ng hanggang 96% na tagumpay at laktawan ang mga pamantayang text-based na depensa. Nasubok sa 13 models at sistema, maaari itong magdagdag ng mapanganib na link o mag-trigger ng hindi awtorisadong aksyon. Habang ang mga crypto platform ay nagtatanggol ng voice-driven na mga tampok, ipinapakita ng balitang ito ang isang bagong panganib para sa phishing at pandaraya. Inirerekomenda ang pagpapatupad ng panloob na pagmamasid at maramihang pagsusuri para sa mga sensitibong operasyon.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.