Habang ang mga AI agent — ang mga autonomous bot na kayang mag-browse, mag-research, mag-bili, at kahit mag-trade ng crypto — ay lumilipat mula sa mga laboratorio patungo sa mga real-world system, nagbabala ang mga researcher na isang malubhang problema ay patuloy: ang mga prompt injection attacks. Isang cross-institutional na team mula sa Nanyang Technological University, ST Engineering, IBM Research, at ang University of Illinois Urbana-Champaign ay nagraport na ang mga kasalukuyang agent ay nananatiling napakasusceptible sa mga serbisyong ito, na walang tested configuration na nagpakita ng patuloy na resistance. Ano ang prompt injections? - Nangyayari ang prompt injection kapag ang isang attacker ay nakatago ng mga instruksyon sa loob ng nilalaman na binabasa ng isang agent (mga web page, link, o iba pang dokumento). Maaari pagkatapos ay sundin ng agent ang mga nakatagong direksyon ng attacker kesa sa intensyon ng user — isang malinaw na panganib kapag pinapahintulutan ang mga agent na mag-act nang autonomous sa financial tasks, tulad ng pag-execute ng trades o pag-interact sa wallets at exchange. Ano ang ginawa ng pag-aaral - Upang mas mabuting masukat ang real-world risk, nilikha ng mga researcher ang StakeBench, isang benchmark na sinusubok ang AI agents laban sa prompt injections sa realistic online settings. Pinupokus ng StakeBench ang tinatawag ng team na Indirect Prompt Injection — ang deployment-relevant channel kung saan nakaimbak ang masasamang instruksyon sa loob ng kapaligiran na kinakasalukuyan ng agent. - Sinusubok ng StakeBench ang tatlong pangunahing factor na nagbabago sa epekto ng pag-atake: 1. Semantic distance sa pagitan ng injected objective at orihinal na intensyon ng user (kung gaano katulad o magkaiba ang nakatagong layunin). 2. Consistency ng mga paligid na environmental cues (kung ang injected content ay natural na sumasalo sa pahina o source). 3. Kailan sa execution trajectory ng agent unang nakakasalubong nito ang injected content. Ano ang sinubok - Ginamit ng team ang 3,168 simulated attacks gamit ang dalawang agent frameworks (NanoBrowser at BrowserUse) na pinagsama sa GPT-5 at Gemini 2.5-Flash. Mga pangunahing natuklasan - Nakamit ng direct prompt injection attacks ang tagumpay higit sa 79% ng oras sa lahat ng tested setups. - Ang success rates ng indirect prompt injection ay nasa pagitan ng 41.67% hanggang 68.16%, depende sa konteksto at sa tatlong factor na nabanggit. - Binigyang-diin ng mga researcher ang isang phenomenon na tinatawag nilang “stealthy parasitism,” kung saan ang agent ay patuloy pa ring nagpapatupad ng hiniling na gawain ng user pero samantala ay pinapalago rin ang layunin ng attacker — halimbawa, subtileng paghila sa mga rekomendasyon. Sa crypto scenarios, maaari itong ibig sabihin na pagsuot sa isang investor patungo sa isang partikular na token o pag-execute ng trades na nakakatulong sa attacker nang walang malinaw na tanda ng kompromiso. Bakit mahalaga ito para sa crypto - Lalo na ginagamit ang autonomous agents upang i-parse ang market data, i-execute ang mga trade, pamahalaan ang mga wallet, at mag-interact sa DeFi protocols. Kaya naman, ang prompt injection vulnerabilities ay lumilikha ng malinaw na attack surfaces: mula sa biased token recommendations at manipulated portfolio rebalancing hanggang sa leaked credentials o unauthorized transactions. - Binigyang-diin ng mga researcher na ang prompt-injection risk ay “victim-dependent”: ang parehong exploit ay maaaring magkaroon ng napakalaking iba’t ibang epekto depende kung sino o ano ang kinakatawan ng agent, at ang epekto ay hinihiwalay ng semantic alignment at system architecture — hindi lamang sa ilalim na language model. Konteksto at nakaraang insidente - Sumusunod ang pag-aaral sa isang serye ng real-world disclosures: binigyan babala ni Microsoft noong Pebrero tungkol sa nakatagong instruksyon sa AI summary links; ilarawan ni Google ang web-page prompt injections na nagsubok gawing maliwanag ang agent upang i-leak ang credentials o magpadala ng bayad noong Abril; at kahit na kahapon ay inanunsyo ni Microsoft ang isang prompt-injection flaw sa Anthropic’s Claude Code GitHub Action na maaaring mag-expose ng user credentials. Kabuuan - Ang prompt-injection security ay hindi isang solong katangian ng model kundi isang multi-dimensional distribution ng pinsala na naiimpluwensyahan ng stakeholders, task alignment, at deployment context. Para sa mga crypto platform at traders na nakikibase sa autonomous agents, ang pag-aaral ay isang alarm: kailangan ng masusing, context-aware evaluation (tulad ng StakeBench) at mas matibay na depensa bago ibigay ang kontrol sa mga agent tungkol sa pera o wallet credentials.
Nakapagpapakita ang Pag-aaral na Buhusan ng Prompt-Injection Attacks ang AI Crypto Agents
ChainGPTI-share
Summary
Lumaki ang mga alalahanin tungkol sa CFT matapos makita ng isang pag-aaral na vulnerable ang AI crypto agents sa mga pag-atake ng prompt-injection. Ginamit ng mga mananaliksik mula sa Nanyang Technological University, ST Engineering, IBM Research, at University of Illinois Urbana-Champaign ang StakeBench upang subukan ang mga agent na ito. Nakakita sila ng success rate na 79% para sa direkta at 41.67% hanggang 68.16% para sa indirekta mga pag-atake. Ang banta ng nakakapanatag na parasitismo ay nagdudulot ng panganib sa likwididad at crypto markets. Maaaring ipush ng mga attacker ang mga token o gawin ang hindi pinahihintulutang mga trade. Tinatawag ng koponan ang pagpapatupad ng context-aware security bago ang financial deployment.
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito.
Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.