Ang Claude Opus 5 ay tumutol sa mga pag-atake ng prompt injection sa mga skenaryo sa browser

iconKuCoinFlash
I-share
AI summary iconSummary
Ipinahayag ng Anthropic na ang kanyang Claude Opus 5 model ay nagpapakita ng malakas na pagtutol sa mga pag-atake ng prompt injection sa mga browser scenario, na walang security breach sa 129 test cases. Nakakuha ang model ng 2.0% sa benchmark ni Gray Swan, mas mabuti kaysa sa Opus 4.8 (5.5%), Mythos 5 (2.6%), at Fable 5 (2.8%). Ang prompt injection ay nananatiling malaking banta sa AI agents. Ang zero-attack rate ay nakita lamang sa Claude Cowork na may Auto Mode on. Ang balita tungkol sa interest rate at mga pagbabago sa merkado ay hindi malamang makaaapekto sa security-focused na update na ito.
ME AI mensahe, ayon sa pagmamasid ng Beating, inilahad ng Anthropic sa kanilang Claude Opus 5 system card na ang modelo ay halos immune sa prompt injection attacks sa mga skenaryo ng browser agent, at hindi nasakop ang anumang sa 129 na pagsubok. Mahalaga ang pagbabagong ito, dahil noong Disyembre ng nakaraang taon, tinanggap ng OpenAI na posibleng hindi maiwasan ang prompt injection. Sa pangkalahatang benchmark ng prompt injection ng safety company na Gray Swan, ang tagumpay na rate ng Opus 5 ay 2.0% lamang pagkatapos ng 15 na pag-atake, na mas mataas kaysa sa 5.5% ng nakaraang Opus 4.8, at mas mataas rin kaysa sa 2.6% ng Mythos 5 at 2.8% ng Fable 5. Ang prompt injection ay itinuturing na pinakamalaking security vulnerability sa mga AI agent—kung saan ang mga attacker ay naglalagay ng nakatagong teksto sa mga webpage o iba pang manipuladong input upang i-bypass ang mga utos ng modelo at mag-execute ng masasamang gawain. Ang zero attack rate ay natamo lamang sa mga produkto tulad ng Claude Cowork na may naka-on na Auto Mode. Ang resultang ito ay nagtuturo na ang seguridad ng AI agent ay lumipat mula sa “patuloy na pagpapabuti” patungo sa “struktural na depensa.” Klik ang link sa ibaba para sumali sa Beating · Feishu AI News Channel, na nagmamasid nang 7×24 oras sa mga pinakabagong AI trends at balita sa buong mundo. (Pinagmulan: BlockBeats)
Source:Ipakita ang original
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.