Claude Opus 5 Menolak Serangan Prompt Injection dalam Skenario Browser

iconKuCoinFlash
Bagikan
AI summary iconRingkasan
Anthropic melaporkan bahwa model Claude Opus 5 menunjukkan ketahanan kuat terhadap serangan prompt injection dalam skenario browser, tanpa pelanggaran keamanan dalam 129 kasus uji. Model ini mendapat skor 2,0% dalam benchmark Gray Swan, lebih baik daripada Opus 4.8 (5,5%), Mythos 5 (2,6%), dan Fable 5 (2,8%). Prompt injection tetap menjadi ancaman utama bagi agen AI. Tingkat serangan nol hanya terlihat pada Claude Cowork dengan Auto Mode aktif. Berita suku bunga dan pergeseran pasar tidak kemungkinan besar akan memengaruhi pembaruan yang berfokus pada keamanan ini.
ME AI pesan, menurut pemantauan Beating, Anthropic mengungkap dalam sistem card Claude Opus 5 bahwa model ini hampir kebal terhadap serangan prompt injection dalam skenario agen browser, dengan tidak ada satupun dari 129 skenario pengujian yang berhasil diretas. Terobosan ini sangat signifikan, karena OpenAI pada Desember tahun lalu secara terbuka mengakui bahwa prompt injection mungkin tidak pernah bisa sepenuhnya diatasi. Dalam pengujian benchmark prompt injection umum oleh perusahaan keamanan Gray Swan, tingkat keberhasilan Opus 5 setelah 15 serangan hanya 2,0%, jauh lebih unggul dibandingkan pendahulunya Opus 4.8 yang sebesar 5,5%, serta lebih baik daripada Mythos 5 sebesar 2,6% dan Fable 5 sebesar 2,8%. Prompt injection dianggap sebagai kerentanan keamanan paling serius yang dihadapi agen AI—penyerang melewati instruksi model untuk menjalankan operasi berbahaya dengan memasukkan input yang dimanipulasi, seperti teks tersembunyi di halaman web. Tingkat serangan nol hanya dicapai pada produk seperti Claude Cowork yang mengaktifkan Auto Mode. Prestasi ini menandai peralihan keamanan agen AI dari fase “perbaikan berkelanjutan” menuju fase “pertahanan struktural”. Klik tautan asli di bawah untuk bergabung dengan saluran berita AI Beating · Feishu, yang memantau secara terus-menerus 7×24 jam tren dan berita AI global. (Sumber: BlockBeats)
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.