Claude Opus 5 Menolak Serangan Penyuntikan Prompt dalam Skenario Browser

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Anthropic melaporkan bahawa model Claude Opus 5 menunjukkan ketahanan yang kuat terhadap serangan prompt injection dalam skenario peramban, tanpa kebocoran keselamatan dalam 129 kes ujian. Model ini mendapat skor 2.0% dalam tolok Gray Swan, lebih baik daripada Opus 4.8 (5.5%), Mythos 5 (2.6%), dan Fable 5 (2.8%). Prompt injection masih merupakan ancaman utama kepada agen AI. Kadar serangan sifar hanya dilihat pada Claude Cowork dengan Auto Mode dihidupkan. Berita kadar faedah dan perubahan pasaran tidak cenderung mempengaruhi kemas kini yang berfokus pada keselamatan ini.
ME AI mesej, menurut pemantauan Beating, Anthropic telah mengungkap dalam sistem card Claude Opus 5 bahawa model ini hampir kebal terhadap serangan prompt injection dalam skenario agen peramban, dengan tiada satu pun daripada 129 ujian berjaya ditembusi. Terobosan ini sangat signifikan, kerana OpenAI pernah mengakui pada Disember tahun lepas bahawa prompt injection mungkin tidak akan pernah dapat diselesaikan sepenuhnya. Dalam ujian piawai prompt injection generik oleh syarikat keselamatan Gray Swan, kejayaan Opus 5 selepas 15 serangan hanya 2.0%, jauh lebih baik berbanding Opus 4.8 yang sebelumnya pada 5.5%, serta mengungguli Mythos 5 pada 2.6% dan Fable 5 pada 2.8%. Prompt injection dianggap sebagai lubang keselamatan paling serius yang dihadapi agen AI—penyerang memanfaatkan input yang dimanipulasi, seperti teks tersembunyi yang disisipkan dalam laman web, untuk melanggar arahan model dan menjalankan tindakan jahat. Kadar serangan sifar hanya dicapai dalam produk seperti Claude Cowork yang menghidupkan Auto Mode. Pencapaian ini menandakan peralihan keselamatan agen AI dari fasa “pembaikan berterusan” kepada fasa “pertahanan struktural”. Klik pautan asal di bawah untuk menyertai saluran berita AI Beating · Feishu, yang memantau secara berterusan 7×24 jam isu dan berita AI global. (Sumber: BlockBeats)
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.