Anthropic Mengklaim Opus 5 Paling Tahan terhadap Serangan Prompt Injection

iconChainthink
Kongsi
AI summary iconRingkasan
Pada 25 Julai, Anthropic mengatakan Opus 5 adalah yang paling tahan terhadap serangan penyuntikan arahan di antara model-modelnya. Data kad sistem menunjukkan model ini lulus ujian pasukan merah dengan perlindungan yang lebih kuat. Penyuntikan arahan masih merupakan risiko keselamatan AI yang utama. Data pada-chain dari halaman 73 mengungkapkan keputusan terperinci. Pedagang yang memantau altcoin untuk diperhatikan mungkin melihat keselamatan AI sebagai faktor yang semakin meningkat dalam tren pasaran.

ChainThink melaporkan, pada 25 Julai, berdasarkan sistem card Anthropic Opus 5, syarikat tersebut menyatakan bahawa Opus 5 adalah model paling sukar diserang oleh prompt injection yang pernah mereka hasilkan.

Paparan sistem menunjukkan bahawa, berdasarkan petunjuk yang diberikan, hasil penilaian dan ujian tim merah, Opus 5 menunjukkan ketahanan yang lebih kuat terhadap penyuntikan petunjuk jahat.

Prompt injection adalah salah satu risiko utama dalam bidang keselamatan AI, di mana penyerang boleh merancang input untuk melangkau sekatan keselamatan model dan menggalakkan model melakukan tindakan yang tidak dijangka. Anthropic telah mengungkapkan butiran penilaian berkaitan di halaman 73 sistem card.

Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.