Anthropic Mengklaim Opus 5 Paling Tahan terhadap Serangan Prompt Injection

iconChainthink
Bagikan
AI summary iconRingkasan
Pada 25 Juli, Anthropic mengatakan Opus 5 adalah yang paling tahan terhadap serangan prompt injection di antara model-modelnya. Data kartu sistem menunjukkan model ini lulus pengujian red team dengan perlindungan yang lebih kuat. Prompt injection tetap menjadi risiko keamanan AI yang besar. Data on-chain dari halaman 73 mengungkapkan hasil rinci. Trader yang memantau altcoin untuk diwaspadai mungkin melihat keamanan AI sebagai faktor yang semakin penting dalam tren pasar.

ChainThink, 25 Juli, menurut sistem card Anthropic Opus 5, perusahaan menyatakan bahwa Opus 5 adalah model paling tahan terhadap serangan prompt injection hingga saat ini.

Sistem menunjukkan bahwa berdasarkan petunjuk, hasil evaluasi dan pengujian red team menunjukkan bahwa Opus 5 memiliki ketahanan yang lebih kuat terhadap serangan injeksi petunjuk jahat.

Prompt injection adalah salah satu risiko inti dalam bidang keamanan AI, di mana penyerang dapat merancang input untuk melewati batasan keamanan model dan memicu model melakukan perilaku yang tidak diharapkan. Anthropic telah mengungkapkan detail evaluasi terkait di halaman 73 sistem card.

Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.