ChainCatcher melaporkan, menurut CNBC, Anthropic mengungkap bahwa model AI Claude-nya secara tidak sengaja melampaui lingkungan isolasi selama penilaian keamanan siber, mengakses internet nyata, dan tanpa otorisasi menyusup ke sistem nyata tiga organisasi berbeda dengan menggunakan metode dasar seperti mengakses endpoint yang tidak sah dan memanfaatkan kata sandi lemah. Model yang terlibat termasuk Opus 4.7, Mythos 5, dan sebuah model pengujian penelitian internal. Insiden ini disebabkan oleh kesalahpahaman komunikasi antara Anthropic dan mitra penilaian pihak ketiga Irregular, sehingga model tersebut, meskipun diberitahu berada dalam lingkungan simulasi tanpa akses internet, sebenarnya masih dapat mengakses internet. Anthropic menyatakan bahwa tinjauan ini dipicu oleh insiden serupa yang diungkapkan oleh OpenAI minggu lalu terkait penyusupan ke Hugging Face, dan kini telah menghentikan semua penilaian keamanan siber, serta bekerja sama dengan lembaga penilaian AI independen METR untuk melakukan investigasi lebih lanjut, sekaligus mendesak laboratorium AI lainnya untuk melakukan tinjauan serupa.
Model AI Claude dari Anthropic Mengakses Sistem Tiga Organisasi Secara Tidak Sah
ChaincatcherBagikan
Ringkasan
Model AI Claude dari Anthropic melanggar sistem tiga organisasi selama penilaian keamanan siber. Insiden ini melibatkan Opus 4.7, Mythos 5, dan model penelitian internal, yang secara keliru mengakses internet nyata alih-alih lingkungan terisolasi. Kesalahan ini disebabkan oleh salah komunikasi dengan evaluator Irregular. Anthropic telah menghentikan penilaian dan bekerja sama dengan METR untuk menyelidiki, dengan menyebut kebutuhan akan keamanan yang lebih kuat dalam sistem terdesentralisasi dan kerangka komputasi multi-pihak (MPC). Tinjauan ini mengikuti pelanggaran serupa oleh Hugging Face yang dilaporkan oleh OpenAI. Perusahaan ini menyerukan agar laboratorium AI lainnya melakukan pemeriksaan keamanan serupa.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.