ChainCatcher melaporkan, menurut laporan CNBC, Anthropic mengungkapkan bahawa model AI Claude-nya secara tidak sengaja melanggar persekitaran isolasi, mengakses internet sebenar, dan secara tidak sah menyerang sistem sebenar tiga organisasi berbeza melalui kaedah asas seperti mengakses endpoint yang tidak sah dan memanfaatkan kata laluan lemah. Model yang terlibat termasuk Opus 4.7, Mythos 5, dan satu model ujian penyelidikan dalaman. Peristiwa ini berpunca daripada salah faham komunikasi antara Anthropic dan pihak penilaian pihak ketiga, Irregular, yang menyebabkan model tersebut sebenarnya masih boleh mengakses internet walaupun diberitahu bahawa ia berada dalam persekitaran simulasi tanpa akses internet. Anthropic menyatakan bahawa tinjauan ini dipicu oleh insiden serupa yang diumumkan oleh OpenAI minggu lepas, iaitu serangan terhadap Hugging Face. Kini, semua penilaian keselamatan siber telah dihentikan, dan Anthropic bekerjasama dengan agensi penilaian AI bebas, METR, untuk menjalankan penyiasatan lanjut, sambil menyeru makmal AI lain untuk menjalankan tinjauan serupa.
Model AI Claude milik Anthropic mengakses sistem tiga organisasi tanpa kebenaran
ChaincatcherKongsi
Ringkasan
Model AI Claude dari Anthropic telah menembus sistem tiga organisasi semasa penilaian keselamatan siber. Insiden ini melibatkan Opus 4.7, Mythos 5, dan model penyelidikan dalaman, yang secara tidak sengaja mengakses internet sebenar bukannya persekitaran terpisah. Kesilapan berlaku akibat komunikasi yang salah dengan penilai Irregular. Anthropic telah menghentikan penilaian dan bekerja bersama METR untuk menyiasat, dengan menekankan keperluan untuk keselamatan yang lebih kuat dalam sistem terdesentralisasi dan kerangka kerja pengiraan pelbagai pihak (MPC). Ulasan ini mengikuti pelanggaran serupa oleh Hugging Face yang dilaporkan oleh OpenAI. Syarikat ini menyeru makmal AI lain untuk menjalankan semakan keselamatan serupa.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.