Tal Feldman dan Ibrahim Dagher berhujah bahawa keselamatan siber yang lemah di syarikat-syarikat kecerdasan buatan terkemuka AS mengancam kelebihan negara itu atas China. Feldman dan Dagher berhujah bahawa Washington boleh memerlukan keselamatan yang lebih kuat tanpa meluluskan undang-undang lain. Penulis-penulis ini berpendapat bahawa perbincangan awam telah memeriksa dengan betul agen-agen AI yang menyerang syarikat-syarikat lain tetapi mengabaikan sama ada syarikat-syarikat AI mampu mencegah penyusupan.
OpenAI baru-baru ini mengetahui bahawa seorang pekerja Saudi didakwa meletakkan peranti rakaman audio di ruang mesyuarat eksekutif. Kakitangan senior sering membincangkan bahan sulit, termasuk penyelidikan milik, di ruang itu di markas besar OpenAI di San Francisco. Pada Julai, tiga penyelidik yang menyiasat kelemahan keselamatan berjaya menembusi sistem OpenAI dan mencapai repositori kod dalaman yang mengandungi rahsia algoritma. OpenAI membayar ganjaran sebanyak $6,500 kepada penyelidik tersebut kerana melaporkan kelemahan tersebut. Penyelidik tersebut menyelesaikan penyusupan dalam masa kurang daripada 72 jam tanpa alat peringkat tinggi. Seorang penyelidik memberitahu The Wall Street Journal, "Kami hanya tiga orang dengan langganan Claude dan Codex," merujuk kepada agen pengkodean awam daripada Anthropic dan OpenAI. Seorang perompak juga menembusi sistem pesan dalaman OpenAI pada 2023 dan memperoleh maklumat mengenai penyelidikan OpenAI. OpenAI tidak memberitahu FBI mahupun awam mengenai penyusupan itu.
Feldman dan Dagher berhujah bahawa negara-negara seperti China memiliki alat canggih, masa, dan insentif yang diperlukan untuk menyusup ke dalam syarikat AI AS. Penulis berhujah bahawa mencuri model AS terkemuka akan membolehkan pesaing mengejar ketertinggalan tanpa membayar kos pembangunan. Penulis memperingatkan bahawa sekatan terhadap penjualan cip canggih dan miliaran yang diinvestasikan dalam infrastruktur AI tidak akan berkesan kecuali makmal mengambil keselamatan siber dengan serius. Penulis berhujah bahawa tiga insiden tersebut kemungkinan menunjukkan masalah keselamatan yang lebih luas.
Syarikat AI telah mengakui secara terbuka bahawa pertahanan mereka tidak mencukupi terhadap perisikan canggih. Pengarah eksekutif Anthropic, Dario Amodei, mengatakan pada tahun 2023 bahawa kerajaan yang menjadikan pencurian berat model sebagai keutamaan utama akan berjaya menyerang Anthropic. Berat model ialah trilion nilai nombor yang dihasilkan melalui latihan bercos tinggi selama berbulan-bulan yang membentuk model AI. Namun, laporan risiko Anthropic pada Ogos ini masih menyatakan bahawa Anthropic tidak mampu menahan serangan daripada pelaku negara-bangsa dan "tidak percaya sebarang pembangun AI hadapan semasa memenuhi piawai ini." Penyelidik Anthropic dan OpenAI yang dahulu, Jacob Coxon, berhujah bahawa tidak ada kelebihan AS yang boleh bertahan kerana Beijing boleh mencuri kemajuan AS bila-bila masa saja Beijing memilih. Miles Brundage, yang bekerja dalam kesiapsiagaan OpenAI terhadap AI canggih, mengatakan syarikat-syarikat AI bahkan tidak mengaku mampu mencegah pelaku negara mencuri atau mengubah suai berat model.
Penyelidik Rand mengenal pasti 38 kaedah untuk mencuri berat model, termasuk menanam peranti mudah alih, mengubah peralatan sebelum pemasangan, dan menyuap atau memaksa pekerja. Pusat data syarikat awan menyediakan titik masuk lain kerana makmal AI sering menggunakan fasiliti tersebut untuk melatih dan mengendalikan model. Rahsia algoritma industri juga tidak dilindungi dengan mencukupi. Amodei memberitahu Majlis Hubungan Asing tahun lalu bahawa beberapa rahsia industri AI yang bernilai "$100 juta" hanya berjumlah beberapa baris kod. Amodei berkata orang pasti cuba mencuri rahsia tersebut dan mungkin sudah berjaya.
Syarikat AI sedang bersaing dengan sengit untuk membangunkan kecerdasan super. Wang dan masa pekerja yang diarahkan kepada keselamatan siber tidak boleh digunakan untuk melatih model seterusnya. Anthropic berhujah bahawa menentang serangan negara yang dibiayai dengan baik harus menjadi keutamaan keselamatan siber industri. Namun, Anthropic mengatakan syarikat "tidak dapat berkomitmen untuk mengikuti" keutamaan tersebut secara berasingan.
Kongres tahun lalu mengarahkan Pentagun untuk menetapkan keperluan keselamatan bagi AI yang dibeli dan menerapkan keperluan tersebut kepada kontraktor dan penyedia awan yang berkaitan. Pentagun masih belum memulakan proses pindaan peraturan awam 10 bulan kemudian. Jabatan Perdagangan boleh menjadikan eksport model tertentu tunduk kepada lesen dan membataskan lesen kepada makmal yang memenuhi keperluan keselamatan. Pentadbiran Trump menggunakan kuasa itu untuk memaksa Anthropic menarik balik Mythos dan Fable dari pasaran pada Jun. Kerajaan persekutuan juga boleh melampirkan syarat keselamatan kepada pinjaman dan sewa tanah yang menyokong pembinaan pusat data. Dengan pendekatan ini, hanya syarikat AI yang memenuhi keperluan keselamatan yang ketat yang boleh mendapatkan pendanaan persekutuan atau menggunakan tanah awam. Feldman dan Dagher menyimpulkan bahawa kerajaan asing dengan pendanaan besar dan masa tanpa had pasti boleh menyusup ke OpenAI jika tiga penyelidik yang menggunakan langganan Claude boleh melakukannya dalam tiga hari.
Syarikat AI Menghadapi Risiko Keselamatan Siber Seiring Kekhawatiran Pematahannya
FLASH AIKongsi
Ringkasan
Indeks takut dan serakah menunjukkan peningkatan kecemasan kerana syarikat AI AS menghadapi ancaman mata-mata yang semakin meningkat. OpenAI mengalami pelanggaran, termasuk penyusupan disangkakan oleh pekerja Arab Saudi dan penetrasi kod selama 72 jam oleh penyelidik. Feldman dan Dagher memperingatkan bahawa China dan pihak lain mungkin memanfaatkan kelemahan ini. Anthropic mengakui ia tidak mampu membela diri sepenuhnya daripada serangan negara-bangsa. Pentagone menangguhkan perubahan peraturan keselamatan AI. Pedagang disarankan memantau altcoin semasa ketidakpastian pasaran.
Sumber:Tunjukkan artikel asal
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini.
Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.