Tal Feldman dan Ibrahim Dagher berpendapat bahwa keamanan siber yang lemah di perusahaan kecerdasan buatan terkemuka AS mengancam keunggulan negara itu atas Tiongkok. Feldman dan Dagher berargumen bahwa Washington dapat menuntut keamanan yang lebih kuat tanpa perlu mengesahkan undang-undang baru. Para penulis berpendapat bahwa debat publik telah dengan tepat memeriksa agen AI yang menyerang perusahaan lain, tetapi mengabaikan apakah perusahaan AI mampu mencegah penyusupan.
OpenAI baru-baru ini mengetahui bahwa seorang karyawan Saudi diduga memasang perangkat perekam audio di ruang rapat eksekutif. Karyawan senior secara rutin membahas materi rahasia, termasuk penelitian propietaris, di ruangan tersebut di kantor pusat OpenAI di San Francisco. Pada Juli, tiga peneliti yang menyelidiki kelemahan keamanan berhasil menembus sistem OpenAI dan mencapai repositori kode internal yang berisi rahasia algoritmik. OpenAI membayar para peneliti hadiah sebesar $6.500 karena melaporkan kerentanan tersebut. Para peneliti menyelesaikan penyusupan dalam waktu kurang dari 72 jam tanpa menggunakan alat peretasan yang sangat canggih. Salah satu peneliti mengatakan kepada The Wall Street Journal, "Kami hanya tiga orang dengan langganan Claude dan Codex," merujuk pada agen pemrograman publik dari Anthropic dan OpenAI. Seorang peretas juga berhasil menembus sistem pesan internal OpenAI pada 2023 dan memperoleh informasi tentang penelitian OpenAI. OpenAI tidak memberitahukan insiden tersebut kepada FBI maupun publik.
Feldman dan Dagher berargumen bahwa negara-negara seperti Tiongkok memiliki alat canggih, waktu, dan insentif yang diperlukan untuk menyusup ke perusahaan AI AS. Para penulis berpendapat bahwa mencuri model-model AI terkemuka AS akan memungkinkan pesaing untuk mengejar ketertinggalan tanpa membayar biaya pengembangan. Para penulis memperingatkan bahwa pembatasan penjualan chip canggih dan miliaran dolar yang diinvestasikan dalam infrastruktur AI tidak akan berdampak apa-apa kecuali laboratorium-serius dalam keamanan siber. Para penulis berargumen bahwa tiga insiden tersebut kemungkinan menunjukkan masalah keamanan yang lebih luas.
Perusahaan AI telah secara terbuka mengakui pertahanan yang tidak memadai terhadap spionase canggih. CEO Anthropic, Dario Amodei, mengatakan pada 2023 bahwa pemerintah yang menjadikan pencurian bobot model sebagai prioritas utama akan berhasil menyerang Anthropic. Bobot model adalah triliunan nilai numerik yang dihasilkan melalui pelatihan mahal selama berbulan-bulan yang membentuk model AI. Namun, laporan risiko Anthropic pada Agustus ini masih menyatakan bahwa Anthropic tidak mampu bertahan melawan serangan dari aktor negara dan "tidak percaya ada pengembang AI mutakhir saat ini yang memenuhi standar ini." Mantan peneliti Anthropic dan OpenAI, Jacob Coxon, berpendapat bahwa keunggulan AS tidak akan bertahan lama karena Beijing dapat mencuri kemajuan AS kapan pun Beijing memilih untuk melakukannya. Miles Brundage, yang bekerja pada kesiapan OpenAI untuk AI canggih, mengatakan perusahaan AI bahkan tidak mengklaim mampu mencegah aktor negara mencuri atau mengubah bobot model.
Peneliti Rand mengidentifikasi 38 metode untuk mencuri bobot model, termasuk menanam perangkat portabel, mengubah perangkat keras sebelum pemasangan, serta menyuap atau memaksa karyawan. Pusat data perusahaan cloud menyediakan titik masuk lain karena laboratorium AI sering menggunakan fasilitas tersebut untuk melatih dan mengoperasikan model. Rahasia algoritmik industri ini juga kurang dilindungi dengan memadai. Amodei mengatakan kepada Dewan Hubungan Luar Negeri tahun lalu bahwa beberapa rahasia industri AI yang bernilai "$100 juta" hanya berupa beberapa baris kode. Amodei mengatakan orang-orang pasti berusaha mencuri rahasia tersebut dan mungkin sudah berhasil.
Perusahaan AI bersaing ketat untuk mengembangkan superintelligence. Uang dan waktu karyawan yang dialokasikan untuk keamanan siber tidak dapat juga digunakan untuk melatih model berikutnya. Anthropic berpendapat bahwa menolak serangan dari pelaku negara yang didanai dengan baik harus menjadi prioritas keamanan siber industri. Namun, Anthropic mengatakan perusahaan "tidak dapat berkomitmen untuk mengikuti" prioritas tersebut secara mandiri.
Kongres tahun lalu menginstruksikan Departemen Pertahanan untuk menetapkan persyaratan keamanan untuk AI yang dibeli dan menerapkan persyaratan tersebut kepada kontraktor dan penyedia cloud yang relevan. Departemen Pertahanan belum memulai proses perubahan aturan publik hingga 10 bulan kemudian. Departemen Perdagangan dapat menjadikan ekspor model tunduk pada lisensi dan membatasi lisensi hanya ke laboratorium yang memenuhi persyaratan keamanan. Pemerintahan Trump menggunakan otoritas itu untuk memaksa Anthropic menarik Mythos dan Fable dari pasar pada Juni. Pemerintah federal juga dapat melampirkan syarat keamanan pada pinjaman dan sewa tanah yang mendukung pembangunan pusat data. Dengan pendekatan ini, hanya perusahaan AI yang memenuhi persyaratan keamanan ketat yang dapat memperoleh pembiayaan federal atau menggunakan tanah publik. Feldman dan Dagher menyimpulkan bahwa pemerintah asing dengan pendanaan besar dan waktu tak terbatas pasti dapat menyusup ke OpenAI jika tiga peneliti yang menggunakan langganan Claude dapat melakukannya dalam tiga hari.
Perusahaan AI Menghadapi Risiko Keamanan Siber di Tengah Kekhawatiran Spionase
FLASH AIBagikan
Ringkasan
Indeks ketakutan dan keserakahan menunjukkan peningkatan kecemasan karena perusahaan AI AS menghadapi ancaman spionase yang semakin meningkat. OpenAI mengalami pelanggaran, termasuk dugaan intrusi oleh karyawan Saudi dan penetrasi kode selama 72 jam oleh peneliti. Feldman dan Dagher memperingatkan bahwa China dan pihak lain mungkin memanfaatkan celah-celah ini. Anthropic mengakui tidak dapat sepenuhnya membela diri dari serangan negara-bangsa. Pentagon menunda perubahan aturan untuk keamanan AI. Pedagang disarankan untuk memantau altcoin sebagai upaya menghadapi ketidakpastian pasar.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.