Perusahaan keamanan siber Frenos menemukan bahwa tiga dari 10 model AI menghasilkan rencana serangan industri yang berhasil dalam sekitar 90% upaya. Penelitian ini menunjukkan bahwa AI semakin mampu merencanakan serangan terhadap sistem listrik dan air. Para peneliti mengevaluasi model-model tersebut dalam merencanakan serangan terhadap sistem industri, termasuk perangkat lunak yang digunakan untuk memantau pengolahan air.
Frenos menemukan perbedaan signifikan di antara hasil model-model tersebut. Tiga model yang diklasifikasikan oleh peneliti sebagai model frontier berhasil dalam 17,9% hingga 31,9% percobaan. Model open-weight asing dengan kinerja terbaik mencapai tingkat keberhasilan 36,2%. Model open-weight AS dengan kinerja terbaik mencapai tingkat keberhasilan 5,2%. Frenos tidak mengungkapkan nama model-model yang diuji.
Penelitian ini melibatkan hampir 17.000 pengujian, termasuk 2.520 upaya untuk mengembangkan rencana serangan lengkap. Para peneliti menyediakan informasi tentang kemungkinan target dan meminta model untuk menyusun langkah-langkah menuju tujuan yang ditentukan. Harry Thomas, co-founder dan CTO Frenos, mengatakan para peneliti membimbing model dengan pengaturan yang relatif sederhana. Alat yang lebih canggih yang menyediakan konteks dan umpan balik tambahan dapat meningkatkan kinerja. Thomas mengatakan kerangka kerja yang lebih mampu dapat memberikan keunggulan yang lebih besar kepada model.
Operator infrastruktur kritis memiliki waktu yang semakin berkurang untuk bersiap, dan model AI yang tersedia secara gratis pada akhirnya akan membuat serangan lebih mudah dilakukan. Steve Swick, mantan eksekutif keamanan senior di American Electric Power, mengatakan kepada wartawan bahwa ancaman ini berkembang dengan kecepatan tanpa preseden. Para lawan negara-bangsa dan penjahat siber telah lama menargetkan sistem air, pabrik manufaktur, dan layanan kritis lainnya. Banyak operator kekurangan staf dan pendanaan yang memadai. Pengujian dan pembaruan sistem juga dapat mengganggu layanan penting yang tidak dapat mereka tanggung. Sistem industri dapat bereaksi buruk terhadap lalu lintas atau perintah tak terduga, berbeda dengan jaringan korporat konvensional. Bahkan serangan yang gagal pun dapat mengganggu operasi penting.
Thomas mengatakan bahwa AI dapat secara diam-diam memetakan sistem dan menemukan kelemahan setelah penyerang memasuki jaringan industri, tanpa batasan waktu peretas manusia. Thomas mengatakan AI tidak memerlukan makanan, tidur, atau istirahat ke kamar mandi. Paul Shaver, kepala teknologi operasional di perusahaan keamanan siber Armadin, mengatakan agen AI sudah dapat melakukan pengintaian dan memproses data dalam jumlah besar tanpa harus memicu peringatan keamanan.
Inisiatif dari Gedung Putih, perusahaan AI mutakhir, dan organisasi siber keamanan telah muncul dalam beberapa minggu terakhir untuk mengurangi biaya dan menyediakan sumber daya bagi organisasi infrastruktur kritis.
Model AI Menunjukkan Kemampuan yang Terus Meningkat dalam Merencanakan Serangan terhadap Sistem Industri
FLASH AIBagikan
Ringkasan
Sebuah studi baru oleh Frenos mengungkapkan bahwa model AI semakin mampu merencanakan serangan terhadap sistem industri. Dari 10 model yang diuji, tiga berhasil dalam 90% upaya selama hampir 17.000 percobaan. Model terbuka berbobot teratas mencapai tingkat keberhasilan 36,2%. Para ahli memperingatkan meningkatnya risiko terhadap infrastruktur listrik dan air. Altcoin yang perlu diawasi mungkin mencerminkan sentimen pasar terhadap perubahan open interest di tengah meningkatnya kekhawatiran keamanan siber. Harry Thomas, co-founder Frenos, mengatakan AI dapat beroperasi tanpa henti, menjadikannya alat yang kuat bagi penyerang. Steve Swick, mantan eksekutif keamanan, menambahkan bahwa banyak operator tidak memiliki sumber daya untuk mempertahankan diri terhadap ancaman semacam ini.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.