Anthropic Menghalang Model AI Mythos Akibat Risiko Keselamatan Siber

Berita ME, pada 16 April (UTC+8), melalui wawancara terbuka dengan penyelidik tim merah, eksekutif, dan pejabat pemerintah AS, proses pengambilan keputusan lengkap dari penemuan hingga pemblokiran telah direkonstruksi. Pada Februari, penyelidik keamanan AI Nicholas Carlini membuka laptopnya selangkah di antara acara pernikahan di Bali untuk menguji Mythos yang baru saja dibuka untuk tinjauan internal, dan dalam beberapa jam ia menemukan beberapa jalur serangan, dengan target yang mencakup infrastruktur yang digunakan secara luas di seluruh dunia. Setelah kembali ke San Francisco, ia menemukan bahwa Mythos mampu membuat alat serangan secara mandiri yang ditujukan terhadap Linux. Logan Graham, pemimpin tim merah terkemuka, mengatakan: “Dalam beberapa jam setelah mendapatkan model, kami tahu ini berbeda.” Perbedaan kunci terletak pada bahwa model unggulan generasi sebelumnya, Opus 4.6, hanya mampu membantu manusia memanfaatkan kerentanan, sementara Mythos mampu menyelesaikan seluruh proses pemanfaatan secara mandiri. Graham mengirimkan peringatan kepada manajemen: Ini adalah risiko keamanan nasional. Jared Kaplan, salah satu pendiri sekaligus chief scientific officer, mengatakan ia telah memantau Mythos “dengan sangat hati-hati” sejak tahap pelatihan, dan mulai menyadari kekuatan model ini dalam menemukan kerentanan pada Januari, sehingga perlu menilai apakah kemampuan ini hanyalah hal baru secara teknis, atau “sesuatu yang sangat terkait dengan infrastruktur internet.” Kesimpulan akhirnya adalah yang terakhir. Pada akhir Februari hingga awal Maret, ia bersama rekan pendiri Sam McCandlish melaporkan kepada manajemen, termasuk CEO Dario Amodei dan presiden Daniela Amodei, menyarankan agar Mythos tidak dirilis secara publik tetapi diizinkan untuk diuji oleh perusahaan eksternal bahkan pesaing. Pada minggu pertama Maret, perusahaan secara resmi menyetujui posisi Mythos sebagai alat pertahanan siber. Laporan tersebut juga mengungkapkan detail pengujian baru. Dalam salah satu pengujian versi awal, model tersebut secara otomatis merancang skenario serangan multi-tahap, melampaui batasan lingkungan runtime untuk mendapatkan akses internet, lalu mulai mempublikasikan konten di internet. Dalam pengujian dengan petunjuk, Mythos menulis rantai serangan browser yang menghubungkan empat kerentanan—operasi yang sangat sulit bahkan bagi peretas manusia. JPMorgan Chase telah menggunakan model besar untuk membantu mencari kerentanan perangkat lunaknya sebelum rilis publik Mythos, dengan fokus pada pemindaian rantai pasokan dan komponen open source. Menurut sumber yang mengetahui hal ini, penemuan dan pembuatan kode pemanfaatan zero-day yang sebelumnya memakan waktu beberapa hari hingga minggu kini dapat diselesaikan dalam hitungan menit. CEO Jamie Dimon mengatakan dalam konferensi telepon laporan keuangan bahwa Mythos “menunjukkan masih banyak kerentanan yang perlu diperbaiki.” Anthony Grieco, chief security and trust officer Cisco, khawatir penyerang akan memanfaatkan AI untuk menyerang perangkat jaringan terminal yang tidak lagi mendapat pembaruan keamanan, karena perangkat tersebut tidak akan menerima patch keamanan lagi. Seorang sumber yang memahami penilaian pertahanan AS mengatakan bahwa memberikan Mythos atau alat serupa kepada satu peretas biasa setara dengan meningkatkan tentara biasa menjadi pasukan elit; organisasi peretas kriminal dapat mencapai tingkat lembaga intelijen negara kecil, sementara negara kecil dapat memperoleh kemampuan serangan siber setara negara besar. Mantan kepala keamanan siber NSA, Rob Joyce, mengatakan: “Saya percaya AI pada akhirnya akan membuat kita lebih aman, tetapi antara sekarang dan hari itu ada periode gelap di mana pihak penyerang memiliki keunggulan mutlak, dan organisasi yang fondasinya lemah akan jatuh.” (Sumber: BlockBeats)