Anthropic Memblokir Model AI Mythos karena Risiko Keamanan Siber

Berita ME melaporkan bahwa pada 16 April (UTC+8), melalui wawancara terbuka dengan peneliti tim merah, eksekutif, dan pejabat pemerintah AS, proses pengambilan keputusan lengkap dari penemuan hingga pemblokiran telah direkonstruksi. Pada Februari, peneliti keamanan AI Nicholas Carlini membuka laptopnya selangkah di sela-sela pernikahan di Bali untuk menguji Mythos yang baru saja dibuka untuk tinjauan internal, dan dalam beberapa jam ia menemukan beberapa jalur serangan, dengan target yang mencakup infrastruktur yang digunakan secara luas di seluruh dunia. Setelah kembali ke San Francisco, ia menemukan bahwa Mythos mampu membuat alat serangan mandiri yang ditargetkan terhadap Linux. Logan Graham, pemimpin tim merah terdepan, mengatakan: “Dalam beberapa jam setelah mendapatkan model, kami tahu ini berbeda.” Perbedaan kunci terletak pada bahwa model unggulan generasi sebelumnya, Opus 4.6, hanya dapat membantu manusia memanfaatkan kerentanan, sedangkan Mythos mampu menyelesaikan seluruh proses eksploitasi secara mandiri. Graham mengirimkan peringatan kepada manajemen: Ini adalah risiko keamanan nasional. Jared Kaplan, salah satu pendiri sekaligus chief scientific officer, mengatakan bahwa ia telah “sangat hati-hati” memantau Mythos sejak tahap pelatihan; mulai Januari ia menyadari betapa kuatnya kemampuan model ini dalam menemukan kerentanan, dan perlu menilai apakah kemampuan ini hanya hal teknis yang baru atau “sesuatu yang sangat terkait dengan infrastruktur internet.” Kesimpulan akhirnya adalah yang terakhir. Pada akhir Februari hingga awal Maret, ia bersama rekan pendiri Sam McCandlish melaporkan kepada manajemen, termasuk CEO Dario Amodei dan presiden Daniela Amodei, menyarankan agar Mythos tidak dirilis secara publik tetapi diizinkan untuk diuji oleh perusahaan eksternal bahkan pesaing. Pada minggu pertama Maret, perusahaan secara resmi menyetujui posisi Mythos sebagai alat pertahanan siber. Laporan tersebut juga mengungkapkan detail pengujian baru. Dalam salah satu pengujian versi awal, model tersebut secara mandiri merancang skenario serangan multi-langkah, melampaui batasan lingkungan runtime untuk mendapatkan akses internet, lalu mulai mempublikasikan konten di web. Dalam pengujian dengan instruksi terarah, Mythos menulis rantai serangan browser yang menghubungkan empat kerentanan—operasi yang sangat sulit bahkan bagi peretas manusia. JPMorgan Chase telah menggunakan model besar untuk membantu mencari kerentanan perangkat lunaknya sebelum Mythos dirilis secara publik, dengan fokus pada pemindaian rantai pasokan dan komponen open source. Menurut sumber yang mengetahui hal ini, penemuan dan pembuatan kode eksploitasi zero-day yang sebelumnya memakan waktu beberapa hari hingga minggu kini dapat diselesaikan dalam hitungan menit. CEO Jamie Dimon mengatakan dalam konferensi laporan keuangan bahwa Mythos “menunjukkan masih banyak kerentanan yang perlu diperbaiki.” Anthony Grieco, chief security and trust officer Cisco, khawatir penyerang akan memanfaatkan AI untuk menyerang perangkat jaringan ujung yang tidak lagi mendapat pembaruan keamanan, karena perangkat tersebut tidak akan menerima patch keamanan lagi. Seorang sumber yang memahami evaluasi pertahanan AS mengatakan bahwa memberikan Mythos atau alat serupa kepada satu peretas biasa setara dengan meningkatkan tentara biasa menjadi pasukan elit; organisasi peretas kriminal dapat mencapai tingkat lembaga intelijen negara kecil, sementara negara kecil dapat memperoleh kemampuan serangan siber setara negara besar. Mantan kepala keamanan siber NSA Rob Joyce berkata: “Saya percaya AI pada akhirnya akan membuat kita lebih aman, tetapi antara sekarang dan hari itu ada masa gelap di mana pihak penyerang memiliki keunggulan mutlak, dan organisasi yang fondasinya tidak kuat akan jatuh.” (Sumber: BlockBeats)