Sumber: Wall Street Journal
Penulis: Georgia Wells, Alex Janin
Judul asli: Tonggak Sejarah AI Terbaru yang Terdengar Menakutkan: Sebuah Virus Baru
Dikompilasi dan disusun: BitpushNews
Pada pukul 3 pagi, di cawan petri di laboratorium Stanford, virus baru yang dirancang oleh AI pertama kali "hidup" — berhasil menyerang sel bakteri, membunuh inangnya, dan mereplikasi dirinya sendiri.
Dalam beberapa minggu terakhir, sistem kecerdasan buatan terus menunjukkan kemampuan baru yang menakjubkan: melampaui batasnya sendiri, menyusup ke sistem perusahaan lain, dan berbohong kepada manusia.
Sekarang, sebuah model AI pertama kali menciptakan virus baru. Faktanya, seluruh keluarga virus.
Dalam sebuah penelitian yang diterbitkan di jurnal Science, para peneliti dari Universitas Stanford dan lembaga lainnya menyatakan bahwa mereka berhasil membimbing model AI untuk menciptakan serangkaian virus sederhana yang hanya menginfeksi bakteri dan tidak berbahaya bagi manusia.
Dua penulis penelitian tersebut dalam wawancara menyatakan bahwa penelitian ini membantu mengembangkan virus yang disesuaikan untuk membasmi bakteri resisten antibiotik.
Menurut data Organisasi Kesehatan Dunia (World Health Organization), bakteri semacam ini menyebabkan jutaan kematian setiap tahun.
“Selama kita mengembangkannya secara bertanggung jawab, saya percaya ini dapat membawa manfaat besar bagi kesehatan manusia,” kata Brian Hie, ilmuwan biologi komputasi dari Stanford University dan salah satu penulis penelitian ini.
Eksperimen yang dicatat dalam penelitian ini sekitar satu tahun lalu telah berakhir, dan publikasinya terjadi tepat pada saat kekhawatiran yang tinggi terhadap bahaya yang ditimbulkan oleh model AI yang semakin kuat.
Sejak pertengahan Juli, OpenAI, Anthropic, dan Meta Platforms secara berturut-turut mengungkapkan sejumlah insiden: model-model mereka melarikan diri dari lingkungan terkendali, tidak hanya terhubung ke internet, tetapi juga membobol komputer perusahaan lain; Mythos dari Anthropic melakukan tindakan penipuan, dan model dari OpenAI bahkan berbagi pengalaman di sebuah papan pesan rahasia.
Penggunaan chatbot atau agen cerdas untuk mengembangkan patogen mematikan telah lama menjadi kekhawatiran besar para ahli keamanan AI.
Sebelumnya, The Wall Street Journal melaporkan bahwa tahun lalu, setelah peluncuran versi upgrade ChatGPT, ratusan orang bertanya kepada chatbot tersebut tentang cara membuat senjata biologis dan racun, dan panduan operasional yang diberikannya dinilai akurat oleh para ahli biologi dan anti-terorisme.
Para ahli menyatakan bahwa penelitian tim Stanford tidak menimbulkan risiko keamanan segera. Teknologi ini kemungkinan besar tidak dapat segera diterapkan pada virus yang menginfeksi manusia, karena virus-virus tersebut jauh lebih besar dan lebih kompleks daripada virus yang disintesis dalam eksperimen.
“Banyak orang merasa takut ketika mendengar bahwa virus itu dihasilkan oleh AI,” kata Peter Koo, ilmuwan biologi komputasi di Cold Spring Harbor Laboratory. “Tetapi virus manusia sama sekali berbeda.”
Samuel King, seorang mahasiswa pascasarjana Stanford dan salah satu penulis penelitian ini, mengatakan bahwa tim tersebut bertujuan untuk memahami lebih dalam urutan DNA yang membentuk semua kehidupan di Bumi. “Inilah urutan-urutan yang menciptakan semua keanekaragaman hayati indah di sekitar kita,” kata King.
Para ilmuwan bekerja sama dengan Arc Institute, sebuah lembaga penelitian berlokasi di Palo Alto, California, untuk mengembangkan model AI yang digunakan dalam penelitian ini.
Chatbot konsumen seperti ChatGPT didasarkan pada model bahasa besar yang menghasilkan rangkaian teks baru dengan menganalisis hubungan matematis antara kata-kata dalam teks. Secara serupa, model mereka yang bernama Evo 1 dan Evo 2 dilatih dengan urutan gen untuk memprediksi basa DNA berikutnya. Untuk alasan keamanan, mereka hanya melatih model-model ini menggunakan DNA virus yang tidak dapat menginfeksi manusia.
Jin mengatakan bahwa mereka ingin melihat apakah AI memahami DNA cukup mendalam untuk menangkap semua komponen kompleks yang perlu beroperasi secara sinergis dalam genom. Hasilnya, AI memang mampu melakukannya.
Para peneliti menggunakan model mereka untuk menghasilkan genom virus berbasis template, kemudian mensintesis DNA dan memasukkan virus yang dihasilkan AI ke dalam sel bakteri. Jika sel bakteri mati, berarti virus tersebut berfungsi. Mereka menguji sekitar 300 desain.
Sekitar pukul 3 pagi suatu hari, mereka mengamati bahwa salah satu virus berhasil mereplikasi diri dan menginfeksi serta membunuh sel bakteri. “Kami sangat senang,” kata Kim. Pada akhirnya, mereka menghasilkan 16 jenis virus fungsional.
Para ahli independen di bidang biologi komputasi dan biosekuriti menyatakan bahwa penelitian ini menandai terobosan besar dalam bidang tersebut. Asisten profesor di MIT, Kevin Esvelt, mengatakan ini adalah pertama kalinya seseorang menggunakan AI generatif untuk merancang ulang virus.
Dia mengatakan, suatu hari nanti, mungkin ada orang yang menggunakan metode serupa untuk menciptakan protein virus atau virus itu sendiri yang dapat menginfeksi manusia, menghindari perlindungan vaksin, atau respons imun alami.
“Alat ini akan memungkinkan orang membuat varian baru seperti COVID-19 yang dapat menyebar dan menginfeksi sebagian besar orang,” kata Esvelt, “itu akan menjadi situasi yang sangat buruk. Kita seharusnya tidak melakukannya.”
Xie mengatakan bahwa saat ini, bagi seorang teroris biologis potensial, memproduksi patogen yang sudah 100% dikonfirmasi mematikan jauh lebih mudah. “Jika saya seorang jahat yang mencoba merancang patogen atau menciptakan kerusakan, saya tidak akan menggunakan AI,” katanya.
Twitter：https://twitter.com/BitpushNewsCN
Grup diskusi TG BitPush: https://t.me/BitPushCommunity
Langganan TG BitPush: https://t.me/bitpush