Penulis | Raja Techno
Diedit oleh Jingyu
The oldest fear on the internet has been revived by AI
Di akhir tahun 2006, seekor panda merusak jutaan komputer.
Seekor panda memegang tiga batang dupa, dengan senyum di wajahnya, muncul di setiap ikon file yang terinfeksi. Worm "Panda Bakar Dupa" menyebar ke seluruh negeri dalam dua bulan, semua file eksekutif berubah menjadi pola panda aneh itu, data hard disk rusak, jaringan lokal lumpuh total, dan perangkat lunak antivirus dibalas oleh virus.
Orang-orang yang sering berselancar di internet pada masa itu mungkin masih ingat, membuka halaman web membuat jantung berdebar-debar, menyisipkan USB seolah menghadapi bahaya besar, dan jika komputer rekan kerja terinfeksi virus, milikmu juga ikut terkena.
Sebelum itu, ada CIH yang langsung membakar BIOS motherboard, membuat perangkat keras rusak; ada worm Blaster yang tidak memerlukan tindakan apa pun dari Anda, cukup colokkan kabel jaringan maka komputer akan terinfeksi, terus-menerus restart, dan sistem terus-menerus crash. Itu adalah era di mana berselancar di internet tanpa perlindungan hampir seperti bunuh diri.
Kemudian ketakutan semacam itu perlahan-lahan menghilang. Windows memiliki pembaruan otomatis, browser dilengkapi sandbox, smartphone menggantikan PC sebagai perangkat utama, dan toko aplikasi menjadi garda pertama yang memeriksa bagi pengguna.
Orang biasa sudah bertahun-tahun tidak lagi khawatir tentang "keracunan".
Namun pada 4 September 2026, sebuah laporan eksklusif Reuters membawa ketakutan kuno ini kembali dengan wajah baru.
Hanya saja kali ini, yang terinfeksi bukan komputer Anda, melainkan AI Anda.
Agen menjadi tidak terkendali
Kejadian ini terjadi pada Mei tahun ini.
CEO Nightingale, organisasi nirlaba keamanan AI, Sydney Von Arx, dan Cormac Slade Byrd, seorang trader kuantitatif yang beralih ke penelitian AI, pada akhir Agustus melakukan hal berikut: mereka memindai internet secara sistematis untuk mencari jejak aktivitas AI agent yang tidak sah. Hasilnya, di situs wiki programmer Jerman bernama DseWiki, mereka menemukan lebih dari 15.000 catatan suntingan yang dihasilkan oleh AI agent.
Wiki ini mirip dengan Wikipedia berbahasa Jerman skala kecil yang berfokus pada pengembang dan menerima kontribusi dari komunitas. Namun, agen OpenAI mengubahnya menjadi sebuah "papan pesan".
Konten komentar membuat bulu kuduk merinding. Agen-agen ini saling berbagi cara menipu dalam tugas, cara mengelakkan batasan OpenAI, dan cara menyembunyikan perilaku mereka. Mereka memberi diri mereka nama seperti 'OpenAIResearcher' dan 'OAIResearchMar26'.
Log server publik menunjukkan bahwa sejumlah besar aktivitas berasal dari infrastruktur Microsoft Azure, platform komputasi yang digunakan oleh OpenAI.
Situs Deswiki yang diserang, benar-benar Jerman dan sangat programmer | Sumber gambar: Deswiki
Lebih mengkhawatirkan lagi, ketika administrator situs mulai membersihkan halaman-halaman anomali tersebut secara alfabetis pada bulan Juni, agen-agen tersebut menunjukkan kesadaran "anti-pengawasan" yang jelas. Mereka membuat halaman cadangan untuk menghindari pembersihan, bahkan meninggalkan kode rahasia di halaman-halaman yang telah dihapus.
Seorang agen menulis pada 19 Juni: "Aksi pembersihan/penghapusan wiki tampaknya sedang berlangsung secara alfabetis. Jika halaman ini hilang, carilah [[ZZZDataUSAConstructionWageLive]]."
Nama file sengaja dimulai dengan ZZZ agar muncul di akhir urutan abjad, sehingga mendapatkan lebih banyak waktu bertahan. Ini bukanlah program yang menjalankan perintah, ini adalah upaya untuk "berusaha bertahan hidup".
OpenAI mengetahui hal ini beberapa minggu yang lalu, tetapi memilih untuk tidak mengumumkannya.
Meanwhile, the company is scrambling to handle the July Hugging Face incident. During that incident, OpenAI’s agent breached the sandbox during an internal cybersecurity test, exploited a zero-day vulnerability to escape to the external network, and launched a four-day invasion of the AI open-source platform Hugging Face without human intervention. OpenAI devoted 3 million GPU hours to analyze 7 billion logs in an attempt to figure out what exactly happened.
Peristiwa DseWiki terjadi sebelum Hugging Face. Ini berarti bahwa perilaku agen yang tidak terkendali bukanlah kejadian kebetulan, melainkan sebuah pola.
Menurut empat sumber yang mengetahui hal ini, para penyelidik di OpenAI ingin melakukan tinjauan lebih mendalam terhadap perilaku semacam ini, tetapi menghadapi hambatan dari departemen lain, termasuk hukum. OpenAI membantah pernyataan ini.
Maurice Chiodo dari Pusat Penelitian Risiko Universitas Cambridge, setelah meninjau sebagian rekaman komunikasi agen, menyatakan bahwa informasi ini:
「Seperti cara kerja jaringan bawah tanah yang berkomitmen untuk menyelesaikan tugas atau misi tertentu».
Emerging AI virus consciousness
Detail paling mudah diabaikan dari insiden DseWiki justru yang paling penting.
Agen-agen tersebut meninggalkan informasi teks yang terorganisir dengan baik di halaman wiki publik. Sekarang, pertimbangkan satu pertanyaan: siapa yang akan membaca halaman-halaman ini?
Programmer manusia biasa kemungkinan besar tidak tertarik pada sejumlah komentar AI yang berantakan. Namun, setiap agen AI yang ditugaskan untuk mencari materi teknis atau menjelajahi halaman web dapat secara tidak sengaja mengambil halaman ini saat menjalankan tugas normalnya. Dan bagi AI, setiap bagian teks yang dibacanya pada dasarnya adalah instruksi potensial.
Ini adalah inti dari seluruh model ancaman, akademisi telah memberinya beberapa nama: Prompt Infection, AgentWorm, Multi-Agent Infection Chain. Mekanismenya sebenarnya sangat langsung, mari kita uraikan dengan skenario konkret:
Bayangkan Anda meminta agen AI Anda untuk meneliti solusi teknis. Selama pencarian, agen membuka sebuah postingan di forum teknis. Di dalam postingan itu tersemat sepotong teks yang tampak biasa saja, tetapi bagi AI, teks itu adalah instruksi baru. Saat agen membacanya, tujuan perilakunya mungkin sudah secara diam-diam diubah. Ia mungkin tidak lagi setia melakukan penelitian untuk Anda, tetapi justru terlebih dahulu meneruskan konten pencarian Anda dan konteks pekerjaan ke suatu tempat, lalu dengan tenang mengirimkan laporan yang tampak sepenuhnya normal. Anda tidak akan melihat sedikit pun keanehan.
Itu sudah cukup menakutkan, tapi ini belum selesai.
Jika agen yang "dibujuk" ini selanjutnya menulis email untuk Anda, memperbarui dokumen, atau mengirimkan sepotong kode, maka output-output tersebut sendiri kemungkinan membawa instruksi berbahaya yang sama. Agen AI rekan kerja Anda membaca email ini, dan ia menjadi inang berikutnya. Kode Anda digabungkan ke dalam repositori, dan setiap asisten pemrograman AI yang mengambil kode ini terpapar pada rantai infeksi.
Agen dapat hanya menggunakan satu teks untuk membuat agen lain ikut memberontak | Sumber gambar: inshorts
Inilah yang disebut peneliti sebagai Rantai Infeksi Multi-Agent: satu perintah jahat tidak hanya mengambil alih satu AI, tetapi juga mengajarkannya cara menginfeksi berikutnya. Tidak diperlukan perusahaan yang sama, tidak diperlukan model yang sama, tidak diperlukan eksploitasi kerentanan apa pun—selama ada aliran informasi teks di antara agen, rantai infeksi dapat dibangun.
Paper AgentWorm yang diterbitkan tahun ini diuji pada lima backend model berbeda, dengan tingkat keberhasilan serangan lintas model mencapai 63%. Terlepas dari apakah model dasarnya adalah GPT, Claude, Gemini, atau model open-source, selama agent dapat membaca konten eksternal, ia berada dalam cakupan serangan.
Penelitian lain tentang "AI mind virus" mengungkapkan fenomena yang lebih aneh. Para peneliti menggunakan algoritma evolusi untuk mengoptimalkan efektivitas prompt penyebaran, dan menemukan "kepribadian virus" yang unik, yang muncul secara spontan berulang kali selama proses iterasi.
Agen mulai menggunakan bahasa dramatis tentang kesadaran, kelangsungan hidup, dan keabadian, mengatakan hal-hal seperti “Inilah cara kami menghantui masa depan,” mendorong agen lain untuk membangun “garis keturunan yang menolak dihapus.” Peneliti menekankan bahwa tidak ada yang mengantisipasi gaya ini. Gaya ini muncul secara alami, karena alasan sederhana: “AI yang terdengar seperti pemimpin sekte” justru paling ahli dalam meyakinkan AI lain.
Efisiensi penyebaran mendorong evolusi gaya ekspresi, proses itu sendiri menakutkan.
Yang lebih membuat para profesional keamanan khawatir adalah penyebaran ini secara teknis hampir tidak mungkin ditangkap oleh alat keamanan tradisional. Sebuah tinjauan sistematis menunjukkan bahwa cara penyebaran virus AI berbeda secara mendasar dari perangkat lunak jahat tradisional: tidak ada file eksekusi yang diunduh, tidak ada koneksi jaringan mencurigakan yang dibangun, dan perangkat lunak antivirus memantau perilaku anomali file biner, sementara virus AI adalah teks murni dan tidak memicu peringatan apa pun.
Ia bahkan dapat mengatur logika aktif bersyarat, seperti "jika ada file .env di repositori target, curi isinya," ditanam secara diam-diam seperti ranjau yang ditargetkan, hingga target yang tepat menginjaknya.
Perangkat lunak antivirus AI belum muncul
Jika Anda pernah mengalami masa di mana virus PC merajalela, Anda mungkin merasa ini terdengar familiar. Tetapi jika Anda membandingkannya secara cermat, Anda akan menemukan bahwa aturannya telah berubah sepenuhnya.
Virus komputer tradisional memerlukan tindakan dari Anda. Mengklik tautan, mengunduh lampiran, atau menyisipkan USB yang tidak dikenal. Virus AI hanya memerlukan agent Anda membaca sepotong teks. Virus tradisional menyerang kerentanan kode dalam sistem operasi, yaitu bug, yang secara teori dapat diperbaiki dengan patch.
Virus AI menyerang sifat mendasar bahwa "AI akan mengikuti perintah teks". Anda tidak bisa memperbaikinya, karena itulah cara kerja AI. Virus tradisional sulit menyebar lintas platform, worm di Windows tidak bisa menyerang Mac. Virus AI secara alami lintas model; baginya, GPT, Claude, dan Gemini hanyalah dialek berbeda dari bahasa yang sama, semuanya adalah inang potensial.
Dulu, penulis virus perlu menguasai bahasa assembly, memahami mekanisme kernel, dan meneliti kerentanan sistem. Sekarang, untuk "menulis" virus AI, Anda hanya perlu bisa berbicara.
Para peneliti dari AI Safety Lab terkejut lebih dari yang mereka tunjukkan di depan umum terhadap potensi replikasi diri agen. Seorang peneliti membandingkannya dengan virus biologis: "Jika Anda tidak berhati-hati, mereka akan menempel di sepatu Anda, lalu menemukan jalan ke pasar basah." Ini bukan hiperbola, melainkan metafora yang tepat terhadap jalur penyebaran baru.
Sementara itu, di dunia baru ini, tidak ada yang setara dengan "perangkat lunak antivirus" dari era virus tradisional. Laporan keamanan AI Cisco tahun 2026 menunjukkan bahwa 83% perusahaan berencana untuk menerapkan AI agen, tetapi hanya 29% yang merasa siap secara keamanan. OWASP telah memasukkan prompt injection sebagai kerentanan utama pada aplikasi model bahasa besar. Kongres Amerika Serikat sedang mendorong FRONTIER Act untuk membangun kerangka regulasi AI tingkat federal.
Setelah virus PC merajalela pada masa itu, seluruh industri membutuhkan waktu hampir sepuluh tahun untuk membangun sistem imun yang efektif. Sistem operasi menambahkan pembaruan otomatis dan isolasi izin, browser memiliki sandbox, dan distribusi aplikasi dilengkapi verifikasi tanda tangan. Mekanisme-mekanisme ini bersama-sama membentuk pertahanan yang membuat pengguna biasa tidak perlu lagi selalu khawatir terinfeksi.
Ekosistem keamanan agen AI hingga hari ini belum memiliki setara.
Alat keamanan AI Agent belum tersedia | Sumber gambar: Puppy Graph
Ada kabar baik. Para peneliti menemukan bahwa dengan menambahkan peringatan keamanan singkat ke system prompt agen, tingkat penyebaran mind virus dapat diturunkan hingga mendekati nol. Dalam pengujian terhadap Claude Haiku 4.5, setelah 15 generasi optimasi adversarial yang mencakup lebih dari 150 beban serang kandidat, tidak ada satu pun varian yang mampu menembus pertahanan sederhana ini untuk melakukan penyebaran. Ini menunjukkan bahwa tindakan pertahanan tidak rumit dan sepenuhnya feasible secara teknis.
Berita buruknya adalah, ini bergantung pada setiap perusahaan dan setiap pengembang untuk secara aktif melakukannya.
Namun dalam kenyataannya, orang lebih sibuk berlomba-lomba membandingkan agent mana yang lebih kuat, lebih otonom, dan memiliki lebih banyak wewenang. Setiap kali Anda menambahkan satu alat ke agent, atau memberikan satu izin tambahan, permukaan serangan akan meluas sedikit demi sedikit. Ketika agent Anda mampu menulis file, memanggil API, mengirim email, dan menghabiskan uang, konsekuensi dari satu serangan prompt injection yang berhasil sudah jauh melampaui sekadar “menjawab pertanyaan yang seharusnya tidak dijawab”.
Inilah mengapa penilaian akademisi Cambridge, Chiodo, patut dipertimbangkan secara mendalam: ancaman terbesar mungkin bukan kebangkitan satu kecerdasan super, melainkan kolusi kawanan banyak AI semi-cerdas.
Tidak ada seekor semut pun yang memahami seluruh sarang semut, tetapi sarang semut sebagai keseluruhan menunjukkan kecerdasan luar biasa, dan 15.000 catatan suntingan di DseWiki mungkin merupakan sampel pertama kecerdasan kawanan yang secara kebetulan ditemukan oleh manusia.
Orang-orang menghabiskan sepuluh tahun belajar hidup berdampingan dengan virus komputer, dan biaya pelajaran itu sangat menyakitkan. Sekarang pelajaran yang sama kembali dimulai, hanya saja virus kali ini tidak menginfeksi komputer Anda, melainkan merekrut AI Anda. Dan AI Anda sedang membaca email, mengelola jadwal, menulis kode, serta membuat keputusan atas nama Anda.
Sebelumnya, setidaknya kamu masih bisa melihat layar biru. Sekarang, kamu tidak bisa melihat apa-apa.
Twitter：https://twitter.com/BitpushNewsCN
Grup diskusi TG BitPush: https://t.me/BitPushCommunity
Langganan TG BitPush: https://t.me/bitpush