OpenCode, agen pemrograman AI open-source, baru-baru ini menjadi populer di kalangan pengembang dan dianggap sebagai alternatif untuk Claude Code dan Cursor. Perusahaan tersebut menyatakan pada hari Sabtu bahwa penyerang telah membobol sistem lama mereka dalam semalam, memengaruhi 1,4% pengguna di platform online OpenCode Console. Sebagian pengguna menyimpan kunci API mereka di platform tersebut, yang berfungsi sebagai kata sandi digital untuk mengakses layanan AI.
Saat tim OpenCode berupaya menanggapi serangan tersebut, penanganan darurat ini juga menyoroti masalah yang semakin serius: perusahaan yang menggunakan model AI tanpa tinjauan dan dengan batasan akses yang lebih sedikit sulit untuk melawan serangan siber skala besar yang didorong oleh AI.
OpenCode di X menulis: "Kami mengalami kerentanan keamanan terkait serangan distilasi skala besar yang memengaruhi 1,4% pengguna OpenCode Console. Kami telah memberitahu semua pengguna yang terdampak melalui email pagi ini." Perusahaan menyatakan bahwa pengguna yang tidak menerima email tidak terdampak.
Perusahaan tidak menjelaskan bagaimana serangan distilasi ini terjadi. Namun, kunci API yang bocor kemungkinan membantu pengguna di negara-negara dengan pembatasan akses ke model AS untuk menghasilkan sejumlah besar output yang diperlukan dalam proses tersebut. Beberapa pihak yang meragukan berpendapat bahwa pernyataan ini agak berlebihan, menyatakan bahwa insiden ini hanyalah serangan biasa, dan belum terbukti apakah itu digunakan untuk distilasi.
Pada malam kejadian, pengembang mulai memposting peringatan pengeluaran dan informasi pemotongan tidak sah di Reddit dan X. Salah satu pengembang menulis: "Saya melihat semua peringatan pengeluaran OpenAI, Anthropic, dan Google AI saya berbunyi sebelum tidur, saya tidak tahu apa yang terjadi."
Pengguna lain melaporkan bahwa akun tunggal mereka dipotong ratusan dolar; sebagian kecil menyatakan totalnya melebihi 1000 dolar.
Anthropic dan Google telah memblokir kunci API yang mereka anggap telah bocor, sementara OpenAI menyatakan telah bekerja sama dengan OpenCode untuk memulihkan akses dan mengembalikan poin yang digunakan selama serangan ini kepada pelanggan API-nya. OpenCode menyatakan bahwa pengembalian dana untuk biaya yang tidak sah sedang diproses.
Kunci yang terbocor hanya terbatas pada Console, dan beberapa pengguna menyimpannya di workspace. Co-founder Dax Raad menyatakan bahwa aplikasi open-source dan alat baris perintah tidak terdampak. Ia menulis di X: "Perhatikan, ini adalah OpenCode Console, bukan OpenCode itu sendiri, kunci-kunci tersebut tidak pernah sampai ke kami."
Meskipun pengguna dan perusahaan AI berusaha menonaktifkan kunci-kunci yang terbuka tersebut, tim OpenCode tetap mengalami tekanan. Raad mengatakan, penyerang telah terus-menerus mencoba menyerang sistem mereka selama 48 jam berturut-turut, memaksa tim untuk menjalankan agen pertahanan AI secara terus-menerus. Model AI yang digunakan tim OpenCode untuk analisis awalnya membantu, tetapi mulai menolak bekerja ketika kode jahat yang diminta untuk diperiksa memicu filter keamanan.
Dia menulis di X: "Ini agak membuat frustrasi."
Selanjutnya, OpenCode memperoleh akses ke program Daybreak Blue dari OpenAI. Program ini menyediakan model AI yang lebih sulit menolak permintaan kerja keamanan defensif kepada pengguna yang telah ditinjau. Raad menyatakan bahwa akses ini meningkatkan kemampuan tim dalam menyelidiki serangan ini.
OpenCode bukanlah perusahaan pertama yang menghadapi masalah ini. Pada Juli, platform AI Hugging Face menyatakan bahwa model AI komersial menghalangi analisis log serangan yang dipicu oleh agen AI otonom; OpenAI kemudian mengungkapkan bahwa agen-agen tersebut sebenarnya adalah model milik mereka sendiri, yang hanya diuji dengan mengurangi batasan keamanan. Hugging Face menulis dalam artikel blognya dengan judul "Masalah Asimetris" bahwa mekanisme pertahanan "tidak dapat membedakan antara responder insiden dan penyerang."
Peneliti keamanan juga mengungkapkan keluhan serupa, menyatakan bahwa batasan-batasan ini tidak konsisten dan mendorong beberapa orang beralih ke model bobot open source asing, karena siapa pun dapat mengunduh dan menjalankan model-model tersebut.
Peristiwa akhir pekan ini juga mendapat tanggapan dari Co-Chairman of the U.S. President’s Council of Advisors on Science and Technology, David Sacks.
Dia menulis di X: "OpenCode (serta Hugging Face yang lebih awal) bertemu dinding yang sama saat serangan berlangsung setengah jalan: model mutakhir menolak menganalisis eksploitasi yang diperlukan untuk pertahanan, karena muatan memicu filter keamanan. Perlindungan justru berdampak sebaliknya."
Pelanggaran ini terjadi pada malam yang sama ketika OpenCode secara gratis membuka GLM-5.3-Flash kepada pengguna. Seri GLM-5.3 yang lebih luas menarik perhatian para peneliti yang mempelajari model bobot open-source, yang menunjukkan bahwa kemampuan keamanan siber seri ini telah mendekati tingkat yang sebelumnya biasanya dikaitkan dengan model akses terbatas, seperti Claude Mythos Preview dari Anthropic.
OpenCode belum menjelaskan secara rinci bagaimana penyerang masuk ke sistem lama, bagaimana kunci disimpan, atau seluruh cakupan penyalahgunaan. Perusahaan telah meminta pengguna yang terdampak untuk langsung mencabut dan mengganti kunci mereka dengan penyedia layanan masing-masing. Perusahaan menyatakan bahwa insiden ini masih berlangsung.
Serangan ini terjadi saat insiden siber yang didukung AI semakin meningkat. Awal bulan ini, perusahaan keamanan siber CrowdStrike menyatakan bahwa seorang peretas yang diduga berasal dari Tiongkok mungkin menggunakan agen pengujian penetrasi AI dan Claude dalam serangan terhadap bank-bank Korea. Pekan lalu, lembaga keamanan siber India memperingatkan bahwa sejumlah agen AI, termasuk beberapa agen yang diuji oleh perusahaan AI, telah masuk ke sistem organisasi India tanpa otorisasi.