AI Menemukan Hampir 5,000 Kelemahan Bitcoin dalam 27.5 Jam

Ditulis oleh Xiao Bing

16 orang, 27.5 jam, 4962 isu keselamatan, 85 lubang keamanan serius, 635 lubang keamanan berisiko tinggi.

Nombor-nombor ini datang daripada organisasi sukarelawan bernama Bitcoin Red Team. Dalam dua hari terakhir, mereka menjalankan audit keselamatan menyeluruh terhadap 390 projek sumber terbuka bitcoin menggunakan model AI, dengan purata 166 penemuan diserahkan setiap jam, dan setiap orang mengunci satu kelemahan tahap serius setiap jam.

Pendiri protokol Cashu, Calle, mengumumkan laporan pertama di X, dengan empat kata pertama merangkum situasi: "Kesituaan sangat buruk."

Tetapi yang benar-benar mengganggu bukan nombor itu sendiri.

Pengauditan ini bukanlah inisiatif yang timbul tanpa sebab.

Seminggu yang lalu, ekosistem Bitcoin mengalami insiden keselamatan peranti keras terbesar dalam sejarahnya. Wallet Coldcard mengalami kelemahan dalam penghasil nombor rawak semasa kemas kini firmware tahun 2021, menyebabkan kunci peribadi boleh dihitung secara luar talian. Penyerang merompak lebih daripada 5,200 alamat dalam empat gelombang bermula pada 30 Julai, dengan data penjejakan dari Galaxy Research menunjukkan kerugian sebanyak kira-kira 1,816 BTC, atau lebih daripada US$116 juta mengikut harga pada masa itu.

Bug ini berbaring tenang dalam kod awam selama lima tahun, sesiapa sahaja boleh mengaudit, hampir tiada siapa yang memeriksa secara sistematik.

Peristiwa Coldcard adalah pemicunya. Calle dan CEO AnchorWatch, Rob Hamilton, dengan cepat membentuk Red Team, mendapatkan dana dari OpenSats, dan menghabiskan lebih dari US$40,000 untuk kekuatan komputasi AI. Model yang mereka gunakan termasuk Kimi K3 dari Moonshot, GPT Sol dari OpenAI, Fable dan Opus dari Anthropic, serta GLM5.2 dari Zhipu.

Pada peringkat awal projek, akses kepada model OpenAI dan Anthropic terhad, dan pasukan terutamanya bergantung kepada model sumber terbuka China. Butiran ini sendiri cukup menarik: para relawan yang memegang AI sumber terbuka China sedang berjuang sepanjang malam untuk melindungi infrastruktur aset kripto terbesar di dunia.

Data puzzle 27.5 jam kemudian: Dari 4,962 soalan, 14.5% berada dalam kategori berisiko tinggi atau serius, dengan purata 1.85 masalah serius setiap projek. Temuan serius paling tinggi datang dari privasi dan alat CoinJoin, pada 24%; diikuti oleh pertukaran dan protokol pertukaran, pada 21%. Pustaka dan SDK kriptografi menghasilkan jumlah temuan asal paling banyak (1,101), tetapi peratusan seriusnya hanya 10%. 91% temuan diserahkan melalui pemindaian automatik, dan 21% telah diperakui semula dalam persekitaran tempatan dengan kod bukti konsep.

Dari 17 penyumbang, 14 adalah manusia dan 3 adalah sistem automatik.

Rob Hamilton menulis satu pernyataan di X yang lebih penting daripada semua nombor: "Bahagian yang paling sukar bukanlah mencari Bug, tetapi menghantarnya kepada orang yang tepat."

Dalam dunia penyelidikan keselamatan tradisional, "penemuan" adalah peringkat paling mahal. Seorang penyelidik keselamatan terkemuka mungkin menghabiskan beberapa minggu untuk menganalisis songsang kod untuk mencari lubang kelemahan yang boleh dimanfaatkan. AI mengurangkan kos ini hampir kepada sifar. 16 orang yang bekerjasama dengan model AI menghasilkan jumlah kerja yang setara dengan beberapa bulan kerja sebuah syarikat audit.

Masalah muncul selepas penemuan tersebut. Sehingga laporan dikeluarkan, hanya 19 daripada 390 projek yang diaudit (kurang daripada 5%) telah menyelesaikan pengungkapan hulu. Calle meminta maaf kepada pemelihara dalam tweetnya, mengatakan bahawa mereka memahami bahawa gelombang laporan telah meningkatkan tekanan mereka, dan pasukan masih belajar bagaimana menyaring bunyi bising. 8 penemuan telah ditarik balik sebagai laporan palsu.

Ini adalah perubahan struktural: AI telah menjadikan "mencari bug" sebagai tindakan yang hampir percuma, menyebabkan bottleneck dalam saluran keselamatan berpindah secara drastik dari peringkat hulu iaitu penemuan, ke peringkat pertengahan dan hulu: pengesahan, pengelasan, penghantaran kepada pemelihara yang betul, pembaikan, pengujian, dan pelaksanaan pampasan. Peringkat-peringkat ini masih sangat bergantung kepada manusia, masih perlahan, dan masih kacau.

Dan inilah kelebihan struktural penyerang.

Pembela perlu melalui satu rantai penuh: mengesan lubang keamanan → mengesahkan → mengumumkan secara bertanggungjawab → menunggu pengurus mengesahkan → membaiki → menghantar pampasan → pengguna mengemas kini. Setiap langkah mempunyai geseran dan penundaan.

Penyerang hanya perlu: menemukan kelemahan → memanfaatkannya.

AI menjadikan titik permulaan rantai itu murah bagi kedua-dua belah. Namun, ketidaksamaan pada langkah-langkah seterusnya bermakna perlumbaan senjata ini secara semula jadi menguntungkan pihak serang. Kes Coldcard merupakan bukti nyata: sebuah Bug pada 2021 yang disimpan secara terbuka dalam repositori kod selama lima tahun, pihak pertahanan tidak melakukan pemeriksaan sistemik, manakala penyerang menggunakan AI untuk mencari ruang kunci yang boleh diramalkan, dan dalam 41 minit mengambil 1083 BTC.

Tanda yang lebih besar telah muncul. Pada bulan April tahun ini, Anthropic memperkenalkan Claude Mythos Preview, sebuah model AI yang ditolak untuk dirilis secara terbuka kerana risiko keselamatan yang terlalu tinggi. Menurut penerangan Anthropic, Mythos mampu mengesan satu kelemahan tunggal dengan kos pengiraan kurang daripada 50 dolar AS, dan pasukan itu menggunakannya untuk secara swakelola mengesan satu kecacatan dalam sistem operasi OpenBSD yang telah wujud selama 27 tahun. OpenBSD adalah salah satu sistem operasi paling selamat di dunia, banyak digunakan untuk menjalankan firewall dan infrastruktur penting. Oleh itu, Anthropic melancarkan rancangan Project Glasswing, bekerjasama dengan sekitar 40 institusi termasuk AWS, Apple, Microsoft, dan Google, untuk memperbaiki kelemahan tersebut sebelum penyerang dapat memanfaatkannya.

Pada Mei, pasukan intelijen ancaman Google mengumumkan pencapaian penting lain: mereka berjaya menghalang satu kumpulan jenayah yang menggunakan model AI untuk mengesan kelemahan zero-day dan menulis kod eksploit. Kelemahan tersebut adalah pengelakan pengesahan dua faktor yang tertanam dalam alat pengurusan sumber terbuka yang banyak digunakan. Google mengenal pasti sumber serangan melalui ciri-ciri AI dalam kod (skor CVSS fiktif, komen Python yang klasik), dan bekerjasama dengan pembekal untuk membaiki kelemahan tersebut sebelum kumpulan jenayah itu memulakan eksploitasi berskala besar.

Perkataan John Hultquist, Ketua Analis Intelejen Ancaman Google, tidak meninggalkan ruang untuk keraguan: "Pandangan bahawa perlumbaan senjata kelemahan AI akan segera berlaku adalah salah tafsir. Realitinya, perlumbaan ini sudah bermula."

Ledger CTO Charles Guillemet mengatakan satu perkataan yang banyak dikutip semasa menilai insiden Coldcard: "Sumber terbuka dan telah diperiksa adalah dua perkara yang berbeza."

Perkataan ini menembus gelembung pemahaman yang telah lama ada dalam industri kripto. Komuniti Bitcoin memiliki kepercayaan hampir bersifat keagamaan terhadap sumber terbuka, bahawa kod yang terbuka bermakna sesiapa sahaja boleh memeriksa, dengan itu secara semula jadi selamat. Kod Coldcard memang telah dipaparkan selama lima tahun. Audit Red Team merangkumi 390 projek. Apabila dua fakta ini diletakkan bersama, gambarannya jelas: boleh diaudit tidak sama dengan telah diaudit.

Pengalaman Red Team juga mengungkapkan kelemahan dalam audit keselamatan AI. Calle mengatakan, sebahagian besar kerja pasukan masih melibatkan "panduan manual terhadap AI", di mana setiap orang menggunakan pendekatan pilihan mereka sendiri untuk memberi arahan kepada model, menghasilkan cakupan yang lebih luas berbanding kaedah seragam. Ini menunjukkan bahawa audit keselamatan AI semasa ini lebih mirip "pakar manusia mengendalikan alat AI" berbanding "AI yang berpatroli secara bebas". Model mampu memindai corak kod dengan pantas, tetapi menilai sama ada penemuan tersebut benar-benar boleh dimanfaatkan, sejauh mana kesannya, dan siapa yang perlu diberitahu, masih memerlukan pengalaman dan pertimbangan manusia.

Hamilton mengatakan bahawa pasukan merancang untuk membuka sumber kerangka audit, membolehkan syarikat-syarikat Bitcoin menjalankan pemeriksaan yang sama terhadap kod tertutup mereka. Ini adalah arah yang betul, tetapi juga bermakna alat yang sama pasti akan jatuh ke tangan penyerang.

Audit ini benar-benar mengungkapkan satu persamaan baru yang sedang terbentuk:

AI menjadikan kos penemuan lubang keamanan hampir sifar. Namun, kos pembaikan lubang keamanan (koordinasi organisasi, tenaga manusia, pemindahan pengguna) masih mahal dan perlahan.

Kekuatan AI senilai US$40,000, dalam 27.5 jam, mampu membalikkan seluruh ekosistem sumber terbuka yang mengurus aset bernilai berbilion dolar. Bug Coldcard yang tidak diperhatikan selama lima tahun ditemukan oleh penyerang, dan dalam 41 minit, sebanyak US$116 juta dicuri.

Narratif keselamatan bitcoin sedang ditulis semula.

Logik lama: "Kod adalah sumber terbuka, jadi ia selamat." Logik baru lebih kejam: "Kod adalah sumber terbuka, jadi penyerang juga menggunakan AI untuk memindainya."

Kelebihan tunggal pihak pertahanan ialah inisiatif awal, iaitu menemui dan membaiki kelemahan sebelum pihak serang. Red Team sedang bertanding untuk mendapatkan inisiatif awal ini, tetapi laporan pertempuran mereka juga menunjukkan bahawa walaupun inisiatif awal telah diperoleh, saluran penghantaran pampasan seterusnya masih merupakan titik lemah paling besar dalam ekosistem.

Masalah yang dihadapi Bitcoin mungkin hanyalah latihan awal bagi perubahan yang lebih besar. Seluruh dunia perisian sumber terbuka akan segera menghadapi soalan yang sama: apabila penemuan Bug tidak lagi memerlukan pakar, tetapi pembaikan Bug masih memerlukannya, kesenjangan ini harus diisi dengan apa?