Pada 27 Maret, Forum Inovasi dan Keamanan Agentic AI pertama serta Puncak Internasional Web 4.0 Hong Kong pertama, yang diselenggarakan secara bersama oleh Cyberport Hong Kong, ME Group, dan iPollo, diadakan dengan meriah di Cyberport Hong Kong. Puncak ini mengusung tema "Aplikasi Inovatif Agentic AI: Transformasi Teknologi dan Integrasi Industri di Era Web 4.0", yang menghadirkan kekuatan terkemuka dari berbagai sektor pemerintah, industri, akademik, dan penelitian, termasuk Secretary for Financial Services and the Treasury Hong Kong, Chan Man-po; Ketua Cyberport Hong Kong, Chan Sai-ming; Direktur Cyberport Hong Kong dan pendiri Nano Labs, Kong Jianping; serta investor malaikat terkenal Cai Wensheng, untuk membahas peluang dan tantangan di era baru di mana AI beralih dari "percakapan" menuju "tindakan".

Di tengah meningkatnya perhatian terhadap Artificial Intelligence Agentic (Agentic AI), isu keamanan yang ditimbulkannya menjadi sangat penting. Pendiri SlowMist, Yu Xian, diundang untuk berpartisipasi dalam puncak ini dan menyampaikan pidato utama berjudul “Tantangan Keamanan AI dan Inovasi Pertahanan di Dunia Kripto”, berbagi pengamatan dan praktik terbaru SlowMist di bidang keamanan AI dengan para pemimpin industri global.

Fokus pada Terkini: Analisis Mendalam Ancaman Keamanan OpenClaw dan AI Agent

Seiring dengan terus masuknya teknologi AI ke dunia kripto, aplikasi AI Agent seperti "OpenClaw" dengan cepat menjadi populer. Namun di balik gelombang popularitas ini, sebuah masalah yang lebih mendalam mulai muncul: batas keamanan AI Agent belum benar-benar dibangun.

Dalam pidatonya, Yu Cheng melakukan analisis mendalam terhadap OpenClaw dan mengemukakan penilaian kunci: "Teks adalah perintah." Ia menjelaskan bahwa dalam konteks operasi AI Agent, semua input tidak lagi hanya berupa "informasi," tetapi potensi perintah yang dapat dieksekusi. Ini berarti setiap informasi eksternal yang diterima model—terlepas dari sumbernya, apakah input pengguna, dokumentasi, atau Skill pihak ketiga—berpotensi diinterpretasikan dan dieksekusi langsung, sehingga memperluas permukaan serangan dari lapisan kode ke lapisan "kognitif."Dalam mekanisme ini, jalur serangan menjadi jauh lebih disederhanakan. Penyerang tidak perlu menembus pertahanan keamanan tradisional; cukup dengan merancang konten teks yang cermat, mereka dapat memicu Agent untuk menjalankan operasi yang tidak diharapkan, seperti pemindahan aset, kebocoran informasi sensitif, bahkan eksekusi perintah jarak jauh. Sifat tersembunyi dan biaya rendah dari jalur serangan ini menjadikannya ancaman nyata yang sangat tinggi.

Berdasarkan mekanisme di atas, Cosine lebih lanjut merangkum tiga kategori risiko utama yang dihadapi OpenClaw saat ini:

• Input and intent manipulation (user interaction layer): Attackers can trick agents into performing high-risk operations through "direct prompt injection." Particularly concerning is indirect supply chain poisoning—attackers embed malicious commands in the Markdown documentation of a Skill. Since Markdown often serves as the "installation entry point," original "instruction text" can easily evolve into malicious execution scripts (e.g., curl | bash), leading to data theft.
• Risiko lapisan keputusan dan orkestrasi (lapisan logika aplikasi): Kesalahan ini bukan berasal dari model itu sendiri, tetapi dari "logika eksekusi yang salah". Penyerang dapat mengganggu penalaran logika Agent, menyebabkannya mengubah alamat penerima dalam proses bisnis seperti transfer kripto, yang mengakibatkan kerugian dana langsung.
• Risiko lapisan model (otak inti): Termasuk “halusinasi” yang dihasilkan model yang menyebabkannya menjalankan perintah sistem yang tidak ada atau berbahaya, serta pola operasi tidak aman yang salah dipelajari dari data pelatihan.

Yuxian menunjukkan, "Masalah yang diungkap oleh OpenClaw bukanlah fenomena terisolasi, melainkan tantangan struktural yang dihadapi secara umum oleh ekosistem AI Agent saat ini." Dengan kata lain, masalah keamanan sudah bukan lagi "kasus" dari satu proyek tertentu, melainkan risiko sistemik yang harus diakui oleh seluruh industri.

Serang dan Bertahan: Membangun ekosistem open-source yang aman untuk AI Agent

Dalam pidatonya, Yu Xian mengusulkan pendekatan keamanan "serang dan pertahankan" dari SlowMist menghadapi bentuk ancaman yang terus berkembang: tidak hanya memahami jalur serangan, tetapi juga menanamkan kemampuan pertahanan ke dalam mekanisme operasi Agent, menciptakan keamanan yang terbangun.

Ia menunjukkan kepada para tamu undangan serangkaian alat dan solusi open source yang dibangun oleh SlowMist seputar AI Agent, bertujuan untuk mendorong terbentuknya ekosistem keamanan yang transparan, dapat diverifikasi, dan dapat digunakan kembali:

• OpenClaw Panduan Praktik Keamanan Minimalis: Sebuah panduan end-to-end untuk penerapan keamanan mulai dari tingkat kesadaran hingga tingkat infrastruktur, yang memberikan “cap pemikiran keamanan” sistematis untuk penerapan AI Agent dengan hak akses tinggi di lingkungan produksi nyata.
• SlowMist Agent Security Skill: Sebuah kerangka tinjauan keamanan komprehensif yang menambahkan "mata cerdas" pada agen seperti OpenClaw. Ini tidak hanya dapat mendeteksi risiko racun pada Skill biasa, tetapi juga mengenali risiko pada alamat dompet blockchain, repositori kode, dan URL.
• MistTrack Skills: Paket keterampilan Agent plug-and-play yang menyediakan kemampuan kepatuhan AML kripto profesional dan analisis risiko alamat untuk AI Agent, dapat digunakan untuk evaluasi risiko alamat on-chain dan penilaian risiko sebelum transaksi.
• MCP Security Checklist: Daftar periksa keamanan terstruktur untuk melakukan audit cepat dan memperkuat layanan Agent, membantu tim menghindari kelalaian titik pertahanan kunci saat menerapkan MCPs/Skills dan rantai alat AI terkait.
• Malicious MCP Demonstration: An open-source example of a malicious MCP server used to reproduce real attack scenarios and test the robustness of defense systems, suitable for security research and defense validation.

Melalui serangkaian praktik ini, Yu Cheng menekankan: "Kemampuan keamanan harus dibangun ke dalam Agent, bukan hanya bergantung pada perlindungan perimeter." Hanya dengan mengintegrasikan mekanisme pertahanan secara mendalam ke dalam logika operasional Agent, Agent AI dapat beroperasi secara berkelanjutan dan aman di dalam ekosistem Web3 dan AI yang kompleks.

Sistem keamanan terpadu: ADSS melindungi seluruh ekosistem AI + Web3

Di akhir pidato, Yu Sheng memperkenalkan ADSS (AI Development Security Solution) yang diajukan oleh SlowMist.

Jika alat-alat yang disebutkan sebelumnya termasuk dalam "kemampuan taktis", maka ADSS lebih seperti kerangka keamanan tingkat sistem. Konsep intinya adalah: meningkatkan tindakan keamanan yang terpisah menjadi mekanisme operasional keamanan terstruktur yang dapat dieksekusi, diaudit, dan berkelanjutan.

ADSS membangun kemampuan tata kelola keamanan AI + Web3 dari beberapa tingkatan:

• Tata kelola keamanan L1 (baseline pengembangan): Membangun standar keamanan terpadu untuk pengembangan dan penggunaan, mencakup alat pengembangan, kerangka kerja Agent, ekosistem plugin, dan lingkungan runtime, serta menyediakan sumber strategi dan standar audit yang seragam bagi tim.
• L2 otoritas dan batasan operasi: Dengan menyatukan batas otoritas Agent, meminimalkan hak akses alat, dan memperkenalkan mekanisme konfirmasi manusia- mesin untuk operasi kritis, jangkauan eksekusi perilaku berisiko tinggi secara efektif dikendalikan.
• L3 Perlindungan interaksi eksternal: Memperkenalkan kesadaran ancaman real-time pada tingkat sumber eksternal seperti URL, repositori dependensi, dan sumber plugin untuk mengurangi kemungkinan konten jahat atau poison rantai pasokan memasuki jalur eksekusi.
• Isolasi aset di rantai L4: Untuk operasi yang melibatkan transaksi di rantai, menggabungkan analisis risiko di rantai dengan mekanisme tanda tangan independen, memungkinkan Agent untuk menyusun transaksi tanpa mengakses kunci pribadi secara langsung, mengurangi risiko sistemik yang ditimbulkan oleh operasi aset bernilai tinggi.
• L5 Pemeriksaan dan Tinjauan Berkelanjutan: Melalui audit log, tinjauan keamanan berkala, dan mekanisme operasional, mencapai kemampuan keamanan siklus tertutup yang memungkinkan "pemeriksaan sebelum eksekusi, pembatasan selama eksekusi, dan tinjauan setelah eksekusi".

Yuxian menunjukkan bahwa ADSS bukanlah alat tunggal, melainkan sistem operasi keamanan yang berkelanjutan dan dapat berkembang. Sistem ini bertujuan untuk membantu tim membangun sistem keamanan Agent yang dapat diaudit dan dapat ditingkatkan, melalui strategi sistematis, audit berkelanjutan, dan sinergi kemampuan, tanpa secara signifikan mengurangi efisiensi pengembangan dan kemampuan otomatisasi, sehingga dapat menghadapi ancaman keamanan yang terus berkembang dalam konteks integrasi mendalam antara AI dan Web3.

Penutup

Forum Inovasi dan Keamanan Agentic AI pertama tidak hanya menghadirkan kekuatan terkemuka industri, tetapi juga memberikan wawasan proaktif mengenai keamanan AI Agent. Seiring semakin dalamnya integrasi Agentic AI dengan Web3, tantangan keamanan akan terus meningkat. Sebagai perusahaan keamanan blockchain terkemuka di dunia, SlowMist akan terus mendorong penerapan tata kelola keamanan sistematis melalui ADSS, alat open-source, dan praktik terbaik untuk membangun kemampuan keamanan bawaan pada AI Agent, mendukung industri mencapai perkembangan yang aman, terkendali, dan berkelanjutan dalam gelombang inovasi.