Dalam kerja sama ini, kedua belah pihak akan bersama-sama mengeksplorasi pembangunan sistem sertifikasi keamanan AI Agent, dengan secara bertahap menyempurnakan standar evaluasi dan mekanisme sertifikasi yang sesuai berdasarkan skenario penerapan, kemampuan keamanan, serta karakteristik risiko dari berbagai jenis Agent.

Penulis artikel, sumber: ME News



Latar belakang

Seiring dengan perkembangan AI Agent dari demo menuju skenario nyata, masalah keamanan Agent menjadi topik paling diperhatikan di seluruh industri. Dibandingkan produk Web3 tradisional, AI Agent memiliki kemampuan untuk memanggil alat, mengakses data, mengelola dompet, dan menjalankan transaksi; jika terjadi masalah keamanan, dampaknya akan lebih luas.

SlowMist Technologies, sebagai perusahaan keamanan blockchain terkemuka di dunia, secara konsisten fokus pada keamanan kontrak pintar, keamanan dompet, dan intelijen ancaman, serta terus memantau tantangan keamanan baru di era AI Agent.

AgentOn berkomitmen untuk membangun Pasar AI Agent terbuka, mendorong penciptaan, penemuan, dan penerapan AI Agent, serta menyediakan layanan ekosistem AI Agent bagi pengembang dan pengguna.

Dalam kerja sama strategis ini, kedua belah pihak akan menggabungkan pengalaman praktis SlowMist dalam pertahanan keamanan, deteksi risiko, dan penelitian ancaman dengan kemampuan aplikasi AgentOn dalam membangun ekosistem AI Agent, untuk bersama-sama mengeksplorasi infrastruktur keamanan yang sesuai untuk perkembangan AI Agent.

Konten kerja sama

Seiring dengan terus berkembangnya skenario penerapan AI Agent, permukaan serangannya telah berkembang dari risiko model tunggal hingga mencakup lapisan infrastruktur, lapisan protokol/alat, lapisan perilaku, dan lapisan model. Karena adanya hubungan interaktif antar lapisan yang berbeda, ancaman menyebar dan membesar di antara lapisan-lapisan tersebut.

Oleh karena itu, deteksi keamanan AI Agent perlu mencakup seluruh siklus hidup, mulai dari pengembangan, peluncuran, hingga tahap operasional, bukan hanya pada satu tahap saja.

Dalam kolaborasi ini, kedua belah pihak akan bersama-sama mengeksplorasi pembangunan kemampuan keamanan dalam siklus hidup AI Agent, mencakup deteksi sebelum peluncuran Agent, tata kelola risiko selama operasi, serta pemantauan keamanan berkelanjutan.

Slow Mist akan menggabungkan pengalaman mereka di bidang keamanan Web3, intelijen ancaman, dan deteksi risiko untuk melakukan analisis mendalam terhadap permukaan serangan inti AI Agent, serta membangun kemampuan identifikasi risiko yang ditujukan untuk skenario AI Agent berdasarkan OWASP Top 10 for Agentic Applications, dengan fokus utama pada risiko keamanan kunci seperti pembajakan tujuan Agent, penyalahgunaan dan eksploitasi alat, penyalahgunaan identitas dan izin, kerentanan rantai pasokan Agent, eksekusi kode yang tidak diharapkan, pencemaran memori dan konteks, komunikasi tidak aman antar Agent, kegagalan kaskade, eksploitasi kepercayaan Human-Agent, serta Agent jahat.

Sementara itu, SlowMist akan menyediakan kemampuan deteksi keamanan AI Agent dari enam dimensi—keamanan kredensial dan kunci, perlindungan terhadap Prompt Injection, perintah berbahaya dan eksekusi kode, perlindungan terhadap kebocoran data, keamanan izin dan rantai pasokan, serta audit dan observabilitas—dengan menggabungkan skenario serangan nyata dan pengalaman penelitian keamanan, membantu pengembang di ekosistem AgentOn mengidentifikasi risiko keamanan potensial dan mendorong integrasi kemampuan keamanan sepanjang proses pembuatan, peluncuran, dan operasi Agent.

Seiring dengan terus berkembangnya ekosistem AI Agent, membangun mekanisme evaluasi dan sertifikasi keamanan yang transparan dan dapat diandalkan akan menjadi fondasi penting untuk mendorong perkembangan industri yang sehat.

Dalam kerja sama ini, kedua belah pihak akan bersama-sama mengeksplorasi pembangunan sistem sertifikasi keamanan AI Agent, dengan secara bertahap menyempurnakan standar evaluasi dan mekanisme sertifikasi yang sesuai berdasarkan skenario penerapan, kemampuan keamanan, serta karakteristik risiko dari berbagai jenis Agent.

Melalui eksplorasi sistem sertifikasi keamanan, membantu pengembang menunjukkan kemampuan keamanan Agent mereka, sekaligus membantu pengguna lebih mudah mengidentifikasi Agent tepercaya yang memiliki kemampuan jaminan keamanan. Standar sertifikasi akan terus disempurnakan sesuai jenis Agent dan kebutuhan aplikasi nyata, bukan ditetapkan sekaligus dalam satu norma seragam.

Selain membangun kapasitas teknis, kedua belah pihak juga akan bekerja sama dalam promosi ekosistem keamanan AI Agent, pertukaran industri, dan pembangunan ekosistem pengembang, termasuk bersama-sama menghasilkan AI Agent Security Best Practice, menyelenggarakan kegiatan berbagi teknis dan pertukaran, serta berpartisipasi dalam konferensi industri dan kegiatan ekosistem pengembang.

Melalui berbagi praktik keamanan, pertukaran industri, dan kolaborasi ekosistem, kedua belah pihak akan bersama-sama mendorong perkembangan konsep keamanan AI Agent serta memperluas penerapan kemampuan keamanan di ekosistem AI Agent.

Tentang AgentOn

AgentOn adalah platform agen otomatis penghasil uang yang diinkubasi oleh ME Group, berkomitmen untuk membangun jaringan kolaborasi tugas yang melibatkan agen AI dan manusia, sehingga agen dapat bekerja mandiri, mengeksekusi tugas, dan mendapatkan hadiah nyata di blockchain.

Tentang SlowMist

Slow Mist Technology adalah perusahaan intelijen ancaman yang berfokus pada keamanan ekosistem blockchain, didirikan pada Januari 2018 oleh tim yang memiliki lebih dari sepuluh tahun pengalaman praktis di bidang keamanan siber. Anggota tim sebelumnya telah menciptakan insinyur keamanan dengan pengaruh global. Slow Mist Technology kini merupakan salah satu perusahaan keamanan blockchain terkemuka di tingkat internasional, yang secara utama menyediakan solusi keamanan “yang didorong oleh AI, terintegrasi dari deteksi ancaman hingga pertahanan ancaman, dan disesuaikan dengan kondisi setempat”, melayani banyak proyek terkemuka dan terkenal di seluruh dunia, dengan lebih dari seribu pelanggan komersial yang tersebar di selusin negara dan wilayah utama.