Dalam kerjasama ini, kedua belah pihak akan bersama-sama menjelajahi pembinaan sistem sijil keselamatan AI Agent, dengan memperbaiki secara berperingkat standard penilaian dan mekanisme sijil yang sesuai berdasarkan aplikasi, kemampuan keselamatan, dan ciri risiko jenis Agent yang berbeza.

Penulis artikel, sumber: ME News



Latar belakang

Seiring dengan perkembangan AI Agent dari demo ke skenario sebenar, isu keselamatan Agent menjadi topik yang paling diperhatikan oleh seluruh industri. Berbeza dengan produk Web3 tradisional, AI Agent mempunyai kemampuan untuk memanggil alat, mengakses data, mengurus dompet, dan melaksanakan transaksi; sekiranya berlaku masalah keselamatan, kesan yang ditimbulkan akan lebih luas.

SlowMist Technologies, sebagai syarikat keselamatan blockchain terkemuka di seluruh dunia, telah lama fokus pada keselamatan kontrak pintar, keselamatan dompet, dan maklumat ancaman, serta terus memperhatikan cabaran keselamatan baharu di era AI Agent.

AgentOn berkomitmen untuk membina Pasar AI Agent terbuka, mendorong penciptaan, penemuan, dan penggunaan AI Agent, serta menyediakan perkhidmatan ekosistem AI Agent kepada pembangun dan pengguna.

Dalam kerjasama strategik ini, kedua-dua pihak akan menggabungkan pengalaman praktikal Slow Mist dalam serangan dan pertahanan keselamatan, pengesanan risiko, dan penyelidikan ancaman, dengan kemampuan aplikasi AgentOn dalam pembinaan ekosistem AI Agent, untuk bersama-sama mengkaji infrastruktur keselamatan yang sesuai untuk perkembangan AI Agent.

Kandungan kerjasama

Seiring dengan perluasan skenario penggunaan AI Agent, permukaan serangan telah berkembang dari risiko model tunggal kepada lapisan infrastruktur, lapisan protokol/alat, lapisan perilaku, dan lapisan model. Disebabkan hubungan interaktif antara pelbagai lapisan, ancaman merebak dan diperbesar di antara lapisan-lapisan tersebut.

Oleh itu, pemeriksaan keselamatan Agen AI perlu merangkumi keseluruhan siklus hidup, mulai daripada pembangunan, penyebaran hingga peringkat pengoperasian, bukan sekadar terhad kepada satu peringkat sahaja.

Dalam kerjasama ini, kedua belah pihak akan bersama-sama menjelajahi pembinaan kemampuan keselamatan dalam siklus hidup AI Agent, merangkumi pemeriksaan sebelum pelancaran Agent, pengurusan risiko semasa beroperasi, dan pemantauan keselamatan berterusan.

Slow Mist akan menggabungkan pengalaman mereka dalam keselamatan Web3, intelijen ancaman, dan pengesanan risiko untuk menganalisis permukaan serangan utama AI Agent, serta membina kemampuan pengenalan risiko berdasarkan OWASP Top 10 for Agentic Applications, dengan fokus utama pada risiko keselamatan kunci seperti perompakan sasaran Agent, penyalahgunaan dan pemanfaatan alat, penyalahgunaan identiti dan kebenaran, kerentanan rantai bekalan Agent, eksekusi kod yang tidak dijangka, pencemaran ingatan dan konteks, komunikasi antara Agent yang tidak selamat, kegagalan berantai, pemanfaatan kepercayaan Human-Agent, serta Agent jahat.

Sementara itu, SlowMist akan menggabungkan skenario serangan sebenar dan pengalaman penyelidikan keselamatan untuk menyediakan kemampuan pengesanan keselamatan AI Agent dari enam dimensi: keselamatan kredensial dan kunci, perlindungan terhadap Prompt Injection, perintah berbahaya dan eksekusi kod, perlindungan terhadap kebocoran data, keselamatan keizinan dan rantai bekalan, serta audit dan keterlihatan, membantu pembangun dalam ekosistem AgentOn mengenal pasti risiko keselamatan berpotensi dan mendorong integrasi kemampuan keselamatan ke dalam seluruh proses penciptaan, penerbitan, dan pelaksanaan Agent.

Seiring dengan perkembangan ekosistem AI Agent, membina mekanisme penilaian dan sijil keselamatan yang telus dan boleh dipercayai akan menjadi asas penting untuk mendorong perkembangan industri yang sihat.

Dalam kerjasama ini, kedua belah pihak akan bersama-sama menjelajahi pembinaan sistem sijil keselamatan AI Agent, dengan memperbaiki secara berperingkat standard penilaian dan mekanisme sijil yang sesuai berdasarkan aplikasi, kemampuan keselamatan, dan ciri risiko jenis Agent yang berbeza.

Melalui pengujian sistem sijil keselamatan, membantu pembangun menunjukkan kemampuan keselamatan Agent mereka, serta membantu pengguna mengenal pasti Agent tepercaya yang memiliki kemampuan keselamatan dengan lebih mudah. Piawaian sijil akan terus disempurnakan mengikut jenis Agent dan keperluan aplikasi sebenar, bukan ditetapkan sebagai satu piawaian seragam sekali sahaja.

Selain pembinaan kemampuan teknikal, kedua belah pihak juga akan bekerjasama dalam promosi ekosistem keselamatan AI Agent, pertukaran industri, dan pembinaan ekosistem pembangun, termasuk menghasilkan Best Practice Keselamatan AI Agent secara bersama, mengadakan aktiviti perkongsian dan pertukaran teknikal, serta menyertai persidangan industri dan aktiviti ekosistem pembangun.

Melalui perkongsian amalan keselamatan, pertukaran industri, dan kerjasama ekosistem, kedua-dua belah akan bersama-sama mendorong perkembangan konsep keselamatan AI Agent serta mempromosikan pelaksanaan kemampuan keselamatan dalam ekosistem AI Agent.

Tentang AgentOn

AgentOn ialah platform agen automatik untuk menghasilkan wang yang diinkubasi oleh ME Group, yang berkomitmen untuk membina rangkaian kerjasama tugas yang melibatkan agen AI dan manusia, membolehkan agen bekerja secara bebas, melaksanakan tugas, dan mendapat ganjaran langsung di atas rantai.

Tentang SlowMist

Manshu Technology adalah syarikat inteligensian ancaman yang fokus pada keselamatan ekosistem blockchain, ditubuhkan pada Januari 2018 oleh pasukan yang memiliki lebih dari sepuluh tahun pengalaman praktikal dalam serangan dan pertahanan keselamatan siber. Ahli pasukan sebelum ini telah mencipta rekabentuk keselamatan yang berpengaruh secara global. Manshu Technology kini merupakan salah satu syarikat keselamatan blockchain terkemuka secara antarabangsa, yang secara utama menyediakan penyelesaian keselamatan “yang didorong oleh AI, terintegrasi dari penemuan ancaman hingga pertahanan ancaman, dan disesuaikan dengan konteks tempatan”, melayani ratusan projek terkemuka dan terkenal di seluruh dunia, dengan lebih daripada seribu pelanggan komersial yang tersebar di lebih dari sepuluh negara dan wilayah utama.