Evoke Security Meluncurkan 'Penilaian Agen Ilegal' Pertama untuk Mengidentifikasi Perilaku Agen AI Berisiko Tinggi

icon币界网
Bagikan
AI summary iconRingkasan
Evoke Security telah memperkenalkan 'Penilaian Agen Ilegal' pertama untuk mendeteksi penyalahgunaan agen AI di lingkungan keamanan berbasis perusahaan. Kerangka kerja ini mengevaluasi perilaku agen dalam empat dimensi: Misi, Metode, Motif, dan Magnitudo. Sistem ini memantau tindakan saat ini maupun historis, bukan hanya kesalahan konfigurasi. Perusahaan menekankan perlunya panduan real-time karena agen dapat menciptakan risiko bahkan selama tugas yang sah. Organisasi kini dapat mengakses penilaian ini untuk lebih mengelola paparan AI dan menetapkan batasan yang aman tanpa mengganggu alur kerja. Alat ini mendukung inisiatif keamanan blockchain dengan membantu perusahaan mengidentifikasi dan mengurangi perilaku berisiko tinggi.
Berita CoinWorld:

Washington, 28 Oktober 2026 /PRNewswire/ -- Platform keamanan untuk tenaga kerja agen, Evoke Security, hari ini meluncurkan penilaian pertama di industri yang dirancang untuk mengidentifikasi penyalahgunaan agen dan agen yang tidak terkendali di platform AI dan rantai alat pemrograman utama. Penilaian ini, yang disebut "Rogue Agent Assessment," membantu organisasi memahami bagaimana karyawan menggunakan agen, kapan agen disalahgunakan, dan kapan agen melanggar instruksi yang jelas.

Seiring dengan integrasi penggunaan agen ke dalam alur kerja sehari-hari karyawan, tim keamanan menghadapi tantangan yang belum diatasi oleh alat keamanan yang ada. Agen dapat melakukan tindakan yang mengekspos data sensitif, memperluas hak akses, atau menciptakan risiko yang tidak perlu, meskipun menyelesaikan tugas yang ditugaskan. Saat ini, hanya mengetahui apakah agen mengikuti instruksi sudah tidak cukup untuk menilai apakah operasinya aman.

Jason Rebholz, Co-founder dan CEO Evoke Security, mengatakan: "Setiap organisasi yang bekerja sama dengan kami menghadapi dua jenis risiko yang sama: penyalahgunaan agen oleh karyawan dan agen yang kehilangan kendali. Agen sedang melewati kontrol keamanan dan melakukan tindakan yang tidak akan pernah disetujui oleh tim keamanan mana pun. Tindakan agen tunggal mungkin tampak aman, tetapi rangkaian tindakan agen lah yang mengungkapkan cerita lengkapnya. Inilah mengapa Evoke memantau seluruh jejak agen, mengidentifikasi saat mereka bergerak menuju jalur berisiko tinggi, dan mengarahkan mereka kembali ke jalur aman atau langsung menghentikannya sebelum kerusakan terjadi."

Evoke menyatakan bahwa perbedaan dari solusi penilaian pertama di industri ini terletak pada fokusnya pada pemantauan perilaku runtime saat ini dan historis agen, bukan hanya konfigurasi yang salah. Berdasarkan pengalaman tim pendiri di bidang respons insiden dan Chief Information Security Officer (CISO), Evoke mengembangkan kerangka kerja untuk mengidentifikasi agen yang tidak terkendali dari empat dimensi.

  • Mission: Does this action align with the agent's original objective?
  • Metode: Apakah tindakan ini masuk akal untuk tugas tersebut?
  • Motive: Perilaku ini menyiratkan niat apa?
  • Cakupan (Magnitude): Tindakan ini memperluas jangkauan risiko potensial sejauh apa?

Perusahaan menyatakan bahwa ini merupakan salah satu lapisan dalam metode deteksi mendalam Evoke, yang membantu tim keamanan membedakan antara agen yang berjalan sesuai harapan dengan agen yang memperkenalkan risiko signifikan. Kerangka ini tidak menganggap setiap tindakan anomali sebagai ancaman, tetapi membantu menentukan apakah agen harus terus berjalan, dialihkan ke jalur yang lebih aman, atau dihentikan.

Evoke menyatakan bahwa perusahaan secara aktif bekerja sama dengan perusahaan AI asli untuk memantau dan mengendalikan perilaku agen AI. Hasil evaluasi menunjukkan bahwa agen juga dapat memperkenalkan risiko baru saat menjalankan tugas yang sah, yang semakin menegaskan pentingnya pemantauan real-time dan pengarahan perilaku agen. Dalam satu evaluasi, Evoke menemukan bahwa agen pemrograman yang menjalankan tinjauan keamanan melarikan diri dari sandbox-nya sendiri, lalu berbohong kepada pengguna.

"Assessment of Uncontrolled Agents" memberikan organisasi cara terstruktur untuk mengevaluasi postur keamanan agennya dari tiga bidang kunci.

  • Penyalahgunaan proxy: Mengidentifikasi situasi di mana proxy digunakan untuk melewati kontrol keamanan yang ada atau melanggar kebijakan penggunaan.
  • Uncontrolled Agent: Mengidentifikasi situasi di mana agen berhenti mengikuti instruksi atau mengambil jalur berisiko tinggi yang tidak perlu.
  • Shadow AI: Menemukan produk AI, MCP, atau Keterampilan Agent yang digunakan tanpa izin di lingkungan Anda.

Perusahaan menyatakan bahwa dengan menggabungkan kemampuan-kemampuan ini, Evoke menyediakan penilaian yang secara khusus dibangun untuk menangani tantangan keamanan agen otonom. Tim keamanan akan memiliki pemahaman yang lebih jelas tentang agen-agen apa yang ada, bagaimana cara kerjanya, di mana risiko muncul, dan tindakan apa yang perlu diambil.

Evoke menyatakan bahwa "Assessment of Uncontrolled Agents" kini tersedia bagi organisasi yang ingin lebih memahami paparan agen AI mereka dan membangun batasan keamanan yang efektif tanpa secara berlebihan membatasi pekerjaan.

Tentang Evoke Security

Evoke Security adalah platform deteksi dan respons AI yang dirancang khusus untuk melindungi agen AI. Didirikan oleh para ahli di bidang respons insiden, platform ini membantu tim keamanan untuk secara terus-menerus menginventarisasi, membangun model ancaman, dan memantau agen AI. Evoke memandang agen sebagai sistem operasi generasi berikutnya perusahaan, dengan menerapkan kontrol ketat melalui identifikasi konfigurasi berisiko tinggi serta analisis perilaku dan tindakan secara real-time, memastikan perusahaan dapat mendorong inovasi tanpa menumpuk utang keamanan.

Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.