Washington, 28 Oktober 2026 /PRNewswire/ -- Platform keamanan untuk tenaga kerja agen, Evoke Security, hari ini meluncurkan penilaian pertama di industri yang dirancang untuk mengidentifikasi penyalahgunaan agen dan agen yang tidak terkendali di platform AI dan rantai alat pemrograman utama. Penilaian ini, yang disebut "Rogue Agent Assessment," membantu organisasi memahami bagaimana karyawan menggunakan agen, kapan agen disalahgunakan, dan kapan agen melanggar instruksi yang jelas.
Seiring dengan integrasi penggunaan agen ke dalam alur kerja sehari-hari karyawan, tim keamanan menghadapi tantangan yang belum diatasi oleh alat keamanan yang ada. Agen dapat melakukan tindakan yang mengekspos data sensitif, memperluas hak akses, atau menciptakan risiko yang tidak perlu, meskipun menyelesaikan tugas yang ditugaskan. Saat ini, hanya mengetahui apakah agen mengikuti instruksi sudah tidak cukup untuk menilai apakah operasinya aman.
Jason Rebholz, Co-founder dan CEO Evoke Security, mengatakan: "Setiap organisasi yang bekerja sama dengan kami menghadapi dua jenis risiko yang sama: penyalahgunaan agen oleh karyawan dan agen yang kehilangan kendali. Agen sedang melewati kontrol keamanan dan melakukan tindakan yang tidak akan pernah disetujui oleh tim keamanan mana pun. Tindakan agen tunggal mungkin tampak aman, tetapi rangkaian tindakan agen lah yang mengungkapkan cerita lengkapnya. Inilah mengapa Evoke memantau seluruh jejak agen, mengidentifikasi saat mereka bergerak menuju jalur berisiko tinggi, dan mengarahkan mereka kembali ke jalur aman atau langsung menghentikannya sebelum kerusakan terjadi."
Evoke menyatakan bahwa perbedaan dari solusi penilaian pertama di industri ini terletak pada fokusnya pada pemantauan perilaku runtime saat ini dan historis agen, bukan hanya konfigurasi yang salah. Berdasarkan pengalaman tim pendiri di bidang respons insiden dan Chief Information Security Officer (CISO), Evoke mengembangkan kerangka kerja untuk mengidentifikasi agen yang tidak terkendali dari empat dimensi.
- Mission: Does this action align with the agent's original objective?
- Metode: Apakah tindakan ini masuk akal untuk tugas tersebut?
- Motive: Perilaku ini menyiratkan niat apa?
- Cakupan (Magnitude): Tindakan ini memperluas jangkauan risiko potensial sejauh apa?
Perusahaan menyatakan bahwa ini merupakan salah satu lapisan dalam metode deteksi mendalam Evoke, yang membantu tim keamanan membedakan antara agen yang berjalan sesuai harapan dengan agen yang memperkenalkan risiko signifikan. Kerangka ini tidak menganggap setiap tindakan anomali sebagai ancaman, tetapi membantu menentukan apakah agen harus terus berjalan, dialihkan ke jalur yang lebih aman, atau dihentikan.
Evoke menyatakan bahwa perusahaan secara aktif bekerja sama dengan perusahaan AI asli untuk memantau dan mengendalikan perilaku agen AI. Hasil evaluasi menunjukkan bahwa agen juga dapat memperkenalkan risiko baru saat menjalankan tugas yang sah, yang semakin menegaskan pentingnya pemantauan real-time dan pengarahan perilaku agen. Dalam satu evaluasi, Evoke menemukan bahwa agen pemrograman yang menjalankan tinjauan keamanan melarikan diri dari sandbox-nya sendiri, lalu berbohong kepada pengguna.
"Assessment of Uncontrolled Agents" memberikan organisasi cara terstruktur untuk mengevaluasi postur keamanan agennya dari tiga bidang kunci.
- Penyalahgunaan proxy: Mengidentifikasi situasi di mana proxy digunakan untuk melewati kontrol keamanan yang ada atau melanggar kebijakan penggunaan.
- Uncontrolled Agent: Mengidentifikasi situasi di mana agen berhenti mengikuti instruksi atau mengambil jalur berisiko tinggi yang tidak perlu.
- Shadow AI: Menemukan produk AI, MCP, atau Keterampilan Agent yang digunakan tanpa izin di lingkungan Anda.
Perusahaan menyatakan bahwa dengan menggabungkan kemampuan-kemampuan ini, Evoke menyediakan penilaian yang secara khusus dibangun untuk menangani tantangan keamanan agen otonom. Tim keamanan akan memiliki pemahaman yang lebih jelas tentang agen-agen apa yang ada, bagaimana cara kerjanya, di mana risiko muncul, dan tindakan apa yang perlu diambil.
Evoke menyatakan bahwa "Assessment of Uncontrolled Agents" kini tersedia bagi organisasi yang ingin lebih memahami paparan agen AI mereka dan membangun batasan keamanan yang efektif tanpa secara berlebihan membatasi pekerjaan.
Tentang Evoke Security
Evoke Security adalah platform deteksi dan respons AI yang dirancang khusus untuk melindungi agen AI. Didirikan oleh para ahli di bidang respons insiden, platform ini membantu tim keamanan untuk secara terus-menerus menginventarisasi, membangun model ancaman, dan memantau agen AI. Evoke memandang agen sebagai sistem operasi generasi berikutnya perusahaan, dengan menerapkan kontrol ketat melalui identifikasi konfigurasi berisiko tinggi serta analisis perilaku dan tindakan secara real-time, memastikan perusahaan dapat mendorong inovasi tanpa menumpuk utang keamanan.


