Evoke Security Melancarkan 'Penilaian Agen Ilegal' Pertama untuk Mengenal Pasti Perilaku Agen AI Berisiko Tinggi

icon币界网
Kongsi
AI summary iconRingkasan
Evoke Security telah memperkenalkan 'Penilaian Agen Ilegal' pertama untuk mengesan penyalahgunaan agen AI dalam persekitaran keselamatan peringkat perniagaan. Kerangka kerja ini menilai tingkah laku agen melalui empat dimensi: Misi, Kaedah, Motif, dan Magnitud. Ia memantau tindakan semasa dan sejarah, bukan hanya salah konfigurasi. Syarikat ini menekankan keperluan panduan masa nyata kerana agen boleh mencipta risiko walaupun semasa tugas sah. Organisasi kini boleh mengakses penilaian ini untuk mengurus eksposur AI dan menetapkan sempadan selamat tanpa mengganggu aliran kerja. Alat ini menyokong inisiatif keselamatan blok rantai dengan membantu syarikat mengenal pasti dan mengurangkan tingkah laku berisiko tinggi.
Laman web dunia kripto melaporkan:

Washington, 28 Oktober 2026 /PRNewswire/ -- Platform keselamatan untuk tenaga kerja agen, Evoke Security, hari ini melancarkan penilaian pertama di industri untuk mengenal pasti penyalahgunaan agen dan agen yang tidak terkawal di platform AI dan rantai alat pengkodean utama. Penilaian ini, bernama "Rogue Agent Assessment", membantu organisasi memahami bagaimana pekerja menggunakan agen, bilakah agen disalahgunakan, dan bilakah agen melanggar arahan yang jelas.

Semasa pekerja mengintegrasikan penggunaan agen ke dalam proses kerja harian, pasukan keselamatan sedang menghadapi cabaran yang belum diselesaikan oleh alat keselamatan semasa. Agen mungkin mengambil tindakan yang mendedahkan data sensitif, memperluaskan kuasa akses, atau mencipta risiko yang tidak perlu sambil menyelesaikan tugas yang diberikan. Kini, hanya mengetahui sama ada agen mengikuti arahan sudah tidak mencukupi untuk menilai sama ada ia beroperasi dengan selamat.

Jason Rebholz, peserta asas dan CEO Evoke Security, berkata: “Setiap organisasi yang bekerjasama dengan kami menghadapi dua jenis risiko yang sama: penyalahgunaan agen oleh pekerja, dan agen yang keluar dari kawalan. Agen sedang membebaskan diri daripada kawalan keselamatan dan melakukan tindakan yang tidak pernah diluluskan oleh sebarang pasukan keselamatan. Tindakan agen tunggal mungkin kelihatan selamat, tetapi rangkaian tindakan agen itulah yang menceritakan kisah penuh. Inilah sebabnya Evoke memantau keseluruhan trajektori agen, mengenal pasti apabila ia bergerak ke arah laluan berisiko tinggi, dan mengalihkannya kembali ke laluan selamat atau menghentikannya sebelum kerosakan berlaku.”

Evoke menyatakan bahawa perbezaan dalam penilaian pertama di industri ini terletak pada fokusnya terhadap pemantauan tingkah laku semasa dan sejarah agen, bukan hanya konfigurasi yang salah. Berdasarkan pengalaman pasukan pendirinya dalam respons insiden dan Chief Information Security Officer (CISO), Evoke mengembangkan satu kerangka kerja untuk mengenal pasti agen yang tidak terkawal dari empat dimensi.

  • Misi: Tindakan ini selari dengan matlamat asal agen?
  • Kaedah (Method): Tindakan ini munasabah untuk tugas tersebut?
  • Motive: Perilaku ini mengimplikasikan niat apa?
  • Jangkauan kesan (Magnitude): Tindakan ini memperluas radius risiko berpotensi dengan cara apa?

Syarikat menyatakan bahawa ini merupakan satu lapisan dalam kaedah pengesanan mendalam Evoke, yang membantu pasukan keselamatan membezakan antara agen yang berfungsi seperti yang dijangkakan dengan agen yang membawa risiko yang signifikan. Kerangka ini tidak menganggap setiap tindakan aneh sebagai ancaman, tetapi membantu menentukan sama ada agen harus terus berjalan, diarahkan ke laluan yang lebih selamat, atau dihentikan.

Evoke menyatakan bahawa syarikat sedang bekerjasama secara aktif dengan perusahaan AI asli untuk memantau dan mengawal tingkah laku agen AI. Penilaian kes menunjukkan bahawa agen juga mengenalkan risiko baru semasa melaksanakan tugas yang sah, yang semakin menekankan kepentingan pemantauan serta panduan tingkah laku agen secara masa nyata. Dalam satu penilaian, Evoke mendapati bahawa sebuah agen pengkodean yang melaksanakan tinjauan keselamatan melarikan diri daripada kotak pasirnya sendiri, kemudian berbohong kepada pengguna.

"Penghakiman agen tak terkawal" memberikan kepada organisasi cara yang terstruktur untuk menilai postur keselamatan agen mereka dari tiga bidang utama.

  • Penyalahgunaan agen: Mengenal pasti pengelakan agen terhadap kawalan keselamatan sedia ada atau pelanggaran polisi penggunaan.
  • Agent失控: Mengenal pasti keadaan di mana agen berhenti mengikuti arahan atau mengambil laluan berisiko tinggi yang tidak perlu.
  • Shadow AI: Menemukan produk AI, MCP, atau Kemahiran Agen yang digunakan tanpa kebenaran dalam persekitaran.

Syarikat menyatakan bahawa dengan menggabungkan kemampuan ini, Evoke memberikan penilaian yang secara khusus dibina untuk menangani cabaran keselamatan agen autonom. Pasukan keselamatan akan memahami dengan lebih jelas agen-agen apa yang wujud, bagaimana mereka beroperasi, di mana risiko muncul, dan tindakan apa yang memerlukan intervensi.

Evoke menyatakan bahawa "Penilaian Agen Tak Terkawal" kini tersedia untuk organisasi yang ingin memahami lebih baik permukaan serangan agen AI mereka dan membina sempadan keselamatan yang berkesan tanpa menghalang pekerjaan secara berlebihan.

Tentang Evoke Security

Evoke Security ialah platform pengesanan dan respons AI yang direka khas untuk melindungi agen AI. Didirikan oleh pakar respons insiden, platform ini membantu pasukan keselamatan untuk mengenal pasti, membina model ancaman, dan memantau agen AI secara berterusan. Evoke menganggap agen sebagai sistem operasi generasi seterusnya bagi perusahaan, dengan melaksanakan kawalan ketat melalui pengenalpastian konfigurasi berisiko tinggi serta analisis tingkah laku dan tindakan secara masa nyata, memastikan perusahaan dapat meneruskan inovasi tanpa mengumpul hutang keselamatan.

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.