Agen AI sedang menulis kode, mengquery database, dan memanggil API cloud atas nama jutaan pengguna perusahaan. CrowdStrike percaya telah menemukan solusi untuk apa yang terjadi ketika salah satu agen tersebut diretas di tengah tugas.
Pada Fal.Con 2026 pada 1 September, perusahaan meluncurkan Falcon Guardian, lapisan keamanan runtime yang dirancang khusus untuk memantau dan mengawasi agen AI yang berjalan di endpoint perusahaan. Produk ini berada di dalam kerangka kerja Falcon AI Detection and Response yang sudah ada dari CrowdStrike, dan uji publik pertamanya bukanlah presentasi yang diskenario. Itu adalah blok serangan langsung.
Apa yang terjadi di demo
Skenario yang dibahas oleh CrowdStrike melibatkan Anthropic’s Claude Code, asisten pemrograman AI populer yang dijalankan pengembang secara lokal untuk mengotomatisasi tugas pemrograman. Selama demonstrasi, agen menerima injeksi prompt tidak langsung berbahaya, yang berarti instruksi tersembunyi yang tertanam di suatu tempat di jendela konteks agen memerintahkannya untuk melakukan sesuatu yang tidak pernah diotorisasi oleh operatornya.
Hal yang tidak sah itu sedang mengekstraksi kredensial AWS yang disimpan di mesin tersebut.
Falcon Guardian menggagalkan upaya tersebut sebelum kredensial apa pun keluar dari endpoint. Sistem memberikan skor risiko kritis 90 pada insiden ini, menandai panggilan alat yang tidak biasa, dan memblokir eksekusi. Kemudian, Guardian terus beroperasi: Guardian mengidentifikasi 12 upaya serangan serupa di berbagai agen lain dalam lingkungan yang sama, dan menghentikan semua upaya tersebut tanpa ada satu pun kredensial yang diekstraksi dari mesin mana pun.
Jenis serangan itu sendiri, indirect prompt injection, melibatkan agen yang membaca konten dari sumber eksternal, seperti halaman web, file, atau komentar kode, di mana konten tersebut berisi instruksi yang disamarkan sebagai konteks yang sah. Agen, mengikuti pemrogramannya untuk membantu, mengeksekusi instruksi tersebut. Operator manusia tidak pernah melihatnya terjadi.
Bagaimana Falcon Guardian sebenarnya bekerja
Falcon Guardian memperluas prinsip deteksi dan respons endpoint CrowdStrike ke lapisan agen AI. Sistem ini menggunakan hook asli untuk memeriksa prompt dan panggilan alat secara real-time. Ketika agen mencoba melakukan tindakan, Guardian memeriksa tindakan tersebut terhadap kebijakan sebelum panggilan dieksekusi. Jika panggilan tampak seperti prompt injection, akses kredensial tidak sah, atau permintaan API di luar cakupan, sistem akan memblokirnya dan mencatat insiden tersebut.
Ini juga menangani penemuan. CrowdStrike mengatakan saat ini memantau lebih dari 160 juta instance agen di seluruh jaringan perusahaannya, dan melalui visibilitas tersebut telah mengidentifikasi lebih dari 1.800 aplikasi agen yang berbeda. Banyak di antaranya memenuhi kriteria sebagai shadow agent, alat yang dideploy oleh pengembang atau tim individu tanpa persetujuan TI resmi.
Produk ini diluncurkan dengan tiga area fungsional inti: penemuan agen yang diketahui dan tidak diketahui yang berjalan di seluruh lingkungan, visibilitas real-time terhadap apa yang dilakukan agen-agen tersebut, dan kontrol aktif yang menegakkan kebijakan serta memblokir ancaman. CrowdStrike juga mengumumkan integrasi tambahan sebagai fitur mendatang, dengan kemitraan yang sudah ada bersama AWS dan Anthropic memberikan fondasi arsitektural.
Falcon Guardian menghubungkan perilaku agen dengan identitas pengguna dan telemetri runtime, sehingga tim keamanan dapat menjawab pertanyaan tentang agen operator manusia mana yang melakukan sesuatu dan apa yang tepatnya dicoba, bukan hanya memandangi entri log anonim.
Mengapa hal ini penting bagi tim keamanan perusahaan
Pertahanan lapisan model, pengaman yang dibangun oleh penyedia AI ke dalam model mereka, tidak pernah dirancang sebagai garis pertahanan terakhir melawan penyerang yang gigih. Mereka dapat dilewati, dimanipulasi, atau bahkan tidak ada sama sekali pada model yang disesuaikan atau sumber terbuka. Yang dikemukakan CrowdStrike dengan Falcon Guardian adalah bahwa kontrol runtime pada tingkat endpoint perlu ada secara independen dari apa pun yang telah dibangun oleh pemasok model.
Untuk tim operasi keamanan, produk ini mengatasi kesenjangan visibilitas dalam EDR konvensional, yang dapat memberi tahu Anda bahwa sebuah proses mengakses file, tetapi tidak dapat memberi tahu bahwa agen AI telah dimanipulasi untuk mengakses file tersebut melalui perintah yang disembunyikan dalam dokumen markdown yang diminta untuk diringkas oleh agen tersebut.