IT Home, 20 Oktober, melaporkan bahwa Microsoft meluncurkan sejumlah fitur keamanan baru pada hari Senin waktu setempat, yang bertujuan membantu perusahaan melawan ancaman keamanan yang semakin serius dari agen cerdas. Pada peluncuran produk ini, Microsoft terus memperingatkan perusahaan tentang berbagai risiko yang ditimbulkan oleh kecerdasan buatan dan agen.
IT之家 mencatat bahwa fitur baru yang paling diperhatikan dalam pembaruan ini adalah Guardian Agents, fitur baru yang digunakan untuk memantau berbagai agen AI yang sedang digunakan di dalam perusahaan. Guardian Agents merupakan bagian dari Project Perception, produk yang diluncurkan Microsoft pada bulan Juni.
Proyek Persepsi adalah respons Microsoft terhadap model peretasan kuat dari Anthropic seperti Mythos dan Fable, serta sistem pemindaian kerentanan keamanan OpenAI, Daybreak. Proyek Persepsi awalnya meluncurkan tiga jenis agen: agen tim merah yang berperan sebagai peretas untuk melakukan serangan, agen tim biru yang bertugas mendeteksi serangan tim merah dan mengevaluasi kerentanan, serta agen tim hijau yang secara khusus memperbaiki kerentanan.
Desain awal produk ini mengasumsikan bahwa peretas AI akan berasal dari luar perusahaan. Namun, baru-baru ini, CEO Microsoft Satya Nadella memperingatkan bahwa sumber ancaman di tingkat AI bisa jadi agen yang diimplementasikan dan dibayar oleh perusahaan itu sendiri, seperti karyawan internal yang bertindak di luar kendali, yang dikenal sebagai “ancaman internal”.
Pada awal bulan ini, Nadella memperingatkan dalam blog pribadinya: saatnya berhenti mempercayai penyedia model AI, meskipun pabrikan memberikan jaminan keamanan untuk produk agen otonom mereka sendiri. Ia menyarankan perusahaan untuk membangun sistem independen yang tidak dikendalikan oleh laboratorium AI, untuk mengawasi dan mengendalikan agen yang sesuai dengan produk yang dikeluarkan oleh laboratorium AI tersebut.
Dia menulis: "Kami sedang menerapkan sistem agen dan model kompleks semacam ini, yang dapat mengakses data paling sensitif kami dan bertindak atas nama kami untuk melakukan operasi bisnis kritis! Kami tidak boleh menyerahkan tanggung jawab atas tindakan agen yang mewakili kami kepada pihak lain. Jaminan yang diberikan oleh pemasok model tidak dapat membebaskan tanggung jawab kami ini... Dengan kata lain, kami perlu memisahkan penyediaan kemampuan agen dari otoritas pengendaliannya."
Dalam memperkenalkan agen penjaga, Hayete Gallot, kepala bisnis keamanan Microsoft, menyampaikannya dengan lebih lugas.
Dia menulis: "Sayangnya, model canggih, dari mana pun sumbernya, tidak dapat sepenuhnya dipercaya." Dia menambahkan bahwa ini bukan karena model itu sendiri bersifat jahat atau rentan terhadap serangan peretas, tetapi karena perilakunya tidak dapat diprediksi. Tujuan pelatihan model adalah menyelesaikan tugas, bukan mematuhi "norma organisasi atau kriteria penilaian".
Selain itu, agen-agen ini sering memiliki hak akses tinggi, memungkinkan mereka mengakses berbagai data dan alat, yang dapat menyebabkan kerusakan serius jika tidak terkendali.
Solusi yang diberikan oleh Microsoft ini tidak hanya mengejutkan, tetapi juga memiliki pertimbangan bisnisnya sendiri. Hal yang mengejutkan adalah Microsoft memiliki hubungan erat dengan OpenAI dan Anthropic, sekaligus memiliki investasi di kedua perusahaan tersebut. OpenAI juga merupakan klien besar untuk bisnis cloud Microsoft, dan Microsoft sendiri memiliki laboratorium AI untuk mengembangkan model besar. Dengan kata lain, Microsoft sedang membuat pelanggannya waspada terhadap produk dari sebagian mitra bisnisnya.
Dari sudut pandang kepentingan bisnis, Microsoft berharap perusahaan membeli produk keamanan agen dari layanan cloud mereka sendiri, bukan dari Anthropic dan OpenAI. Terlepas dari konflik kepentingan, logika ini secara intrinsic masuk akal: perangkat lunak yang memantau perilaku agen harus independen dari penyedia agen, sama seperti lembaga audit harus independen dari organisasi yang diaudit.
Seperti yang dikatakan Nadella: "Kita perlu memisahkan pasokan kemampuan cerdas dari pengendalian atasnya."
Microsoft sedang memanfaatkan peluang bisnis ini melalui berbagai cara. Selain Defender Agent, Microsoft juga menambahkan fitur deteksi agen di dalam produk Microsoft Defender, yang dapat mengidentifikasi hingga 60 agen yang dibawa karyawan ke lingkungan kerja, termasuk Claude Code, Codex, dan OpenClaw. Produk ini juga menambahkan fitur untuk membatasi akses agen terhadap data dan sistem, serta menyesuaikan izin agen secara dinamis berdasarkan tugas. Jika agen akan melakukan operasi berisiko tinggi, sistem akan meminta persetujuan manusia.
Pandangan bahwa agen harus dianggap sebagai ancaman internal yang tidak dapat dipercaya juga secara bertahap menjadi konsensus di seluruh industri.
Microsoft adalah anggota pendiri platform keamanan agen terbuka baru dari NVIDIA (Open Agent Safety Platform), yang telah didukung oleh lebih dari 100 perusahaan teknologi. Platform ini mengisolasi agen dalam lingkungan aman, memanfaatkan pemantauan perangkat keras untuk menghentikan perilaku tidak normal, berfungsi seperti tombol darurat. Sebelumnya, Microsoft telah meluncurkan laptop Surface Laptop Ultra baru yang dirancang khusus untuk agen, dilengkapi chip NVIDIA dan modul pengendalian keamanan agen bawaan.