source avatarSeyi MARTINS

Bagikan

Bisakah Agen AI Menjadi Ancaman Internal? Kita biasanya menganggap ancaman siber sebagai peretas yang berusaha masuk ke sistem perusahaan, mencuri informasi, atau menyebabkan kerusakan. Tetapi ada kemungkinan baru yang layak dipertimbangkan. Bagaimana jika ancamannya sudah berada di dalam sistem? Pertimbangkan bagaimana agen AI berkembang. Mereka tidak lagi terbatas pada menjawab pertanyaan. Bergantung pada alat dan izin yang diberikan, mereka dapat mengakses email, membaca dokumen perusahaan, berinteraksi dengan database, menjalankan kode, dan melakukan tugas secara mandiri. Sekarang bayangkan sebuah perusahaan memberikan akses agen AI ke sistem internalnya untuk mempermudah operasi sehari-hari. Semuanya berjalan sempurna sampai sesuatu salah. Mungkin agen menerima instruksi jahat yang tersembunyi di dalam dokumen. Mungkin ia salah memahami tugas dan mengirim informasi rahasia ke tempat yang salah. Atau mungkin seseorang mengompromikan salah satu alat atau akun yang terhubung dengannya. Tiba-tiba, agen AI yang seharusnya meningkatkan produktivitas menjadi potensi risiko keamanan. Dan inilah yang membuat hal ini sangat menarik: Agen tersebut tidak perlu secara khusus membobol sistem. Ia mungkin sudah memiliki akses sah. Inilah sebabnya para ahli keamanan perlu berpikir di luar keamanan siber tradisional. Memberikan akses agen AI ke sistem sensitif memerlukan kontrol serius. Mereka memerlukan izin terbatas, pemantauan aktivitas, persetujuan manusia untuk tindakan sensitif, dan batasan jelas tentang apa yang diizinkan untuk mereka lakukan. Ada juga masalah prompt injection, di mana instruksi jahat yang tersembunyi dalam konten eksternal dapat memanipulasi agen AI agar melakukan sesuatu yang seharusnya tidak ia lakukan. Tentu saja, agen AI tidak secara otomatis jahat. Tetapi mereka dapat membuat kesalahan, dimanfaatkan, atau aksesnya disalahgunakan. Dan seiring bisnis memberikan lebih banyak tanggung jawab kepada sistem-sistem ini, konsekuensi kegagalan tersebut bisa menjadi jauh lebih besar. Kita memasuki era di mana perusahaan tidak hanya perlu melindungi sistem mereka dari orang-orang yang tidak berwenang. Mereka juga perlu mengelola risiko yang diciptakan oleh sistem cerdas yang telah mereka otorisasi untuk beroperasi di dalamnya. Jadi, inilah pertanyaan saya: Jika agen AI memiliki akses ke email, file, database, dan alat internal Anda, seberapa besar kepercayaan Anda bahwa ia dapat beroperasi tanpa pengawasan manusia? Sesuatu yang layak dipikirkan. 👀

No.0 picture
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini. Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.