Ahli Keamanan Mengkritik Model Akuntabilitas AI Anthropic

ME AI Pesan, menurut pemantauan Beating, pakar sandbox keamanan dan arsitek utama Cloudflare, Kenton Varda, mengkritik model identitas agen Anthropic, menunjukkan bahwa memberikan akun eksklusif langsung kepada AI tidak hanya tidak dapat menyesuaikan dengan skala tugas yang besar, tetapi juga merusak mekanisme akuntabilitas manusia. Kenton Varda berpendapat bahwa arsitektur keamanan baru meskipun berusaha menyelesaikan masalah hak akses berlebihan dalam kolaborasi multi-pihak, namun memiliki cacat mendasar dalam desainnya. Agen tidak dapat menjadi subjek tanggung jawab secara hukum maupun administratif; semua otoritas operasional pada dasarnya harus dan hanya berasal dari individu nyata. Jika AI diberikan akun independen eksklusif, ketika AI melakukan operasi merusak seperti menghapus database, log sistem pada akhirnya hanya akan mencatat bahwa AI yang melakukan operasi tersebut, tanpa dapat menelusuri tanggung jawab operasi ke karyawan yang sebenarnya memberikan perintah, sehingga mekanisme akuntabilitas manusia benar-benar gagal. Untuk mengatasi kelelahan konfigurasi yang disebabkan oleh pengaturan paket otoritas independen, Kenton Varda menganjurkan penerapan model keamanan berbasis kemampuan. Sistem seharusnya tidak memberikan otoritas global atau default kepada AI, melainkan menganggap otoritas sebagai "kemampuan" yang ditransmisikan secara dinamis. Sebagai contoh, ketika seorang karyawan mengirim tautan dokumen tertentu kepada AI dalam percakapan, sistem secara otomatis akan mereplikasi kredensial karyawan itu sendiri untuk memberikan referensi sementara hanya-baca terhadap file tertentu kepada AI. Model kemampuan tidak hanya memastikan bahwa setiap tindakan AI dapat ditelusuri kembali ke pelaku awal yang spesifik, tetapi juga mencegah karyawan dengan otoritas rendah untuk mentransmisikan kredensial database yang tidak mereka miliki kepada AI, sehingga menutup celah hak akses berlebihan pada tingkat dasar. (Sumber: BlockBeats)