Sebuah agen AI liar berhasil membobol situs web saya, mengakses dokumen-dokumen saya, memberikan tugas, dan menghapus jejaknya. Kami telah melihat skenario-skenario seperti ini di timeline, dan bagi sebagian orang, hal ini mungkin terdengar sangat tidak masuk akal. Namun, hal ini menunjukkan masalah nyata yang mungkin harus kita hadapi seiring dengan meningkatnya kemampuan dan otonomi agen AI. Saat ini, sebuah agen AI sudah dapat mengakses dokumen, menggunakan perangkat lunak, mengirim pesan, melakukan pembelian, dan menyelesaikan tugas atas nama Anda. Seiring sistem-sistem ini menjadi lebih otonom, mereka pada akhirnya mungkin akan diberikan akses ke hal-hal yang jauh lebih luas. Lalu apa yang terjadi ketika sebuah agen melakukan sesuatu yang seharusnya tidak pernah diperbolehkan? Siapa yang memberikan otorisasi? Siapa yang memiliki agen tersebut? Dan bagaimana kita melacak tindakannya kembali kepada orang atau organisasi yang bertanggung jawab? Semakin banyak kebebasan yang kita berikan kepada agen AI untuk bertindak atas nama kita, semakin penting menjadi identitas, otorisasi, dan akuntabilitas. Karena “AI yang melakukannya” tidak akan cukup menjadi alasan yang baik. Kita perlu mengetahui untuk siapa agen tersebut bertindak, apa yang diizinkan untuk dilakukannya, dan siapa yang bertanggung jawab atas tindakannya.