Seorang agen AI liar telah merompak laman web saya, mengakses dokumen saya, menetapkan tugas, dan menghapus jejaknya. Kita telah melihat skenario seperti ini di garis masa, dan bagi sebahagian orang, ia mungkin kelihatan sangat tidak masuk akal. Tetapi ia menunjukkan masalah yang sangat nyata yang mungkin perlu kita hadapi apabila agen AI menjadi lebih cekap dan autonom. Hari ini, agen AI sudah boleh mengakses dokumen, menggunakan perisian, menghantar mesej, membuat pembelian, dan menyelesaikan tugas atas nama anda. Seiring sistem-sistem ini menjadi lebih autonom, mereka akhirnya mungkin diberi akses kepada perkara yang jauh lebih banyak lagi. Jadi, apa yang berlaku apabila seorang agen melakukan sesuatu yang sepatutnya tidak pernah dilakukannya? Siapa yang mengesahkan ia? Siapa yang memiliki agen itu? Dan bagaimana kita melacak tindakannya kembali kepada individu atau organisasi yang bertanggungjawab? Semakin banyak kebebasan yang kita berikan kepada agen AI untuk bertindak atas nama kita, semakin penting identiti, kebenaran, dan tanggungjawab menjadi. Kerana “AI yang lakukan” tidak akan menjadi alasan yang cukup baik. Kita perlu tahu siapa agen itu bertindak atas nama siapa, apa yang diizinkan dilakukan, dan siapa yang bertanggungjawab atas tindakannya.