“Bir saldırgan AI ajanı, web siteme sızdı, belgelerime erişti, görevler atadı ve izlerini sildi.” Zaman çizelgemizde bu tür senaryoları görmeye devam ediyoruz ve bazı insanlar için tamamen saçma gelebilir. Ancak bu senaryolar, AI ajanlarının daha yetenekli ve özerk hale gelmesiyle karşılaşabileceğimiz çok gerçek bir sorunu işaret ediyor. Bugün bir AI ajanı, belgelere erişebilir, yazılımları kullanabilir, mesaj gönderebilir, satın alma yapabilir ve sizin adınıza görevleri tamamlayabilir. Bu sistemler daha özerk hale geldikçe, nihayetinde çok daha fazla şeye erişim verilebilir. Peki bir ajan, size asla verilmemiş olan bir şeyi yaptığında ne olur? Kim onu yetkilendirdi? Kimin ajanı? Ve eylemlerini sorumlu kişiye veya kuruma nasıl geri izleyebiliriz? AI ajanlarına sizin adınıza hareket etme konusunda ne kadar özgürlük verirsek, kimlik, yetkilendirme ve hesap verebilirlik o kadar önemli hale gelir. Çünkü “AI bunu yaptı” yeterli bir bahane olmayacak. Bir ajanın kimin adına hareket ettiğini, ne yapmaya izin verildiğini ve eylemlerinden kimin sorumlu olduğunu bilmeliyiz.