Güvenlik Uzmanı, Anthropic'in AI Hesap Verebilirlik Modelini Eleştiriyor

ME AI Mesajı, Dinamik İzleme tarafından izlenen verilere göre, güvenlik kumandası uzmanı ve Cloudflare baş mimarı Kenton Varda, Anthropic’in agen kimlik modelini eleştirerek, AI’lara özel hesaplar vermenin büyük ölçekli görevleri karşılayamayacağını ve insan sorumluluk mekanizmasını bozacağını belirtti. Kenton Varda, yeni güvenlik mimarisinin çoklu işbirliği sırasında yetki aşımlarını çözmeyi amaçladığını, ancak temel tasarımında ölümcül bir eksikliğe sahip olduğunu ifade etti. Ajanlar, yasal ve idari açıdan sorumluluk sahibi olamazlar; tüm erişim yetkileri temelde mutlaka ve yalnızca somut bir insandan kaynaklanmalıdır. AI’lara doğrudan bağımsız özel hesaplar verilirse, AI bir veritabanını silme gibi zararlı işlemler gerçekleştirdiğinde, sistem günlükleri yalnızca AI’nın işlemi gerçekleştirdiğini kaydeder ve asıl emri veren çalışanla işlem sorumluluğu ilişkilendirilemez; bu da insan sorumluluk mekanizmasının tamamen çökmesine neden olur. Bağımsız yetki paketlerinin yapılandırılmasıyla oluşan yapılandırma yorgunluğuna karşı, Kenton Varda yetki temelli güvenlik modelini savunur. Sistem, AI’lara genel veya varsayılan yetkiler vermemeli; yetkileri «yetkinlik» olarak dinamik olarak aktarmalıdır. Örneğin, bir çalışan diyalogda AI’ya belirli bir belgenin bağlantısını gönderdiğinde, sistem çalışanın kendi kimlik bilgilerini kullanarak ilgili dosyaya geçici salt okunur bir erişim referansını AI’ya iletir. Yetkinlik modeli, AI’nın tüm eylemlerinin doğrudan başlatıcıya kadar izlenebilir olmasını sağlar ve düşük yetkili çalışanların, kendi sahip olmadığı veritabanı kimlik bilgilerini AI’ya aktaramamasını sağlar; böylece temel düzeyde yetki aşımları engellenir. (Kaynak: BlockBeats)