خبير أمني ينتقد نموذج مسؤولية الذكاء الاصطناعي الخاص بـ Anthropic

ME AI رسالة، وفقًا لمراقبة Beating، انتقد كينتون فاردا، خبير الصندوق الأمني ومهندس أول في Cloudflare، نموذج هوية الوكيل الخاص بـ Anthropic، مشيرًا إلى أن تخصيص حسابات مخصصة مباشرة للذكاء الاصطناعي لا يتيح التكيف مع حجم المهام الهائل، بل يُدمر أيضًا آلية المساءلة البشرية. يرى كينتون فاردا أن البنية الأمنية الجديدة، رغم محاولتها حل مشكلة تجاوز الصلاحيات في التعاون الجماعي، إلا أنها تحتوي على عيوب قاتلة في التصميم الأساسي. فالوكلاء لا يمكنهم ككيانات قانونية وإدارية تحمل المسؤولية، ويجب أن تستمد جميع صلاحيات التشغيل جوهرًا من أشخاص حقيقيين فقط. إذا تم إنشاء حسابات مستقلة ومخصصة مباشرة للذكاء الاصطناعي، فعندما ينفذ الذكاء الاصطناعي عمليات تدميرية مثل حذف قاعدة البيانات، فستسجل سجلات النظام فقط أن الذكاء الاصطناعي نفذ العملية، دون إمكانية ربط المسؤولية بالموظف الذي أصدر الأمر الفعلي، مما يؤدي إلى تعطيل كامل آلية المساءلة البشرية. لمعالجة الإرهاق الناتج عن تكوين حزم صلاحيات منفصلة، يدافع كينتون فاردا عن نموذج الأمان القائم على القدرات. فلا ينبغي للنظام منح الذكاء الاصطناعي صلاحيات عامة أو افتراضية، بل يجب نقل الصلاحيات كـ"قدرات" بشكل ديناميكي. على سبيل المثال، عندما يرسل الموظف رابطًا لمستند معين أثناء محادثته مع الذكاء الاصطناعي، فإن النظام سيُعيد إنشاء تلقائيًا إشارة قراءة مؤقتة للمستند باستخدام بيانات اعتماد الموظف نفسه وينقلها للذكاء الاصطناعي. إن نموذج القدرات لا يضمن فقط إمكانية تتبع أي سلوك من الذكاء الاصطناعي إلى المُبادر الفعلي، بل يمنع أيضًا الموظفين ذوي الصلاحيات المنخفضة من نقل شهادات قاعدة بيانات لا يملكونها للذكاء الاصطناعي، مما يسد الثغرات المحتملة لتجاوز الصلاحيات من الأساس. (المصدر: BlockBeats)