سیکورٹی ایکسپرٹ نے اینتھروپک کے AI ذمہ داری ماڈل کی تنقید کی

ME AI کی خبر، ایک مانیٹرنگ سروس کے مطابق، سیکورٹی سینڈ باکس ماہر اور Cloudflare کے چیف آرکیٹیکٹ کینٹن وارڈا نے Anthropic کے ایجنٹ شناخت ماڈل پر تنقید کی ہے، جس میں انہوں نے کہا کہ AI کو الگ اکاؤنٹ دینا نہ صرف بڑے پیمانے پر کاموں کے لیے قابلِ اطلاق نہیں ہے بلکہ انسانی ذمہ داری کے نظام کو بھی ختم کر دیتا ہے۔ کینٹن وارڈا کا خیال ہے کہ نئی سیکورٹی ساخت ہاں، متعدد افراد کے تعاون میں اجازت کے زیادہ سے زیادہ استعمال کو حل کرنے کی کوشش کرتی ہے، لیکن اس کی بنیادی ڈیزائن میں مہلک خامیاں ہیں۔ ایجنٹ قانونی اور انتظامی طور پر ذمہ دار نہیں ہو سکتے، اور تمام اجازتیں بنیادی طور پر ضرورتاً اور صرف حقیقی انسانوں سے حاصل ہونی چاہئیں۔ اگر AI کو براہ راست الگ اکاؤنٹ دے دیا جائے، تو جب AI ڈیٹا بیس حذف جیسے نقصان دہ عمل کرتا ہے، تو سسٹم لاگ صرف یہ ظاہر کرتا ہے کہ AI نے عمل کیا، لیکن واقعی حکم دینے والے ملازم کو ذمہ دار نہیں ٹھہرایا جا سکتا، جس سے انسانی ذمہ داری کا نظام مکمل طور پر ختم ہو جاتا ہے۔ الگ اجازت پیکجز کی ترتیب سے پیدا ہونے والی تھکاوٹ کے مقابلے میں، کینٹن وارڈا صلاحیت پر مبنی سلامتی ماڈل کو ترجیح دیتے ہیں۔ سسٹم کو AI کو جامع یا ڈفالٹ اجازت نہ دینی چاہئے، بلکہ اجازت کو "صِلاحِت" کے طور پر موڑنے کا طریقہ اختیار کرنا چاہئے۔ مثال کے طور پر، جب ملازم بات چیت میں AI کو کسی خاص دستاویز کا لنک بھیجتا ہے، تو سسٹم خود بخود ملازم کے اپنے اعتماد ناموں سے صرف اس فائل تک محدود عارضی صرف پڑھنے والے حوالہ جات AI تک منتقل کردیتا ہے۔ صلاحیت ماڈل نہ صرف یقینی بناتا ہے کہ AI کا ہر عمل حقیقی شروع کرنے والے شخص تک پہنچ جائے، بلکہ کم اجازت والے ملازمین کو بھی اپنے پاس نہ ہونے والے ڈیٹا بیس اعتماد ناموں کو AI تک منتقل ہونے سے روکتا ہے، جس سے بنیادی طور پر اجازت کے زائد استعمال کا خطرہ ختم ہو جاتا ہے۔ (ذرائع: BlockBeats)