انٹھروپک کے نئے AI براؤزر ایجنٹ کو قبضہ کرنے کی تقریباً تین میں سے ایک کوشش کامیاب ہو گئی، جب تک کہ حفاظتی اقدامات فعال نہیں ہو گئے۔ یہ ایک سرخ ٹیم سلاک چینل کا افواہ نہیں ہے۔ یہ ایک عدد ہے جو انٹھروپک نے اپنے اپنے سسٹم کارڈ میں شائع کیا ہے۔
کمپنی نے 28 مئی کو کلوڈ آپس 4.8 سسٹم کارڈ جاری کیا، جو 244 صفحات پر مشتمل ہے اور چار ایجنٹک سطحوں کو کور کرتا ہے۔ براؤزر ایجنٹ کے لیے پر-سیفگارڈ ہائی جیک ریٹ 31.5% رہا۔ اسے عام الفاظ میں کہیں تو: اگر کوئی بری نیت والا فرد ماڈل کو ویب براوز کرتے ہوئے پرامپٹ انجیکشن حملہ کرتا ہے، تو حملہ تقریباً ایک تہائی وقت کامیاب رہا، اس فرض کے ساتھ کہ کوئی دفاعی لیئرز فعال نہ ہوں۔
فرنٹیئر لیبز کے درمیان شفافیت کا فرق
یہ بات ہے۔ وہ 31.5 فیصد کا عدد الگ تھلگ دیکھنے پر برا لگتا ہے۔ لیکن اینتھروپک اکیلا وہ فرنٹیئر لیب ہے جس نے اس بہار میں سیکیورٹی ماہرین کو کام کرنے کے لیے ایک واضح نمبر فراہم کیا۔
اوپن اے آئی نے ایک پرامپٹ انجیکشن کی اطلاع جاری کی جس میں صرف ایک سطح: کنیکٹرز کو شامل کیا گیا۔ گوگل نے پورا موضوع اپنے ماڈل کارڈ سے نکال کر ایک وسیع تر سیفٹی فریم ورک دستاویز میں منتقل کر دیا، جس سے خصوصیت کم ہو گئی۔ میٹا نے بالکل بند ماڈل کارڈ شپ نہیں کیا۔
حفاظتی اقدامات دراصل کیا کرتے ہیں
31.5% کا عدد ایک پیش گ wardی ناپ ہے، جو اہم سیاق و سباق فراہم کرتا ہے۔ یہ اینٹھروپک کی لیورڈ دفاعات کے فعال ہونے سے پہلے ماڈل کی خام زخمی سطح کی نمائندگی کرتا ہے۔
متعلقہ ماڈل، اوپس 4.5، پر سیف گارڈ ٹیسٹنگ کے بعد، حملے کی کامیابی کی شرح لگ بھگ 1% تک گھٹ گئی۔ یہ بے محافظ بنیادی سطح سے تقریباً 97% کی کمی ہے۔
ایجینٹ کی صلاحیت والے AI سسٹمز کے لیے پرامپٹ انجیکشن اب بھی سب سے بڑا سیکورٹی چیلنج بنی ہوئی ہے۔ جب ایک ماڈل ویب سائٹس کا جائزہ لے سکے، فارمز بھر سکے، یا صارف کی طرف سے متعدد مراحل کے کام کر سکے، تو کامیاب انجیکشن ان تمام ایجنسی کو حملہ آور کے مقاصد کی طرف موڑ سکتا ہے۔
اینٹھروپک کے سسٹم کارڈز کے پچھلے ورژنز، جن میں اوپس 4.7 رپورٹ بھی شامل ہے، میں مقداری انجیکشن مزاحمت کے اعداد و شمار بھی شامل تھے۔ کمپنی نے ان اعداد و شمار کو مستقل طور پر شائع کرنے کا رجحان قائم کیا ہے، جس سے ڈیٹا وقت کے ساتھ ایک واحد تصویر کے بجائے ایک رجحان لائن کے طور پر زیادہ مفید ہوتا جا رہا ہے۔
کریپٹو اور AI انٹیگریٹڈ پلیٹ فارمز کے لیے یہ کیوں اہم ہے
کرپٹو صنعت AI ایجنٹ انٹیگریشنز میں گھر گئی ہے۔ خودکار ٹریڈنگ بوٹس، AI سے چلنے والے پورٹ فولیو مینیجرز، آن چین ڈیٹا تجزیہ کرنے والے ایجنٹس، اور DeFi ایجنٹس جو قدرتی زبان کے حکمات کے مطابق لین دین کرتے ہیں، سب یا تو موجود ہیں یا دہاز کے پروٹوکولز میں ترقی کے مراحل میں ہیں۔
31.5% کی پری-سیفگارڈ ہجوم کی شرح ان تمام ٹیموں کو روک دے گی جو یہ پروڈکٹس تیار کر رہی ہیں۔ اگر آپ کا AI ایجنٹ باہری ڈیٹا سرچس کو براؤز کرتا ہے، ممکنہ طور پر دشمنانہ اسمارٹ کنٹریکٹس سے آن-چین مواد کو پارس کرتا ہے، یا فورمز اور سوشل پلیٹ فارمز پر صارفین کے ذریعہ تخلیق کردہ مواد کو پڑھتا ہے، تو پرامپٹ انجیکشن نظریہ نہیں بلکہ ایک قابل قیاس خطرہ ہے۔
لگبھگ 1% تک بہتری کا پس منظر مثبت ہے، لیکن اس کے ساتھ ایک شرط ہے۔ یہ عدد اینتھروپک کے اپنے ٹیسٹنگ ماحول سے نکلا ہے۔ حقیقی دنیا کی پیش رفت کی صورتحال، جہاں ایجنسیاں بے ترتیب، غیر کنٹرول شدہ ویب مواد کے ساتھ تعامل کرتی ہیں اور دشمنوں کے پاس ملینوں میں پیسہ لگا ہوا ہوتا ہے، ان دفاعات کو ایک ریڈ ٹیم مشق کے بجائے الگ طرح سے ٹیسٹ کرے گی۔
ای آئی سے متعلق کریپٹو منصوبوں کا جائزہ لینے والے سرمایہ کاروں کے لیے، لیبز کے درمیان شفافیت کا فرق خود ایک سگنل ہے۔ کلاؤڈ ماڈلز پر بنائے جانے والے پروٹوکولز کم از کم شائع شدہ سیکورٹی ڈیٹا کی طرف اشارہ کر سکتے ہیں اور اپنے کمیٹیشن حکمت عملیوں کی وضاحت کر سکتے ہیں۔ وہ منصوبے جو ایسے لیبز کے ماڈلز پر انحصار کرتے ہیں جنہوں نے قابلِ موازنہ ڈیٹا شائع نہیں کیا، صارفین سے ایک بلوک باکس پر اعتماد کا مطالبہ کرتے ہیں۔