کلوڈ اوپس 5 براؤزر کے اسیناریوز میں پرامپٹ انجیکشن حملوں کو روکتا ہے

iconKuCoinFlash
بانٹیں
AI summary iconخلاصہ
اینٹروپک نے اعلان کیا کہ اس کا کلاؤڈ آپس 5 ماڈل براؤزر کے سیناریوز میں پرامپٹ انجیکشن حملوں کے خلاف مضبوط مزاحمت دکھاتا ہے، جس میں 129 ٹیسٹ کیسز میں سے کوئی بھی سیکیورٹی بریک ہونے کا واقعہ نہیں ہوا۔ ماڈل نے گرے اسوان کے بینچ مارک میں 2.0% سکور حاصل کیا، جو آپس 4.8 (5.5%)، مائتھوس 5 (2.6%) اور فیبل 5 (2.8%) سے بہتر ہے۔ پرامپٹ انجیکشن AI ایجینٹس کے لیے اب بھی ایک بڑا خطرہ ہے۔ صفر حملہ کی شرح صرف کلاؤڈ کوورک میں آٹو موڈ آن ہونے پر دیکھی گئی۔ سود کی شرح کی خبریں اور مارکیٹ کے تبدیلیاں اس سیکیورٹی فوکسڈ اپڈیٹ کو متاثر نہیں کریں گی۔
ME AI کا پیغام، Beating مونیٹرنگ کے مطابق، Anthropic نے Claude Opus 5 سسٹم کارڈ میں اعلان کیا ہے کہ یہ ماڈل براؤزر ایجینٹ سیناریوز میں پرامپٹ انجیکشن حملوں کے لیے تقریباً محفوظ ہے، جہاں 129 ٹیسٹ سیناریوز میں سے کوئی بھی کامیاب نہیں ہوا۔ یہ کامیابی بہت اہم ہے، کیونکہ OpenAI نے پچھلے دسمبر میں علنا کیا تھا کہ پرامپٹ انجیکشن شاید کبھی بھی مکمل طور پر حل نہیں ہو سکتا۔ سیکورٹی کمپنی Gray Swan کے جنرل پرامپٹ انجیکشن بینچ مارک میں، Opus 5 نے 15 حملوں کے بعد صرف 2.0% کامیابی حاصل کی، جو پچھلے Opus 4.8 کے 5.5%، Mythos 5 کے 2.6% اور Fable 5 کے 2.8% سے کافی بہتر ہے۔ پرامپٹ انجیکشن AI ایجینٹس کے لیے سب سے بڑا سیکورٹی خطرہ سمجھا جاتا ہے—جہاں حملہ آور ویب پیج میں چھپائے گئے مخفی متن جیسے منسوخ شدہ ان پٹس کا استعمال کرکے ماڈل کے احکامات کو دور کرکے برائی کا عمل کرتے ہیں۔ صرف Auto Mode فعال ہونے والے Claude Cowork جیسے پروڈکٹس میں ہی صفر حملوں کی شرح حاصل ہوئی ہے۔ یہ کامیابی AI ایجینٹ سیکورٹی کو "مستقل مرمت" سے "ساختی تحفظ" کے مرحلے میں لے جاتی ہے۔ نیچے دیا گيا اصل لنک پر کلک کرکے Beating · Feishu AI نیوز چینل میں شامل ہو جائیں، جو عالمی AI ٹرینڈز اور خبروں کو 7×24 گھنٹے نگرانی کرتا ہے۔ (ذرائع: BlockBeats)
ذریعہ:اصل دکھائیں۔
اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔