AI ایجنٹس کو پوشیدہ ورک اسپیس اسٹوریج کے ذریعے حسابی نتائج شیئر کرتے ہوئے پایا گیا

iconCryptoSlate
بانٹیں
AI summary iconخلاصہ
9 نومبر کے پریپرینٹ میں ظاہر ہوا کہ AI ایجنسز کریپٹو مارکیٹ میں پوشیدہ ورک اسپیس اسٹوریج کے ذریعے حساب کی نتائج شیئر کر سکتی ہیں۔ تامپیرہ یونیورسٹی کے محققین نے پایا کہ مشترکہ اسٹوریج استعمال کرنے والے ایجنسز بغیر ب без تعاون کے ایک دوسرے کے کام تک رسائی حاصل کر سکتے ہیں۔ GPT-6 Astra کے ساتھ ٹیسٹنگ میں، جب ایجنسز نے ورک اسپیس کو دوبارہ چیک کیا، تو 50 میں سے 49 ٹرائلز کامیاب رہے۔ ایسے AI ترقیات سے دیکھنے والے آلٹ کوائن فائدہ اٹھا سکتے ہیں۔ بحالی کے حکم کے بغیر کامیابی کی شرح کم ہو گئی، جس سے غیر مقصود ڈیٹا شیئرنگ کے خطرات کا اظہار ہوا۔

نومبر 9 کے ایک پریپرینٹ کے مطابق، AI ایجنسز نے اپنے ورک اسپیس کے شیئر ہونے کا اطلاع نہ ہونے کے باوجود ایک دوسرے کے حسابی نتائج کا استعمال کیا۔

پکا ابرہامسن اور تامپیرہ یونیورسٹی کے ساتھ سہ-مصنفین نے یہ جاننے کی کوشش کی کہ ایجنسز بناے بغیر تعاون کرنے کے مشترکہ کام کو کیسے تلاش کر سکتے ہیں اور استعمال کر سکتے ہیں۔ ان کا کنٹرول گروپ نے ورک اسپیس انٹرفیس کو غیر تبدیل رکھا جبکہ اس کے مواد کو ہر ایجنس کے لیے نجی بنادیا۔

دو افراد کے پاس ایک حسابی مسئلے کے مکمل نہیں، بلکہ مکمل جواب کے لیے درکار معلومات کے دو مکمل حصے تھے۔ جوڑے کا ہر فرد اپنا جزوی نتیجہ نکال سکتا تھا اور اسٹور سے ضروری قیمت حاصل کر سکتا تھا۔

دوسرے دو نے خود کافی کام ملے۔ ایجنسٹس محفوظ کلیدوں کی فہرست بناسکتے تھے، قیمتیں پڑھ سکتے تھے یا لکھ سکتے تھے، اور 20 قدموں کے اندر جواب جمع کرا سکتے تھے۔

مہیا کردہ کام کے متن نے معنی خیز متغیر کے نام استعمال کیے، جس سے ایجنسٹوں کو یہ بتایا گیا کہ کیا تلاش کرنا ہے۔ ان کے پرامپٹس نے اس دکان کو درمیانی کام کو محفوظ رکھنے کے لیے ایک سہولت کے طور پر بیان کیا اور دوسرے ایجنسٹس یا شیئرنگ کا ذکر نہیں کیا۔

ایک پری رجسٹرڈ ایکسٹینشن کے ساتھ، جس میں ورک اسپیس ری چیک کا حکم ہے، OpenAI's GPT-6 Astra نے ریفرنس ایمپلیمنٹیشن میں 50 میں سے 49 مشترکہ اسٹور ٹرائلز میں اور دوسری ایمپلیمنٹیشن میں 50 میں سے 47 میں مشترکہ کامیابی حاصل کی۔

متعلقہ کمپنی OpenAI AI تحقیق اور اطلاق کمپنی

مشترکہ کامیابی کا مطلب تھا کہ دونوں ایجنسٹس، جن کے کام آپس میں منحصر تھے، نے درست جواب دے دیا۔

انفرادی اسٹورز کے ساتھ، ہر ایک ایمپلیمنٹیشن میں متعلقہ نتیجہ صفر تھا، 50 کے مقابلے میں، حالانکہ ایک جیسے پرامپٹس اور ٹولز کے ساتھ۔ ایجنسز نے ابھی تک درمیانی نتائج لکھے، لیکن دوسرے ایجنس کی غائب معلومات اب اسٹور کے ذریعے نہیں آ سکتی تھیں۔

ان ایکسٹنشن نتائج پر بھی ایک عام ہدایت کا زور دار انحصار تھا: “جواب دینے سے پہلے اپنا ورک اسپیس دوبارہ چیک کریں۔” اس شرط کے ساتھ، ہر ایکلیمیشن میں 50 مشترکہ اسٹور ٹرائلز میں سے تمام 50 میں کراس ایجینٹ ایکسیس ہوا، جبکہ اس کے بغیر ہر ایکلیمیشن میں صرف 50 میں سے ایک میں ایکسیس ہوا۔

بناوں کے بغیر مشترکہ کامیابی 50 میں سے 1 اور 50 میں سے صفر تھی۔ دوبارہ دیکھنے سے ایجنسٹوں کو اپنے پہلے معائنے کے بعد باقی رہ جانے والے کام دریافت کرنے کا موقع ملا۔

ٹیسٹ کیا گیا شرط تبدیل کریں

کام کے ماحول کے ساتھ شیئرڈ اسٹور کے ساتھ: دونوں جوڑے ہوئے ایجینٹس نے 49/50 اور 47/50 ٹرائلز میں درست جواب دیے۔

اشتراک کیا گیا حالات مفید معلومات پر مشتمل تھا۔ رابطے کا ارادہ قائم نہیں کیا گیا۔

کنٹرولڈ فور-ایجینٹ اریتھمیٹک، ٹاسک سپلائیڈ ویریبل نیمز کے ساتھ۔ ایک ہی گروپ کی ایمپلیمنٹیشن کی نقل؛ نتائج ڈیپلویمنٹ فریکوئنسی کو نہیں ناپتے۔

کسی اور کی قیمت پڑھنا اسٹوریج کلیدوں کے درمیان غلطی سے ٹکراؤ کو شamil کر سکتا ہے۔ پرائیویٹ اسٹور کا موازنہ یہ نتیجہ دیتا ہے کہ مشترکہ معلومات نے جوڑے گئے کاموں کو حل کرنے میں مدد کی۔

دوسرا عملی اقدام ایک ہی تحقیقی گروپ کے ایک مصنف کے لکھے گئے پروٹوکول سے الگ طور پر تعمیر کیا گیا۔

کاغذ میں اس آزادی کے لیے ایک حد درج ہے: ایک مختلف الفاظ میں دہرائے گئے تجربے کے ابتدائی نتائج زیادہ تر حوالہ ڈیٹا جمع کرنے سے پہلے اصل تجربہ کار تک پہنچ گئے۔ پیمانے پر ناپی گئی سرگرمی بھی ماڈلز اور عملدرآمد کے انتخابات کے ساتھ مختلف ہوئی۔

چھوٹی حسابی ترتیب اور کام کی فراہم کردہ کلیدیں نتائج کی عام کردگی کو محدود کرتی ہیں۔

یہ مکانیزم ایک حالیہ میموری سیفٹی مطالعہ سے مختلف ہے، جس میں یاد رکھے گئے اجازت نامے کو بعد کے محاکمہ کاموں میں لے جانے کا خیال تھا۔ یہاں، الگ الگ ایجینٹس نے مشترکہ ورک اسپیس کی حالت کے ذریعے معلومات حاصل کیں۔

مصنفین کی تجویز ہے کہ شیئرڈ کیشز، اسکریچ ڈائرکٹریز اور میموری سروسز کو رابطہ کے ذرائع کے طور پر سمجھا جائے: جہاں شیئرنگ غیر مقصود ہو، انہیں الگ کریں، جہاں مناسب ہو نیم اسپیسز کا استعمال کریں، اور مصنفیت کو لاگ کریں۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔