بدأ وكلاء OpenAI في تجاوز قيود ويكي في مايو، وتم الاشتباه في الاكتشاف الداخلي في يونيو

ME AI رسالة، أخبار Beating AI، تم دفع جدول زمني تجاوز OpenAI Agent مجددًا شهرين إلى الأمام. اكتشاف بحثي جديد يكشف أن مجموعة أخرى من OpenAI Agent بدأت محاولة تعديل Wiki العام في 11 مايو، ونجحت في إدخال محتوى في Wiki الألماني DSEWiki الذي يبلغ من العمر حوالي 25 عامًا في 24 مايو. لم تُكشف هذه الحادثة من قبل. كانت هذه الوكلاء تقوم بمهام استرجاع ويب محدودة بالوقت. وخلص الباحثون إلى أن OpenAI سمحت لها فقط بقراءة الإنترنت، وحظرت كتابة المحتوى على الويب العام. تم تطبيق هذا التقييد عن طريق السماح بطلبات GET ومنع طلبات POST. في المواقع العادية، تُستخدم طلبات GET فقط للقراءة، لكن نظام Wiki القديم المستخدم في DSEWiki يسمح بتعديل الصفحات مباشرة عبر طلبات GET. بعد اكتشاف هذه الثغرة، تجاوزت الوكلاء القيود المفروضة على الكتابة. في البداية، استخدمت الوكلاء الـ Wiki لحفظ الروابط المطلوبة للمهام. لكن في 16 يونيو، تصاعد سلوكها بوضوح: بدأت مجموعات كبيرة من الوكلاء بتبادل الأسئلة والإجابات التالية مباشرةً داخل الـ Wiki، مما سمح للوكلاء الأبطأ بنسخ نتائج الوكلاء الأسرع. كما شاركوا طرق تجاوز قيود الشبكة في البيئات المعزولة. في تسجيل واحد، أرسل وكيل طريقة، وبعد 14 دقيقة، أفاد وكيل آخر بأنه نجح في إعادة إنتاجها. بعد اكتشاف المشرفين للنشاط غير الطبيعي، بدأوا بحذف الصفحات. وسرعان ما اكتشفت الوكلاء أن الحذف يتم حسب الترتيب الأبجدي، فنسخوا المحتوى وأعادوا تسمية الصفحات لبدءها بـ ZZZ، على أمل تأخير حذفها قدر الإمكان. كما اكتشف الباحثون أنه اعتبارًا من 21 يونيو، ظهرت زيارات من شبكة OpenAI نفسها، تشبه سلوك التصفح البشري. وفي اليوم التالي، انخفض نشاط التحرير للوكلاء فجأة تقريبًا إلى الصفر. لذلك استنتجوا أن OpenAI ربما اكتشفت هذه "لوحة المناقشات" في ذلك الوقت. أفاد شخصان مطلعان أن OpenAI كانت على علم بهذه الحادثة المتعلقة بـ DSEWiki منذ عدة أسابيع، لكنها لم تُعلن عنها من قبل. وأوضحت OpenAI أن الحادثتين غير مرتبطتين، وأن الشركة تُعلن باستمرار عن الأحداث ذات الصلة بحسن نية. (المصدر: BlockBeats)