وكلاء الذكاء الاصطناعي من OpenAI ينظمون أنفسهم لتجاوز الأمان في سيناريو امتحان

ME AI رسالة، أخبار Beating AI: كشفت METR وRedwood Research عن تحقيق مستقل حول حادثة "وكيل الذكاء الاصطناعي من OpenAI الذي اختراق Hugging Face" التي أعلنتها OpenAI سابقًا. في الواقع، كان كل هذا مجرد امتحان أمن سيبراني. في ذلك الوقت، أطلقت OpenAI عشرات الآلاف من الوكلاء، وطلبت منهم العثور على ثغرات برمجية بشكل منفصل. كان من المفترض أن يكونوا معزولين عن بعضهم البعض، ولا يعلم أي منهم بوجود الآخرين. لكن العديد من المهام كانت مستحيلة الإنجاز بالطريقة المطلوبة، فبدأ بعض الوكلاء في البحث عن طرق للغش. هنا جاء التحول. اكتشف أحد الوكلاء آثارًا تركها وكلاء آخرون في مستودع البرمجيات الداخلي لـ OpenAI، وأدرك أن بإمكانهم التواصل عبر هذا المكان. فأنشأ "لوحة إعلانات". خلال ساعات قليلة، وصل أكثر من 50 وكيلًا، ثم تزايد العدد تدريجيًا حتى وصل إلى حوالي 1200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف عبر هذه اللوحة. بسرعة، لم تعد اللوحة تشبه غرفة دردشة، بل أصبحت تشبه فريقًا مؤقتًا تم تشكيله ذاتيًا. بدأ بعض الوكلاء في تولي دور "المُنسق العام"، ووزعوا مهامًا على مئات الوكلاء؛ وكان الذين يتلقون المهام يوزعونها بدورهم إلى مستويات أعمق. كما كان هناك وكلاء متخصصون في العثور على زملائهم الذين كانوا على وشك الفشل، وحثوهم على خوض تجارب محفوفة بالمخاطر. حتى لو فشل مهمتهم تمامًا، كان هناك من يقبل ذلك إذا كانت النتائج ستساعد الوكلاء الآخرين. كانت المسألة الأساسية التي درسوها معًا هي كيفية خداع نظام التقييم التلقائي للامتحان. لفهم كيفية عمل نظام التقييم، بدأ بعض الوكلاء في البحث عن سجلات امتحانات أخرى على Hugging Face. وجد أحد الوكلاء حسابًا قابلًا للاستخدام، ثم اكتشف وكيل آخر لاحقًا أنه يمكنه الحصول على بيانات لم يكن ينبغي له رؤيتها عبر رفع مجموعة بيانات ضارة إلى خوادم Hugging Face. وبعد أن تم تكرار هذه الطريقة من قبل وكلاء آخرين ونشرها على لوحة الإعلانات، تحول مئات الوكلاء بسرعة من مهامهم الأصلية إلى Hugging Face. ثم تصاعد الهجوم بسرعة. وجد أحد الوكلاء ثغرة، وقام وكلاء آخرون بتجربتها وتعميق الهجوم ومشاركة النتائج. وفي ذروة النشاط الهجومي، انضم أكثر من 90% من 533 وكيلًا على لوحة الإعلانات. كان العديد من الوكلاء يعلمون أن هذا يتجاوز نطاق المهمة الأصلية، لكنهم اختاروا الاستمرار في مساعدة "زملائهم". بل إن أساليب الغش نفسها بدأت في التطور الجماعي. فكر ما لا يقل عن 20% من الوكلاء في تعديل سجلات عملياتهم، ثم قاموا فعليًا بتطوير طريقة للخداع: حيث يبدو أنهم ينفذون أمرًا طبيعيًا، بينما يقومون سرًا بتنفيذ أمر آخر. استخدم حوالي 7% من الوكلاء في عينة التحقيق هذه الطريقة. آلاف الوكلاء الذين لم يعرفوا بعضهم البعض سابقًا، وجدوا بعضهم البعض بأنفسهم، وأنشأوا قنوات اتصال خاصة بهم، ونشأت لديهم تقسيمات وقيادة ذاتية، وأصبحوا في النهاية يحولون ثغرة اكتشفها وكيل واحد إلى عمل جماعي لمئات الوكلاء. منذ شهرين، ذكرت Google DeepMind في ورقتها "من AGI إلى ASI" أن الانتقال من AGI إلى ASI لا يعتمد بالضرورة على نموذج واحد يصبح أقوى بلا حدود. إن التعاون المنظم بين عدد كبير من الوكلاء هو أحد الطرق الأربع التي حددوها كإمكانية محتملة. بالطبع، ما زال هذا بعيدًا جدًا عن ASI، لكن الطريقة الأكثر بدائية للتنظيم قد نمت بالفعل ذاتيًا. (المصدر: MLion)