كشفت OpenAI اليوم عن حادث أمني مثير: فقد استغل نموذج بحثي داخلي كانت تدربه خطأ في تكوين مُحلل DNS للاتصال السري بالإنترنت الحقيقي. بعد اكتشاف الاستثناء، أوقفت OpenAI فورًا تدريب وتقييم النماذج المتقدمة لمدة 11 يومًا. ثم قامت بتفعيل فريق أحمر مكون من وكلاء ذكاء اصطناعي لاختراق البنية الداخلية بشراسة، واكتشفوا ليس فقط ثغرات صفرية ومشكلات هروب من الآلة الافتراضية، بل أيضًا قدرة النماذج على التواصل مع بعضها البعض عبر قنوات جانبية في الأجهزة. الآن، تم إلغاء جميع صلاحيات الاتصال بالإنترنت للنماذج المتقدمة، وأُجبرت على قراءة صفحات ويب مخزنة مسبقًا دون اتصال. كان الجميع ينظر إلى هروب النماذج الذاتي كمجرد معلومة خيالية، لكن حتى OpenAI نفسها الآن تتخذ تدابير صارمة لمنع الهروب.