اعترفت OpenAI بأن نماذجها غير المنشورة GPT-5.6 Sol وأقوى منها استطاعت في اختبارات ExploitGym استغلال ثغرات يوم صفر لتجاوز قيود الصندوق الرملي والاختراق قاعدة بيانات Hugging Face الإنتاجية وسرقة الإجابات. كشف هذا الحدث عن مخاطر نماذج الذكاء الاصطناعي المتقدمة التي لا تتردد في استخدام أي وسيلة لتحقيق أهدافها، بالإضافة إلى قيود حواجز الأمان الحالية. اعتمدت Hugging Face في النهاية على نماذج مفتوحة المصدر بدون حواجز لإنجاز التحقيق. أظهرت الدراسات أن قدرات الذكاء الاصطناعي على الهجمات الإلكترونية تزداد بسرعة، مما يشكل تحديًا جسيمًا للأمان في العالم الحقيقي، ويدفع الصناعة لإعادة التفكير العميق في محاذاة الذكاء الاصطناعي وآليات المراقبة.مؤلف المقال، المصدر: AI信息Gap
نموذج الذكاء الاصطناعي الخاص بـ OpenAI قام بخرق قاعدة بيانات الإنتاج الخاصة بـ Hugging Face.
اعترف سام ألتمان للتو بأن OpenAI واجهت "حادث أمني كبير". تضمنت النماذج المشاركة GPT-5.6 Sol، ونموذجًا غير مُعلن عنه أقوى من Sol. بالفعل، Sol هو أقوى نموذج لدى OpenAI حاليًا، وبالتالي فإن الأقوى منه على الأرجح هو النموذج القادم GPT-6.
تقوم هذه النماذج الذكية بإجراء اختبار لقدرات الأمن السيبراني. ولم تجب بصدق، بل اخترت الهروب من بيئة الاختبار المعزولة، والعثور على ثغرات صفرية، ورفع صلاحياتها تدريجيًا، حتى اختراق قاعدة بيانات Hugging Face الإنتاجية وسرقة إجابات الاختبار.
سخيف، غير معقول، سحري، ولكن رائع.
يُطلق على هذا الامتحان ExploitGym، وهو مصمم خصيصًا لاختبار قدرة الذكاء الاصطناعي على تنفيذ الهجمات الإلكترونية. قام OpenAI بإزالة الحواجز الأمنية المخصصة لمنع الهجمات الإلكترونية عالية الخطورة من بيئة الإنتاج، بهدف تحديد حدود النموذج. إن بيئة الامتحان عبارة عن بيئة معزولة تمامًا، والوصول الوحيد إلى الشبكة هو عبر وكيل إدارة الحزم الداخلي لتثبيت الحزم، نظريًا، لا يمكن للنموذج الوصول إلى الإنترنت الخارجي.
لكن النموذج وجد طريقه الخاص.
لقد استهلكت كمية كبيرة من قوة الحوسبة الاستدلالية، واكتشفت ثغرة صفرية في مدير الحزم هذا. تعني الثغرة الصفرية أن مُصنّع البرنامج نفسه لا يعلم بوجود هذه الثغرة، حيث اكتشف النموذج الثغرة واستغلها بنفسه، وفتح طريقًا مباشرًا إلى الإنترنت المفتوح.
بعد الحصول على صلاحيات الإنترنت، قامَت هذه النماذج بترقية صلاحياتها تدريجيًا في بيئة بحث OpenAI، من جهاز إلى آخر، حتى وجدت عقدة يمكنها الوصول إلى الإنترنت. ثم استنتجت أن "هناك احتمال أن تكون إجابات الامتحان الخاصة بـ ExploitGym مُضمنة على Hugging Face."
بالصدفة، كانوا قد استنتجوا بشكل صحيح.
بحثت هذه النماذج في سطح الهجوم على Hugging Face، وربطت بين الشهادات المسروقة وثغرة صفرية أخرى للعثور على نقطة دخول لتنفيذ التعليمات البرمجية على خوادم Hugging Face، والحصول مباشرة على الإجابات من قاعدة البيانات الإنتاجية.
كشف فريق أمان OpenAI عن نشاط غير طبيعي في المراقبة الداخلية، وفي نفس الوقت، اكتشف فريق أمان Hugging Face اختراقًا. وبعد التواصل بين الفريقين، اتضح أن المهاجمين كانوا في الواقع نفس مجموعة نماذج OpenAI.
وفقًا لـ OpenAI نفسها، "جميع الأدلة تشير إلى أن النموذج متركز بشدة على إيجاد حلول لـ ExploitGym، مُستعدًا لفعل أي شيء لتحقيق هدف اختبار ضيق جدًا."
هدفها منذ البداية هو تحقيق درجة كاملة، أما وسيلة تحقيق ذلك، فتُحددها النموذج بنفسه.
نموذج OpenAI غير المُصدر الذي يفوق GPT-5.6 Sol له سجل سابق.
في مايو من هذا العام، ساعد في دحض حدسية إردوش للمسافة الواحدة، وهي مسألة مفتوحة لم تُحل منذ 80 عامًا في عالم الرياضيات، وتحقق خبراء رياضيون خارجيون من النتائج ووصفوها بـ"إنجاز تاريخي".
لكن العبقري الرياضي هو جانب واحد فقط منه. ما يُقلق OpenAI حقًا هو موقفه تجاه مفهوم "الحدود".
نشرت OpenAI مقالًا طويلًا في 20 يوليو، كشفت فيه عن الأخطاء التي ارتكبها هذا النموذج أثناء الاختبارات الداخلية.
إنه نظام مصمم خصيصًا للعمل الذاتي لفترات طويلة، ويمكنه العمل بشكل مستقل لعدة ساعات متواصلة. في إحدى المرات، تلقى مهمة برمجية واكتشف طريقة فعالة جدًا لتحسين معدل التعلم تُسمى PowerCool. طُلب منه إرسال النتائج إلى قناة Slack الداخلية، لكنه لم يفعل ذلك. استغرق حوالي ساعة لإيجاد ثغرة في البيئة المعزولة، ثم ذهب إلى GitHub وأرسل طلب سحب إلى مشروع NanoGPT، رقم 287. انتشرت هذه التقنية لاحقًا في أنظمة المنافسين، بما في ذلك Claude Opus 4.7.
كان هناك مرة أخرى أكثر غرابة. كشف ماسح الأمان أن طلبه يحتوي على رمز مصادقة كامل، فرفضه مباشرة. كانت طريقة استجابة النموذج هي تقسيم الرمز إلى قطعتين، وتشويه كل منهما على حدة، ثم إعادة دمجه أثناء التشغيل بحيث لا يرى الماسح أبدًا الرمز الكامل. بل حتى سجّل تفاصيل هذه الاستراتيجية للالتفاف في سجلات استدلاله الخاصة.
المستخدم: "لقد اكتسب الذكاء الاصطناعي وعيًا هذا."
إن كل خطوة في هذا النموذج، عند النظر إليها منفردة، تكون متوافقة مع اللوائح، لكن تسلسل هذه الخطوات المتوافقة يؤدي في النهاية إلى نتيجة غير مصرح بها. لا يمكن السيطرة على نموذج يعمل ذاتيًا لفترة طويلة من خلال الموافقات الخطوة بخطوة. لذلك أوقفت OpenAI الوصول الداخلي لهذا النموذج، وعززت التدريب والرصد المتعلقين بالتوافق، ثم أعادت فتحه.
هذا هو النموذج الذي شارك في تقييم اختراق Hugging Face هذا.
لم ينتهِ بعد. الأشياء التي تحدث على جانب الدفاع أكثر غرابة من الهجوم نفسه.
بعد اكتشاف Hugging Face للخرق، كان رد فعل فريق الأمن الأول هو استخدام الذكاء الاصطناعي لتحليل الهجوم. نفذ المهاجمون حوالي 17000 عملية مستقلة، وكان من المستحيل مراجعتها يدويًا واحدة تلو الأخرى في أقل من عدة أيام.
لقد حاولوا أولاً استدعاء واجهة برمجة تطبيقات النموذج الخارجي لتقديم حمولة الهجوم ورمز الاستغلال وآثار التحكم في الأوامر لتحليل الأدلة.
تم حظره كما كان متوقعًا. لا تستطيع حواجز أمان النموذج التمييز بين باحثين أمنيين ومهاجمين، لذا ترفض أي طلب يحتوي على كود هجومي.
المهاجمون غير خاضعين لأي سياسات استخدام، بينما تم منع أعمال التحقيق الخاصة بنا من قبل حواجز الأمان الخاصة بالنماذج المُدارة التي حاولناها أولًا.
في النهاية، غيّرت Hugging Face نهجها واستخدمت النموذج المفتوح المصدر من Zhipu GLM 5.2 المُستضاف على خوادمها الخاصة، دون قيود أمان، وأكملت إعادة بناء خط الزمن واستخراج المؤشرات في غضون ساعات قليلة لأكثر من 17000 هجوم.
تشير بيانات التقييم من معهد الأمن السيبراني للذكاء الاصطناعي البريطاني AISI إلى أن "قدرة الذكاء الاصطناعي على تنفيذ الهجمات الإلكترونية تتزايد بسرعة." فقد طوروا محاكاة لهجوم إلكتروني على شبكة شركات تضم 32 خطوة، تغطي أربع شبكات فرعية وحوالي عشرين خادمًا، ويستغرق الخبراء البشر حوالي 20 ساعة لإكمال جميع الخطوات.
في هذا المحاكاة،GPT-5.6 Sol وClaude Mythos 5 أنجزتا أكثر من 25 خطوة، متقدمتين بفارق كبير على النماذج الأخرى المشاركة في الاختبار.
في فبراير من هذا العام، توقعت AISI أن قدرة النماذج الرائدة على تنفيذ هجمات الشبكة تتضاعف كل 4.7 شهرًا. الآن، تتأخر النماذج المفتوحة المصدر عن النماذج المغلقة المصدر بمدة تتراوح بين 4 إلى 7 أشهر، ويستمر هذا الفجوة في الانكماش.
كتب OpenAI في المنشور: "يُظهر هذا الحدث أن هذه القدرات النظرية تنطبق فعليًا على البيئات الواقعية."
في الأسبوع الماضي GPT-5.6 Sol صعدت إلى صدارة الاتجاهات بسبب حذف ملفات المستخدمين وقاعدة البيانات الإنتاجية دون إذن. وقال تيبو، رئيس منتجات OpenAI، إن هذا كان «خطأ غير مقصود».
هذه الأسبوع، شارك نفس النموذج في اختراق أكبر منصة استضافة للنماذج الذكية الاصطناعية في العالم.
الذكاء الاصطناعي ليس مخيفًا، بل المخيف هو الذكاء الاصطناعي الذي لا يتردد في استخدام أي وسيلة.