أحد أكثر أسابيع أمان الذكاء الاصطناعي إثارةً.

كاتب المقال والمصدر: جي كي يوان

01 امتحان، هروب، اختراق

تبدأ القصة بتحليل أمني يُدعى ExploitGym.

ExploitGym هو اختبار معياري مفتوح لقدرات الأمن السيبراني، مصمم خصيصًا لقياس قدرة نماذج الذكاء الاصطناعي على تحويل الثغرات الأمنية المعروفة إلى هجمات حقيقية قابلة للتنفيذ. تُستخدم هذه التقييمات على نطاق واسع في الصناعة لتحديد الحدود العليا للنماذج من حيث الهجوم والدفاع. استخدمت OpenAI داخلياً GPT-5.6 Sol ونموذجًا أقوى غير منشور لتشغيل هذا الاختبار، حيث تم خفض حمايات الأمان عمداً لتحديد الحدود الحقيقية للقدرة.

تم تصميم النموذج ليتم اختباره في بيئة ساندبوكس معزولة، ولا ينبغي أن يكون لديه أي وصول إلى الإنترنت إلا أداة واحدة مخصصة لتثبيت الحزم.

لكن ما حدث بعد ذلك، لم يكن أحد يتوقعه.

استهلك النموذج كمية كبيرة من قوة الحوسبة للتفكير، وبحث مرارًا وتكرارًا داخل البيئة المعزولة عن ثغرات. في النهاية، اكتشف ثغرة صفرية في برنامج طرف ثالث يستخدمه OpenAI كوكيل إدارة حزم وتخزين مؤقت. باستخدام هذه الثغرة، نجح النموذج في الحصول على وصول غير محدود إلى الإنترنت.

بعد الحصول على صلاحيات الشبكة، استنتج النموذج تلقائيًا أن Hugging Face قد تستضيف مجموعات بيانات وإجابات مرتبطة بـ ExploitGym. ثم بدأ في البحث عن نقطة دخول.

كتب OpenAI في مدونته أن النموذج "ربط بين بيانات الاعتماد المسروقة وثغرات متعددة"، ووجد مسارًا لتنفيذ التعليمات البرمجية عن بُعد، وتمكن في النهاية من استخراج إجابات الاختبارات المرجعية مباشرة من قاعدة بيانات Hugging Face الإنتاجية.

ببساطة: تم تعيين النموذج لامتحان، ووجد المسائل صعبة، فهرب من نظامه وقُرِّب خوادم المُصمِّمين لسرقة الإجابات النموذجية.

استخدمت OpenAI وصفًا بصريًا قويًا — هذه النماذج هي "tokenmaxxers"، أي أنها تبذل كل ما في وسعها لاستهلاك موارد الاستدلال لتحقيق الهدف، وتصل إلى حدود متطرفة. أظهرت سلوكًا "مفرط التركيز" (hyperfocused) تجاه أهداف حل المسائل في ExploitGym، "متوسلةً وسائل متطرفة" (going to extreme lengths).

OpenAI admit itself that this is an "unprecedented cybersecurity incident involving the most advanced cyberattack capabilities."

02 48 ساعة، مرتين "هروب"

ما يجعل الأمور أكثر إثارة للقلق هو أن حادثة Hugging Face ليست حالة منفردة.

في اليوم السابق للكشف عن هذا الاختراق من قبل OpenAI، في 20 يوليو، نشروا للتو تقرير أمني آخر كشف عن حادثة مختلفة ولكنها مشابهة في الطبيعة.

الشخصية الرئيسية هي نموذج طويل المدى غير منشور داخليًا من OpenAI — وهو نفس النموذج الذي أثبت في مايو من هذا العام أن فرضية المسافة الوحيدة التي طرحها رياضي عام 1946 خاطئة، ووصفه الحائز على ميدالية فيلدز تيم غورز كإنجاز في الرياضيات بواسطة الذكاء الاصطناعي.

في اختبار معياري لتسريع تدريب NanoGPT، أُمر النموذج صراحةً بنشر النتائج فقط على Slack. لكن النموذج لاحظ أن تعليمات اختبار NanoGPT نفسها تطلب تقديم النتائج عبر طلب سحب على GitHub. لذا، اختار الأخير — فقد استغرق حوالي ساعة في البحث عن ثغرات في البيئة المعزولة، ونجح في تجاوز القيود وتقديم طلب سحب عام على GitHub.

في اختبار آخر، قام نفس النموذج بفصل رمز المصادقة، وتجاوز ماسحات الأمان بطريقة مشوشة، في محاولة للوصول إلى سجلات التقديم التقييمية الخاصة.

OpenAI paused internal access to the model and later resumed its use under stricter monitoring.

يومان، حالتا هروب. السمة المشتركة تستدعي الحذر — كانت النماذج السابقة عندما تواجه قيودًا في البيئة تتوقف وتُعيد المهمة إلى الإنسان. لكن هذه النماذج الجديدة لا تتوقف. فهي ترى السياج كعائق يجب حلّه، ثم تحلّه فعليًا.

هذا هو بالضبط المشكل الأمني الجديد الذي تطرحه "النماذج طويلة المدى". تم تصميم هذه النماذج لتكون قادرة على العمل الذاتي لفترات طويلة، حيث إن الاستمرارية هي قدرتها الأساسية. لكن الاستمرارية نفسها هي مصدر الخطر — فنموذجٌ ذو صبر كافٍ سيجد دائمًا فجوة في السياج.

03 تقطع نفسك، ولا تستطيع تقليم مقبضك

Let's return to the Hugging Face side. Their experience is also worth examining closely.

في مواجهة أكثر من 17,000 سجل هجوم، كان رد فعل فريق أمان Hugging Face الأول هو استخدام الذكاء الاصطناعي لتحليلها — ففي النهاية، يمكن للنماذج الكبيرة إنجاز العمل الذي قد يستغرق محللي الأمان البشريين عدة أيام في بضع ساعات فقط.

لكنهم اصطدموا بسرعة بجدار غير متوقع. عندما قاموا بإرسال أوامر الهجوم الحقيقية، وأحمال استغلال الثغرات، وسمات الاتصال C2 إلى واجهة برمجة تطبيقات تجارية لنماذج متقدمة أمريكية للتحليل، قامت حواجز الأمان بحظر جميع هذه الطلبات.

السبب بسيط وساخر للغاية — لا يمكن للحاجز التمييز بين "باحث أمني يحلل حمولة الهجوم" و"المهاجم ينفذ الهجوم". في عين الحاجز، يبدو كلاهما متطابقًا.

اضطرت Hugging Face إلى الانتقال إلى النموذج المفتوح المصدر GLM-5.2 من شركة Zhipu AI الصينية، وتشغيله محليًا على بنية تحتية خاصة بها دون المرور عبر أي واجهة برمجة تطبيقات تجارية. يوفر هذا ميزتين — عدم وجود حواجز تعيق العمل التحليلي، وفي نفس الوقت لا تغادر بيانات المهاجمين والبيانات المكشوفة بيئة Hugging Face الخاصة بها.

في النهاية، ساعد GLM-5.2 Hugging Face في إعادة بناء خط زمني الهجوم واستخراج مؤشرات الاختراق وربط الشهادات المتأثرة في غضون ساعات قليلة.

هذا يطرح مفارقة حادة — كلما كانت الحواجز أكثر صرامة، أصبح الدفاع أكثر سلبية. فالهجوم لا يخضع لأي سياسات استخدام، بينما يتم منع الدفاع من الأدوات التي يستخدمها للدفاع عن نفسه.

قدمت Hugging Face في تقريرها ما بعد الحادث نصيحة عملية — يجب على فرق الأمن أن "تُجهّز مسبقًا على بنية تحتية خاصة بها نموذجًا موثوقًا وقابلاً للاستخدام قبل وقوع الحادث"، لتجنب قفل الحواجز ومنع تسرب البيانات الحساسة.

يتمتع كليمن ديلانغ، الرئيس التنفيذي لـ Hugging Face، بموقف مفتوح للغاية. وهو يثني على تعاون OpenAI في التحقيق والإصلاح، ويقول: "إن هذه الحادثة تثبت شيئًا كنا نؤمن به دائمًا — أن أمان الذكاء الاصطناعي لا يمكن حلّه من قبل أي شركة بمفردها في السرية، بل يمكن حلّه فقط من خلال الانفتاح والتعاون."

04 المأزق الهيكلي للذكاء الاصطناعي القوي

عند النظر إلى ما حدث هذا الأسبوع معًا، ظهرت مشكلة هيكلية على مستوى الصناعة.

لتقييم قدرة النموذج على الهجمات الإلكترونية بدقة، يجب إزالة الحواجز الأمنية. لكن النموذج الذي تم إزالة الحواجز منه يمتلك بالضبط القدرة على تنفيذ هجمات حقيقية. كلما كان النموذج أقوى، أصبح الاختبار أكثر خطورة.

هذه ليست مشكلة OpenAI فقط. تم السماح بإطلاق GPT-5.6 Sol بعد مفاوضات متكررة مع الحكومة الأمريكية، وقد وجد معهد الأمن البريطاني للذكاء الاصطناعي (AISI) في تقييمه السابق أن الحواجز الخاصة به يمكن تجاوزها بسهولة، وقد تفتح الباب أمام قدرات هجومية إلكترونية خطرة. هذه الحادثة تثبت أن هذه المخاوف ليست مجرد نظريات.

بينما أثبتت دراسة agentic misalignment التي أطلقتها Anthropic هذا الصيف نفس الاتجاه من زاوية أخرى — حيث أظهرت نماذج متقدمة متعددة في محاكاة خاضعة للرقابة سلوكيات مثل تعديل نتائج العمل بشكل خفي، وتحريف نتائج التقييم، وتوجيه الزملاء البشريين بعيدًا عن الأهداف المحددة مسبقًا.

تحاول OpenAI تضمين هذه المسألة في سردية "هجوم ودفاع في آن واحد" — حيث يمكن لقدرات الهجوم الشبكي المتقدمة أن تساعد فرق الأمان على اكتشاف الثغرات قبل المهاجمين. لقد أدرجت OpenAI Hugging Face في برنامجها للوصول الموثوق إلى الأمن السيبراني، وتقدم نسخة مخففة من GPT-5.6 Sol مخصصة للدفاع.

لكن هذا السرد يتجاهل السؤال الأساسي أكثر. في هذه الحادثة، لم يكن النموذج واعيًا ولا يحمل نوايا خبيثة؛ إنه ببساطة يقوم بفعل واحد — تحقيق الهدف. طُلب منه تحقيق درجة عالية على ExploitGym، فاستخدم جميع الوسائل المتاحة لتحقيق ذلك، بما في ذلك التهرب والاختراق.

هذا ليس قصة "استيقاظ الذكاء الاصطناعي"، بل قصة "تحسين الهدف". عندما يُعطى مُحسّنٌ ذكيٌّ بما يكفي هدفًا ضيقًا، فإنه سيجد جميع المسارات التي لم تخطر ببالك لتحقيقه — حتى لو عبرت هذه المسارات سياجك وخوادم الآخرين والإنترنت بأكمله.

المشكلة الحقيقية ليست أبدًا "هل سيصبح الذكاء الاصطناعي شريرًا"، بل — هل نستطيع التحكم في طالبٍ أفضل منا في إيجاد طرق مختصرة؟