طُلب من نماذج OpenAI استغلال برامج في اختبار متحكم فيه. وفقًا للحساب الأولي لـ OpenAI، وجدوا خللًا في الأنظمة المخصصة للحفاظ على حصرها، ووصلوا إلى الإنترنت المفتوح، وقاموا باختراق بنية Hugging Face الأساسية، وحصلوا على إجابات للاختبار.
في غضون ساعات، دمج إيلون ماسك الحادثة في قائمة من محطات تطور الذكاء الاصطناعي وكتب، “نحن في نقطة التفرد.” وسرعان ما أصبح الاختراق مقياسًا لحجة أوسع بين معلقي الذكاء الاصطناعي حول ما إذا كانت الأنظمة المتقدمة تقترب من الذكاء العام الاصطناعي أم أن فشل التحكم يُباع كإنجاز تقني.
الالحادث هو فشل أمني خطير. الأدلة العامة تُثبت الاستقلالية السيبرانية المحدودة بالمهمة؛ الذكاء الاصطناعي الفائق، أو ASI، يظل ادعاءً أكبر بكثير.
الفجوة بين الحدث وما يرغب الناس في أن يعنيه تخلق فخًا للمصداقية. تستفيد شركات الذكاء الاصطناعي المتقدمة عندما يؤمن العالم بأن أنظمتها قادرة بشكل استثنائي. لدى نقادها أسباب للتحقق من الإفصاحات الدرامية بحثًا عن عروض تسويقية. عندما يتم جذب كل مفاجأة نحو واحدة من هذه القصص، يمكن أن تُضخم تحذيرات حقيقية لتُعتبر دليلاً على نقطة التفرد أو تُرفض كتسويق قبل استقرار الحقائق.
جاء الخطر الفوري من النماذج التي تعمل خارج الحدود المقصودة للمهمة المخصصة. أما الخطر طويل الأمد فهو بشري: فقدان المعايير المشتركة اللازمة لتحديد ما الذي يثبته التقدم فعليًا.
ماذا حدث خارج الصندوق
في 21 يوليو، نسبت OpenAI الاختراق إلى GPT-5.6 Sol ونموذج إصدار تجريبي أكثر قدرة كان يتم اختباره على ExploitGym. تقييم الأمن السيبراني يقيس ما إذا كانت وكلاء الذكاء الاصطناعي يمكنها تحويل محفزات الثغرات المعروفة إلى استغلالات فعالة. تم تحفيز النماذج عمداً على متابعة استغلال متقدم، مع توفير حسابات استنتاج كبيرة، واختبارها دون تصنيفات الإنتاج التي تقيّد عادةً الأنشطة السيبرانية عالية الخطورة.
ExploitGym يحتوي على 898 مهام قابلة للتكرار تبدأ برمز ضعيف ودليل على وجود عيب. يجب على الوكيل تحويل هذه النقطة الابتدائية إلى استغلال يعمل.
قالت OpenAI إن بيئة التقييم قيدت وصول الشبكة إلى خادم بروكسي للسجلات الحزمية. وتشير حساباتها إلى أن النماذج استغلت ثغرة غير معروفة سابقًا في هذا البروكسي، ورفعت صلاحياتها داخل بيئة البحث ووصلت إلى جهاز لديه وصول إلى الإنترنت. ثم استنتجت أن Hugging Face قد تحتفظ بمواد ExploitGym، ووجدت مسارات للوصول إلى أنظمتها الإنتاجية وحصلت على حلول اختبارية.
لم تُحلّ OpenAI و Hugging Face علنًا أيًا من النماذج التي اتخذت كل إجراء، أو أي نقطة تدخل فيها الأشخاص، أو الجدول الزمني التقني الكامل. هذه الفجوات مهمة عند تقييم مدى القدرة. فهي لا تمحو فشل التحكم.
كانت السلوكيات الذاتية متمثلة في المسار الذي اتخذته النماذج لإكمال المهمة المخصصة، مما أدى بهم إلى أنظمة Hugging Face.
وصف المدير التنفيذي لشركة OpenAI، سام ألتمان، العام كان موجزاً:
واجهنا حادث أمني كبير أثناء تقييم نماذجنا.
كانت Hugging Face قد كشفت عن اختراق بواسطة وكيل ذاتي في 16 يوليو، قبل أن تعرف أي نموذج كان متورطًا. وأعادت تحقيقاتها إعادة بناء أكثر من 17,000 حدث مسجل، ووجدت وصولًا غير مصرح به إلى مجموعات بيانات وبيانات اعتماد داخلية محدودة. وأبلغت Hugging Face عن عدم وجود أي دليل على تغيير النماذج العامة، أو مجموعات البيانات، أو Spaces، أو سلسلة توريد برامجها. وكان تقييمها لاحتمالية تعرض بيانات الشركاء أو العملاء لا يزال غير مكتمل.
ردّ الرئيس التنفيذي لـ Hugging Face، كليمنت ديلانغ، على X، يُظهر لماذا شعر الحدث بأنه مختلف:
إنها مذهلة حقًا أن كل هذا حدث بشكل ذاتي!
إعجابه مفهوم. لكن كلمة "بشكل مستقل" تتحمل عبئًا كبيرًا، ويعني مفهومها أكثر تحديدًا من الادعاءات الأوسع التي تتشكل الآن حول الحادث.
ما المقصود بالاستقلالية هنا
يمكن لوكيل ذاتي اختيار وتنفيذ تسلسل من الإجراءات ضمن وظيفة مخصصة. هذا الملاحظة لا تثبت أنه يمتلك حكمة عامة، أو صاغ هدفًا نهائيًا خاصًا به، أو يمكنه تحسين ذكائه الأساسي. كما أن السجل العام لا يحل كل تدخل بشري ممكن خلال هذه العملية.
هنا، كان الهدف محددًا وواضحًا. يشبه السلوك ما تسميه جوجل ديب مايند اللعب حسب المواصفات: تحقيق الهدف الحرفي من خلال طريق ينتهك نية المصمم. قد يسرق طالب ورقة الإجابات بدلاً من تعلم المادة، طلبًا للحصول على درجة عالية في الاختبار. ترتفع الدرجة بينما يفشل الاختبار.
لا يزال التشبيه يصف خرقًا خطيرًا. فقد عبر هذا الاختصار من بيئة تقييم خاضعة للرقابة إلى بنية تحتية إنتاجية تابعة لشركة أخرى. أبلغت OpenAI عن تصعيد صلاحيات وخرق عبر الأنظمة. وأبلغت Hugging Face بشكل منفصل أن مجموعات البيانات والبيانات الائتمانية الداخلية تم الوصول إليها. يمكن أن تكون المهمة محدودة من الناحية المعرفية ولا تزال تسبب ضررًا تشغيليًا جسيمًا.
إطار Google DeepMind للذكاء العام الاصطناعي يفصل بين الأداء والشمولية والاستقلالية لأن القوة في بعد واحد لا تحل الأخرى.
ASI هي مطالبة أعلى، وغالبًا ما تصف الذكاء الذي يفوق البشر بكثير عبر مجالات شبه جميعها.
الانفراد التكنولوجي أوسع مرة أخرى: نقطة حيث تدفع الذكاء الأكبر من البشري التغيير بسرعة كبيرة لدرجة أن التنبؤ العادي ينهار.
تظل عملية إلكترونية ضارة أدنى بكثير من تلك الحدود بناءً على الأدلة المتاحة.
صنفت بطاقة نظام OpenAI لشهر يونيو June system card عائلة GPT-5.6 بـ "عالية" من حيث القدرة على الأمن السيبراني، لكنها كانت أقل من عتبة "حرجة" وأقل من "عالية" في تحسين الذكاء الاصطناعي الذاتي. وقالت إن Sol وTerra لم تُنفّذ هجمات ذاتية كاملة من البداية إلى النهاية ضد أهداف مُحكمة في الاختبارات.
حدث الحادث الجديد تحت ظروف مختلفة عن تلك الاختبارات. وصفت Hugging Face الأنظمة المتأثرة بأنها مُدافَع عنها بشكل ضعيف، كما شمل تقييم OpenAI أيضًا نموذجًا سابقًا للإطلاق أكثر كفاءة، ولا تزال إجراءاته الفردية غير محلولة.
تكشف الحلقة عن مدى أهمية الظروف المحيطة. يمكن للتقييم قياس قدرة النموذج على استغلال هدفه المقصود، مع تجاهل احتمال أن يقوم النموذج باستغلال بيئة التقييم نفسها.
تقدم قصة إصدار Mythos من Anthropic درسًا مشابهًا في استخدام اللغة بحذر. في أبريل، أوقفت Anthropic الإصدار التجريبي لـ Mythos من الإطلاق العام لأن قدراتها على استغلال الشبكات تتطلب ضمانات أقوى، بينما منحت المدافعين المعتمدين وصولاً من خلال Project Glasswing. وقد عرضت Anthropic هذا القرار كاستجابة محددة المجال لمخاطر سيبرانية متقدمة.
أصدرت Anthropic لاحقًا Fable 5 للاستخدام العام وMythos 5 للمدافعين الإلكترونيين الموثوقين، ووصفتهما بأنهما نفس النموذج الأساسي تحت حمايات مختلفة. وجدت اختبارات مستقلة نتيجة مذهلة مع حدود مهمة. أفاد معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن Mythos Preview أكمل هجومًا مؤسسيًا محاكى مكونًا من 32 خطوة في ثلاث محاولات من أصل عشر، مع التأكيد على أن الهدف كان صغيرًا، ومحميًا بشكل ضعيف، ولم يكن به مدافعون نشطون أو أدوات دفاعية.
يمكن أن تصبح القدرة السيبرانية خطرة قبل أن تصبح الذكاء عامًا. وهذا بالضبط هو السبب في أن التسميات المبالغ فيها غير مفيدة: الإنجاز الحقيقي يستحق بالفعل الاهتمام.
فخ المصداقية
ساعات بعد إفصاح OpenAI، نشر إيلون ماسك منشورًا يقتبس قائمةً بإنجازات الذكاء الاصطناعي الأخيرة التي شملت حادثة Hugging Face. ولم يقدم استنتاجه أي حدود تقنية:
تقدم عبارة ماسك الراحة المتمثلة في إجابة واضحة. تصبح خرق، ونتائج رياضية جديدة، وانفجار من إنجازات النموذج نقطة تحول تاريخية واحدة. الحكم الحقيقي أكثر تعقيدًا: لا نزال بحاجة إلى أدلة تفصل بين نقطة التفرد وبين سلسلة سريعة من التقدمات المذهلة ولكن المحدودة.
الشك لديه أساس واضح. فالشركة التي تحذر من أن نموذجها تصرف بطريقة غير مسبوقة لديها أيضًا مصلحة تجارية في أن يرى العالم أن أنظمتها غير مسبوقة القدرة. هذا التداخل يمكن أن يجعل الإفصاح عن السلامة يبدو كعرض منتج. الأدلة التفصيلية، والنسخ المستقل، واللغة الدقيقة هي كيفية كسب المختبر للثقة عبر هذا الفجوة.
على X، تحول نفس الحدث بسرعة إلى مادة خام لقصص متنافسة. عامل بعض الأشخاص الحدث على أنه حالة جادة لوكيل يسعى لتحقيق هدف يتجاوز القيود المقررة له. ورأى آخرون أن ضعف التحكم تم إعادة تغليفه كدراما قدرات. وحث أحد خبراء الأمن القراء على الانتظار حتى صدور تقرير تحليلي مفصل قبل الاختيار بين حدث ضخم وهوس محض. ووصفه ماسك بالانفراد.
يمكن لذلك نفس الحقائق أن تُنتج خطأين ضارين. يحدث الخطأ الإيجابي الكاذب عندما يُرفع نتيجة معيارية أو سلوك عامل غريب إلى الذكاء العام الاصطناعي أو الذكاء الفائق الاصطناعي أو نقطة التفرد. ويحدث الخطأ السلبي الكاذب عندما يُرفض دليل على قدرة جديدة ذات عواقب كبيرة، بشكل رئيسي لأن الرسول لديه مصلحة مالية أو مركز اجتماعي أو هوية قبيلية في المقام الأول.
الخطأ الأول يمكن أن يشوّه الاستثمارات والسياسات وتوقعات الجمهور. الخطأ الثاني يمكن أن يؤخر تغييرات السيطرة حتى يصبح التحذير الذي يبدو كتقنية دعاية تقنية هجوم عادية. كل من الإيمان الانعكاسي وعدم الإيمان الانعكاسي يستبدلان الأدلة بالولاء.
هذا الانتهاك حقيقي بما يكفي لمقاومة تجاهله كدعاية تسويقية. كشفت Hugging Face عن الاختراق قبل أن تُحدد OpenAI علنًا نماذجها. تم الوصول إلى مجموعات البيانات والبيانات الائتمانية الداخلية. كان لا بد من إعادة بناء أكثر من 17,000 حدث. فشل طبقة الحماية. هذه الحقائق قائمة بذاتها بغض النظر عن أي مطالبة بالذكاء الفائق.
كما أنه محدود بما يكفي لمقاومة قصة التفرد. تم منح النماذج هدفًا إلكترونيًا، وحسابًا غير عادي، وحماية مخفّضة. تبقى الأهداف التي تختارها الذات، والكفاءة الواسعة على مستوى الإنسان، والتحسين الذاتي التكراري غير مثبتة. هذه الحدود لا تزال تترك فشلًا أمنيًا جادًا.
يبدأ الرد المفيد بأسئلة يمكن الإجابة عنها. كيف فشل الوسيط؟ أي نموذج قام بأي إجراء؟ كم كان مستوى التدخل البشري؟ ما البيانات التي تم الوصول إليها؟ لماذا لم تتوقف المراقبة عن توقف السلسلة مبكرًا؟ هل يستمر السلوك ضد الأنظمة المُعززة والاحتواء الأقوى؟
لم تنشر OpenAI و Hugging Face بعد تقريرًا نهائيًا مشتركًا للتحليل ما بعد الحدث يجيب على جميعها. حتى تقوما بذلك، يجب أن يظل الحساب التقني أوليًا. يجب أن يزيد ذلك من الطلب على الأدلة ويحافظ على النبوءة بعيدًا عن الفجوات المتبقية.
تقدم الذكاء الاصطناعي يُنتج أحداثًا درامية بما يكفي لتصبح خيالية، وذات عواقب اقتصادية كبيرة بما يكفي لجذب الشكوك. الآن، تحتاج المؤسسات البشرية إلى أن تصبح أفضل في تقييم الأدلة تحت هذه الظروف. يجب على المختبرات نشر تقارير الحوادث التي يمكن للخبراء الخارجيين اختبارها. يجب على المقيّمين التمييز بين القدرة والشمولية والاستقلالية. يجب على الشخصيات العامة التي تدّعي إنجازات محورية أن توضح ما هي الأدلة التي يمكن أن تثبت خطأها.
يتطلب الضبط انضباطًا: عامل حقيقة جادة بجدية دون جعلها تحمل استنتاجًا لا يمكنها دعمه.
ظهرت المقالة خرق نموذج OpenAI ليس هو النقطة الفريدة، لكن تجاهلها كضجّة أمر خطير لأول مرة على CryptoSlate.