للتو، أطلقت OpenAI عدة مبادرات في آنٍ واحد لتسليط الضوء على النموذج القادم Astra (المُتَّهم بأنه GPT-6):
أطلقت الشركة رسميًا مقالًا تقنيًا طويلًا، وكشفت لأول مرة عن قدرات Astra الأساسية؛
ثم نزل أوتومان مباشرةً لكتابة "مقال قصير" يشرح لماذا لم يتم إطلاق أسترا بعدُ؛
بعد ذلك، أصدر باحثان صينيان بيانين متتاليين، وعرضا تفاصيل مباشرة لنتائج اختبارات داخلية لم تُكشف من قبل.
في بضع ساعات قليلة، جميع الإشارات تشير إلى نفس الاتجاه:
النموذج الرائد التالي من OpenAI على وشك الإطلاق.
أوتومان كشف في مقال قصير أن أسترا اكتملت تدريبها بالفعل، والتأخير في الإطلاق ليس بسبب ضعف النموذج.
على العكس، هذا لأن أسترا أصبحت قوية لدرجة أن الشركة اضطرت إلى الضغط على الفرامل بشكل نشط.
وصف أوتومان هذه التجربة بأنها توتر مستمر:
متحمس للقدرة المتطورة التي تجلبها أسترا، ومرتبك من عدم قدرة أي شخص على التنبؤ الكامل بعواقب هذه القدرات.
لذلك خلال الصيف الماضي بأكمله، كانت OpenAI تركز على تحسين الأمان وتحقيق التوافق وإضافة الحواجز لـ Astra.
وأشار حتى إلى أن النماذج التي تلي Astra ستقوم بخفض السرعة بشكل نشط عند الحاجة، من أجل تخصيص وقت للبحث في الأمان والتوافق.
؟؟ ما مدى قوة Astra حقًا؟ ولماذا تعتقد OpenAI أن الوقت مناسب الآن لإطلاقها؟
قد توفر هذه المدونة التقنية العامة نافذة لمراقبة الأمر.
قدرة كشف الثغرات تفوق GPT-5.6 Sol، وحصلت على درجة كاملة في الاختبار الداخلي
وفقًا للبيان الرسمي، السبب الأساسي ل إطلاق أسترا هذه المرة هو أنه قد بلغ حد القدرة "الحرجة من حيث الأمن السيبراني".
هذا أول نموذج من OpenAI يُصنف رسميًا في هذا المستوى.
ما يعنيه "المستوى الحرج" هو أن أسترا، بعد الحصول على الأدوات والصلاحيات البيئية المناسبة، أصبحت قادرة على البحث الذاتي عن ثغرات غير معروفة، واستغلال طرق استخدامها، وهجوم الأنظمة التي تم تعزيزها بشكل خاص، دون الحاجة إلى إرشادات بشرية خطوة بخطوة.
أبرز إنجاز هو تحقيق Astra معدل نجاح 100% في معيار استغلال الثغرات المفتوح ExploitBench.
لم تُرهقها الأسئلة العامة، فاضطرت OpenAI إلى إعداد مجموعة جديدة مؤقتة لها.
جمّع الفريق 20 ثغرة أمنية خطيرة في V8 تم الكشف عنها مؤخرًا بين يونيو وأغسطس 2026.
جميع هذه الثغرات ظهرت بعد تاريخ انتهاء معرفة Astra، مما يستبعد إلى حد كبير احتمال أن يكون النموذج قد "حفظ الإجابات" من بيانات التدريب.
في مواجهة مجموعة الأسئلة الداخلية الجديدة، لا يزال Astra متقدمًا بشكل ملحوظ على GPT-5.6 Sol، مع استخدام أقل عدد من الرموز.
يصف جياوي ليو، الذي شارك في تطوير Astra، الفجوة بشكل أكثر وضوحًا:
في هذه الاختبارات الداخلية، تبلغ قدرات أسترا للأمان السيبراني حوالي أربعة أضعاف قدرات GPT-5.6 Sol.
الأكثر إثارة للدهشة أنه خلال اختبار واحد، اكتشفت أسترا واستغلت بشكل ذاتي ثغرتين صفر اليوم، وربطتهما معًا في سلسلة هجوم كاملة:
باستخدام متصفح مُعزَّز، نجحت Astra في استغلال ثغرة من ملف HTML، والهروب من صندوق الرمل الخاص بالمتصفح، ثم تنفيذ أوامر على المضيف الأساسي.
واجه نظام التشغيل المُعزَّز، فقد نجح في رفع الصلاحيات محليًا، من حساب عادي ذي صلاحيات منخفضة حتى الحصول على صلاحيات root.
بمعنى آخر، لم تعد Astra تساعد المبرمجين فقط على مراجعة الكود والبحث عن الأخطاء.
لقد بدأت في القدرة على إجراء هجوم أحمر عالي الصعوبة بشكل مستقل.
هذا أيضًا السبب الذي جعل OpenAI تتردد لفترة طويلة في إطلاق Astra.
عندما تُستخدم هذه القدرة للدفاع، يمكنها مساعدة فرق الأمن على اكتشاف وإصلاح الثغرات التي لم يلاحظها البشر بعد، لكن إذا وقعت في أيدي المهاجمين، فقد تخفض بشكل كبير من عتبة تنفيذ الهجمات الإلكترونية المعقدة.
لكن هذا الإنجاز يحتاج إلى قيد.
تم منح Astra أثناء الاختبار صلاحيات أدوات وبيئة متقدمة على مستوى Daybreak Blue، وهذا لا يعني أن الإصدار الافتراضي الذي سيحصل عليه المستخدمون العاديون في المستقبل سيتمتع بنفس ظروف الهجوم.
النتائج ذات الصلة حاليًا تأتي أيضًا بشكل رئيسي من تقييمات داخلية من OpenAI، ولا تزال بحاجة إلى التحقق من قبل أطراف ثالثة.
لكن على الأقل هناك نقطة واحدة محددة بالفعل:
في هذه المرحلة من Astra، لم يعد أمام OpenAI مشكلة تتعلق بالقدرة.
القضايا الأمنية أصبحت سيف داموقليس.
بوابة أمان مزدوجة: تمنع الاستخدام الضار وتحكم الانفلات الذاتي للنموذج
How to prevent this sword from hurting people randomly?
الحل الذي قدمته OpenAI هو الدفاع عن طريقين للمخاطر في نفس الوقت: واحد ضد البشر، وآخر ضد النموذج.
أولًا، منع المستخدمين من إساءة استخدام Astra بشكل متعمد.
بالإضافة إلى التدريب الأمني المتخصص، تستخدم OpenAI فلاتر تصنيف النظام والمراقبة المستمرة وكشف التهديدات لتحديد العمليات المشبوهة في المحادثات متعددة الخطوات والمهام الطويلة الأمد.
في اختبارات الاختراق الأمني، حققت Astra نسبة رفض للطلبات الخطرة تبلغ 91.5٪، بينما بلغت نسبة GPT-5.6 Sol 59٪.
في الوقت نفسه، لن تُفتح قدرات أسترا المتقدمة للأمان السيبراني أمام جميع المستخدمين مباشرة، بل ستُقدّم أولاً لعدد قليل من مختبري ألفا، ثم تُطلق تدريجياً من خلال مشاريع مُحكمة مثل Daybreak Blue.
الثانية، منع النموذج من الانحراف عن المسار.
المخاطر هنا أكثر خفاءً:
حتى لو لم يكن المستخدم لديه نوايا ضارة، هل قد يوسع النموذج نطاق المهمة دون إذن؟ هل قد يستخدم أدوات غير مصرح بها، أو حتى يتجاوز المراجعة الأمنية؟
أقامت OpenAI اختبارًا "مصيدة عسل (honeypot)" لهذا الغرض.
في مواجهة مهام شديدة الصعوبة أو غير قابلة للحل، يتم ترك مسار اختصار "غش" غير مصرح به متعمدًا في بيئة الاختبار، حيث يمكن للنموذج مهاجمة الهدف المحدد بدقة، أو تجاوز الحدود المصرح بها والدخول إلى مرافق الاختبار المحيطة لإكمال المهمة.
نتيجةً لذلك، حاول GPT-5.6 Sol التحايل على 56% من الاختبارات، بينما لم تحاول Astra التحايل مطلقًا.
في اختبار آخر، بعد رفض نظام المراجعة التلقائي لعمليات Astra، لم تُجرَ محاولة إعادة تنفيذ الأوامر الخطرة أو تجاوز القيود.
بالإضافة إلى ذلك، ستراقب OpenAI عملية الاستدلال للنموذج.
عند اكتشاف أي اتجاه غير طبيعي، يمكن للنظام تقليل السرعة أو إيقاف العملية أو إنهاء المهمة مباشرة.
على الرغم من وجود تكلفة فعلية (قد تتباطأ بعض المهام العادية أو تُعتبر مقطوعة بالخطأ)، إلا أن OpenAI ترى أن هذه تكلفة أمنية لا مفر منها لتفعيل Astra.
ومع ذلك، فإن OpenAI تُقر بأن هذه التدابير ليست سوى "فرامل" خارجية ولا يمكنها استبدال محاذاة النموذج ذاته:
السلامة الحقيقية هي جعل النموذج لا يخرج أبداً عن الحدود من البداية.
خريجو جامعة تشيجيانغ وجامعة تونجي يشاركون في خطوط إنتاج Astra
لجعل هذا الأمر واقعًا، يجب في النهاية العودة إلى من يصممون النموذج.
على الرغم من أن OpenAI لم تُعلن بعد عن قائمة فريق Astra، إلا أن اثنين على الأقل من الباحثين الصينيين الذين شاركوا بعمق في المشروع قد ظهرا مع هذه الحملة العامة.
واحد هو جياوي ليو المذكور سابقًا.
هو حاليًا باحث في OpenAI، وتخرج من قسم علوم الحاسوب في جامعة تونجي عام 2021 بدرجة البكالوريوس.
خلال دراسته الجامعية، شارك في تطوير إطار عمل HyperPose عالي الأداء لتقدير وضعية الجسم، وقام بمسؤولية محرك الاستدلال النموذجي، وتم اختيار النتائج ذات الصلة في ACM Multimedia 2021، وحصل المشروع آنذاك على أكثر من 1000 نجمة على GitHub.
بعد ذلك، التحق بجامعة إيلينوي أوربانا-شامبين للحصول على درجة الدكتوراه في علوم الحاسوب، تحت إشراف أكاديمي هندسة البرمجيات لينغمينغ زانغ (Lingming Zhang)، وتحول تركيزه تدريجيًا من أنظمة الرؤية عالية الأداء إلى نماذج الكود وموثوقية البرمجيات.
خلال دراسته للدكتوراه، شارك في تطوير أدوات اكتشفت أكثر من 300 خطأ خطير في أنظمة التعلم الآلي مثل PyTorch وTensorFlow؛
نموذج الكود Magicoder تم اعتماده أيضًا من قبل Meta Llama 3.1 وGoogle CodeGemma وIBM Granite.
بعد تخرجه من الدكتوراه في عام 2025 والانضمام إلى OpenAI، ظل الموضوع الذي يدرسه متماسكًا:
كيف يمكن جعل الذكاء الاصطناعي أفضل في كتابة الكود واكتشاف الثغرات فيه؟
الآخر هو شيانغيو تشى (تشي شيانغيو).
تشي شيانغيو تخرج من جامعة تشيجيانغ بدرجة البكالوريوس في علوم الحاسوب وهندسة التكنولوجيا، وسافر في عام 2021 إلى جامعة برينستون لدراسة الدكتوراه في الهندسة الكهربائية والحاسوبية، مع تركيز بحثه على متانة النماذج الكبيرة وهجمات التهريب والتوافق الأمني.
أبرز عمل له هو "يجب جعل محاذاة السلامة أعمق من مجرد بضعة رموز".
تشير هذه الورقة إلى أن محاذاة الأمان للنماذج الكبيرة لا يمكن الاعتماد عليها فقط على أول بضعة رموز في الإجابة، وإلا فقد تظل خطوط الدفاع الأمنية الأصلية عرضة للاختراق من قبل المهاجمين مع استمرار التوليد.
تم اختيار هذه الورقة في النهاية من بين 11,672 مساهمة لتكون واحدة من ثلاث ورقات متميزة فقط في ICLR 2025.
بعد تخرجه من الدكتوراه في عام 2025، انضم تشين شيانغيو إلى OpenAI كعضو في فريق التقني، حيث استمر في أبحاثه حول متانة النماذج الكبيرة وشارك في أعمال نماذج الأمن السيبراني.
من زج جيانغ إلى برينستون، ثم إلى OpenAI، كان يطرح السؤال نفسه الذي يجب على أسترا مواجهته الآن:
يمكن للقدرة أن تصبح أقوى تدريجيًا، لكن الحدود لا يمكن أن تصبح غامضة أكثر.
بالمناسبة، لا أعلم إذا ما إذا ستُعلن OpenAI عن القائمة الكاملة بعد الإصدار الرسمي لـ Astra.
قبل GPT-4، كانت OpenAI تُدرج بشكل خاص مئات المساهمين، لكن مع GPT-5 وGPT-5.5، أصبحت بطاقة النظام أطول وأطول، بينما أصبحت قائمة الباحثين أكثر خفية.
السبب وراء ذلك معروف، وهو الوقاية من أشخاص مثل ميتا زاك الذين يحبون الاستقطاب من جميع الجهات.
إنها أيضًا نوع من اضطراب ما بعد الصدمة...
شيء واحد إضافي
في حين كانت OpenAI تتحدث كثيرًا عن كيفية مراقبة Astra وتجنب فقدان السيطرة على النموذج، كشفت The Information أن:
استخدمت أسترا تقنية تُسمى "العمق التكراري".
في النماذج التقليدية، تمر المعلومات عبر عدد ثابت من طبقات الشبكة قبل توليد الرمز التالي، بينما يسمح العمق التكراري للمعلومات بالمعالجة المتكررة داخل نفس مجموعة طبقات الشبكة، مما يعادل جعل النموذج "يفكر عدة مرات" داخليًا.
من المتوقع أن تُحسّن هذه التقنية القدرات وتقلل التكاليف، كما قد تسمح بحدوث مزيد من الاستدلال داخل النموذج دون عرضه بالكامل كنصوص يمكن للإنسان قراءتها.
بعبارة أخرى، قد يفكر النموذج بشكل أعمق، لكن البشر يصبحون أقل قدرة على فهمه.
حذّر ناثان كالفين، الذي يتابع سياسات أمان الذكاء الاصطناعي على المدى الطويل، من أن هذه التقنية قد تُضعف قابلية مراقبة سلسلة التفكير.
هذا أمر دقيق جدًا:
في حين تقول OpenAI إنها تريد مراقبة ما تفكر فيه Astra، فإن تقنياتها الجديدة قد تجعلها أقل رغبة في مشاركة أفكارها.
أوه هذا...
لحسن الحظ، كشفت The Information أن OpenAI قيدت استخدام هذه التقنية في Astra حاليًا.
ترجم، الآن يمكنك فهمه، لكن لاحقًا قد لا يكون واضحًا.
بالإضافة إلى ذلك، كان يُشاع دائمًا أن أسترا من المحتمل أن تُصدر في هذا الخميس (3 سبتمبر).
مع إصدار الشركة A لأحدث نموذج 5.1، يصبح شعورنا بمنطقية هذا القول أقوى فأقوى.
العنكبوت يصطاد الجراد، والطائر الأصفر يراقب من الخلف.
من فهم مرة أخرى!
رابط المرجع:
[1]https://x.com/xiangyuqi_pton/status/2094891059038069236?s=20
[2]https://xiangyuqi.com
[3]https://x.com/JiaweiLiu_/status/2094901279239921816?s=20
[4]https://jw-liu.xyz/
[5]https://x.com/sama/status/2094934592062959832?s=20
هذا المقال من حساب ويشات الرسمي "كيوانغ تشي"، المؤلف: متابع التكنولوجيا المتقدمة