تُعدّ OpenAI على وشك إطلاق النموذج الجديد "Astra"، الذي يثير اهتمامًا واسعًا وجدلًا في دائرة أبحاث الذكاء الاصطناعي — حيث قد يُحقّق قفزةً أكبر منذ GPT-4 من حيث الأداء، لكن تقنية الاستدلال الجديدة التي يعتمد عليها تثير مخاوف بشأن تراجع قدرات مراقبة أمان الذكاء الاصطناعي.كاتب المقال، المصدر: The Information
وفقًا لتقرير من وسائل الإعلام التقنية The Information في 2 سبتمبر، طورت Astra تقنية مبتكرة تركز على تجاوز حدود نموذج "التفكير" في المشكلات المعقدة. يرى بعض الباحثين أن التحسن في قدرات Astra على البرمجة واستخدام الحواسيب قد يعادل القفزة في الأداء التي أتى بها OpenAI مع إصدار GPT-4 في عام 2023، وهي تفوق بكثير أداء GPT-5 عند إصداره صيف العام الماضي. هذا يُعد إشارة إيجابية للصناعة بأكملها، التي تعتمد على تحسين إنتاجية الذكاء الاصطناعي لدعم الاستثمارات الكبيرة في بناء مراكز البيانات.
ومع ذلك، فإن هذا الإنجاز التقني يجلب معه مخاطر لا يمكن تجاهلها. فالتقنية الجديدة تسمح للنموذج بإكمال الاستدلال العميق دون إنتاج كامل لـ"سلسلة التفكير"، مما يعني أن الباحثين قد لا يتمكنون من مراقبة عملية استدلال النموذج بنفس فعالية السابق، مما يضعف آليات المراجعة الأمنية الحالية. حاليًا، تتخذ OpenAI تدابير لضمان بقاء سلسلة التفكير الخاصة بـAstra مرئية، لكن الصناعة لا تزال متفاوتة الرأي حول الاتجاه الطويل الأمد لهذا التوازن.
إنجاز في الأداء: تقنية استدلال جديدة قد تعيد إنتاج قفزة على مستوى GPT-4؛ حيث ترتبط بشكل وثيق بالتقنيات الأساسية لـ Astra ومفاهيم مثل "العمق التكراري" و"محولات التكرار".
وفقًا لـ The Information، فإن هذه التقنية تعالج المسائل من خلال تمريرها متكررًا عبر الطبقات المختلفة للحسابات الرياضية للنموذج، ثم توليد الكلمة التالية في الإجابة، مما يمكّن النموذج من إظهار قدرة استدلالية تفوق بكثير حجمه الفعلي دون زيادة ملحوظة في عدد المعلمات — بحيث يكون أداءه مكافئًا لنموذج أكبر بكثير.
يعتقد بعض الباحثين أن أسترا، بفضل قدراتها المحسنة في الترميز واستخدام الحواسيب، قد تحقق تحسنًا في الأداء يعادل التقدم الكبير الذي شهده إطلاق GPT-4 في عام 2023، وهو ما يفوق بكثير الاستجابة السوقية الهادئة نسبيًا عند إطلاق GPT-5 في صيف العام الماضي.
يُعد هذا التقدم ذا أهمية كبيرة لسلسلة صناعة الذكاء الاصطناعي بأكملها. إن البناء الواسع النطاق لمرافق مراكز البيانات العالمية حاليًا يستند إلى المنطق الأساسي المتمثل في المراهنة على أن التحسين المستمر لقدرات الذكاء الاصطناعي سيُحفز نمو الإنتاجية، مما يتحول بدوره إلى عوائد تجارية أعلى. إذا حققت أسترا أداءً يتوافق مع التوقعات، فسيوفر دعماً قوياً لهذا المنطق الاستثماري.
جدير بالذكر أن هذه التقنية ليست مفهومًا جديدًا. فقد أشار جورجين شميدهوبر، رائد أبحاث الذكاء الاصطناعي، على منصة X إلى أن الفكرة الأساسية لـ"العمق التكراري" كانت موجودة بالفعل في ورقته البحثية لعام 2015 بعنوان "On Learning to Think" (arXiv:1511.09249).
أشار إلى أن شبكة التحكم C في الورقة هي في جوهرها مهندس تعليمات، تتعلم من خلال استعلام نماذج عصبية مستقلة لإجراء استدلال تجريدي، حيث تكون التعليمات والإجابات المولدة عبارة عن تسلسل متجهات ذاتية التوليد داخليًا، ولا تحتاج إلى التعبير عنها بلغة طبيعية.
مخاطر أمنية: تواجه آلية مراقبة سلسلة التفكير تحديات؛ فبينما تجلب التقنيات الجديدة تحسينات في الأداء، فإنها تشكل تهديدًا محتملًا لإطارات مراقبة أمان الذكاء الاصطناعي الحالية.
تُفيد التقارير أنه حاليًا، تُنتج النماذج الرئيسية للذكاء الاصطناعي عملية استدلالها عند معالجة المشكلات المعقدة على شكل نص، أي "سلسلة التفكير" (chain of thought). لا يعزز هذا الميكانيزم فقط قابلية تفسير النموذج، بل يُعد أيضًا وسيلة مهمة للباحثين لمراقبة سلوك النموذج ومنع العمليات غير الطبيعية.
وفقًا لـ The Information، فإن مراقبة سلسلة التفكير هي أحد الحلول الرئيسية التي طرحتها OpenAI بعد حادثة قرصنة Hugging Face في يوليو من هذا العام لمنع تكرار حوادث أمنية مشابهة.
ومع ذلك، فإن تقنية الاستدلال الجديدة التي تستخدمها أسترا قد لا تُخرج خطوات الاستدلال بالكامل أثناء "التفكير" العميق للنموذج، بل تُكمل الحسابات بشكل "صامت" داخل النموذج. وهذا يعني أن النموذج كلما اعتمد أكثر على هذه التقنية الجديدة، أصبحت عملية استدلاله أقل شفافية للمراقبين الخارجيين.
للتغلب على هذا، تتخذ OpenAI حاليًا خطوات لتحقيق التوازن. تقوم الشركة بإرشاد النموذج لتقليل عدد دورات التكرار على مستوى الحساب، لضمان بقاء سلسلة تفكير Astra مرئية إلى حد ما — فكلما قل عدد الدورات، قل المساحة التي يمتلكها النموذج للتفكير بصمت.
لقد بدأت المختبرات الكبرى في متابعة هذا التطور، ولا يزال تأثير هذا الاتجاه التقني على المدى الطويل بحاجة إلى فهم أعمق، وقد يتجاوز تأثيره شركة OpenAI وحدها. وفقًا لتقرير The Information، أصبحت تقنية الاستدلال الجديدة المذكورة موضوعًا ساخنًا للنقاش الداخلي في جميع المختبرات الكبرى للذكاء الاصطناعي، ولا يمكن تقليل احتمالية اعتماد مؤسسات مثل Anthropic وGoogle مسارات تقنية مشابهة.
أشار العديد من الباحثين إلى أن مراقبة سلسلة التفكير لن تكون أبدًا الحل النهائي لمراقبة سلوك الذكاء الاصطناعي. مع استمرار تطور قدرات النماذج، فإن ميزة إخراج عملية التفكير على شكل نص هي في الغالب مجرد منتج ثانوي للطرق الحالية للتدريب.
مع استكشاف مطوري النماذج لاتجاهات تحسين وتصميمات هندسية جديدة، قد يتناقص تلقائيًا ميل النماذج إلى إنتاج سلاسل التفكير، مما سيضطر الباحثين إلى تطوير وسائل رصد جديدة.
أشار التقرير إلى أن المشكلة الأساسية الحالية تكمن في: هل ستتخلى شركات تطوير الذكاء الاصطناعي الكبرى، تحت ضغط المنافسة المتزايدة على الأداء، عن تدابير الأمان الحالية سعيًا وراء قدرات استدلال أقوى؟ إجابة هذا السؤال ستُحدد إلى حد كبير مسار حوكمة أمان الذكاء الاصطناعي في المرحلة القادمة.