رئيس علماء OpenAI يحذّر من التقدم السريع للذكاء الاصطناعي نحو التحسين الذاتي التكراري

موقع Mars Finance ينقل أن عالم العلوم الرئيسي في OpenAI، جاكوب باشوكسي، نشر مقالًا بعنوان "عقل غريب" في 6 سبتمبر 2026. يراجع المقال نتائج مشروع بحثي RLSlow الذي ظهر في منتصف عام 2023 لأول مرة نماذج تدريب واستدلال قابلة للتوسيع، ويشير إلى أن نماذج اللغة الاستدلالية أصبحت منذ ثلاث سنوات جزءًا من النمو الاقتصادي السريع، وتبدأ في دفع حدود العلم، ويمكنها تشغيل الحواسيب والواجهات الرسومية، والتعاون مع البشر ووحدات الذكاء الاصطناعي الأخرى وإجراء مشاريع بحثية، مع تغيير مشهد أمن الحواسيب وخلق مخاطر جديدة. يستند المؤلف إلى نتائج داخلية للتوقع بأن معدل التقدم الحالي قد يستمر حتى التحسين الذاتي التكراري. إذا استمر تطور الذكاء الاصطناعي على المسار الحالي، فقد تظهر أنظمة في السنوات القادمة قفزات في القدرة مماثلة أو أكبر، وتصبح أكثر قدرة على قيادة تطورها الخاص. يدعو المؤلف إلى الحذر الشديد، معتبرًا أن أحدًا غير مستعد لمواجهة عواقب الارتفاع المستمر والسريع للذكاء الآلي. ستستمر OpenAI في السعي لحلول تقنية للتوافق والمراقبة، وبناء أنظمة دفاعية، وإيقاف التوسيع الإضافي أحادي الجانب عند الضرورة، لكنها ترى الحاجة إلى تدخل أوسع نطاقًا. يشير المقال إلى أن الذكاء الآلي يُدفع بشكل رئيسي من خلال زيادة قدرة الحوسبة، وأن الذكاء الاصطناعي هو أكثر نموًا منه تصميمًا. من حيث التوافق، يميز بين التوافق الهدف والتوافق القيمي، والتحدي الأساسي هو التعميم. حقق GPT-6 Astra تحسنًا كبيرًا في التوافق مقارنة بـ GPT-5.6 Sol، لكنه لا يزال بحاجة إلى مزيد من التقدم. من حيث المراقبة، تعتمد بشكل رئيسي على مراقبة سلسلة التفكير، وأظهر التقييم أن الاعتماد على القدرة يتضاءل تدريجيًا. من حيث الدفاع القابل للتوسيع، تصبح النماذج أكثر من إنسانية في اختراق أنظمة الحواسيب، ونحن حاليًا في نافذة ضيقة لاستخدام أفضل النماذج المتاحة لتعزيز أمان الأنظمة الحيوية بشكل كبير.