يا، سمعت الأخبار؟
أيام الباحثين البشريين لم تبقَ سوى سنتين بالضبط.
بعد سنتين، سيقوم البشر بدراسة الذكاء الاصطناعي كما يلعب البشر الشطرنج اليوم.
بالطبع يمكنك التسجيل، لكن لا أحد يهتم بكيفية تسجيلك.
هذا أحدث تصريح صادم من جيري توريك، الذي كان يشغل المنصب الأول في نموذج الاستدلال الخاص بـ OpenAI.
انضم إلى OpenAI في عام 2019 وظل هناك سبع سنوات. في ذلك الوقت، كان التعلم المعزز لا يمكن تطويره بأي طريقة، لكنه أصر على الاستمرار ودفعه للأمام بقوة، وقد قاد بنفسه تطوير الجيلين الكبيرين o1 وo3.
"نريد بناء AGI." كان هذا هو خارطة الطريق الوحيدة التي قدمها إيليا في اجتماع جميع الموظفين عندما انضم إلى OpenAI عام 2019. بعد سبع سنوات، غادر ليؤسس شركته الخاصة.
الأكثر رعبًا أن هذا الكلام ليس هو الوحيد الذي يقوله. الآن أكثر النكات الداخلية شيوعًا بين باحثي الذكاء الاصطناعي هي كالتالي—
لدينا فقط بضعة أيام عمل متبقية، فاستغلوا الوقت الحالي للعمل بجد، ثم اتقاعدوا جميعًا معًا.
يُعيد الجميع تكرار هذا كسخرية سوداء. لكن كل من يروي النكتة يعلم جيدًا داخله.
هذه المزحة، على الأرجح، هي الواقع.
وهذا فقط مقدمة. خلال المقابلة بأكملها، كان يطلق مثل هذه التصريحات القوية واحدة تلو الأخرى:
- الوكيل لديه بالفعل إبداع، لكنه إبداع رديء للغاية ومُكدّس بكميات هائلة، والأفكار متنوعة لكنها بشكل عام سيئة جدًا
- ربما يكون هناك فقط ثلاثون إلى خمسين شخصًا في جميع أنحاء العالم من يُطبّقون نموذجًا متقدمًا من التدريب إلى النشر، بينما يُساعد الجميع الآخرون هؤلاء.
- افتراض أن الترانسفورمر هو الحل الأمثل هو افتراض شبه مستحيل.
- خلال السبع سنوات التي قضيتها في OpenAI، كان هناك فقط ثلاث إلى أربع محاولات جادة لتغيير البنية التحتية.
- العالم لا يحتاج إلينا لنعمل حتى يدور، وهذا الافتراض لم يكن صحيحًا أصلًا
إليك النسخة المُنظمة، استمتع.
نصف العمل، لم يعد أحد يفعله
هذا الرقم لمدة سنتين، لا علاقة له بالتصنيف ولا بالقدرة الحسابية.
هو يحسب كم من المهام لا تزال تُنفَّذ يدويًا في إطار البحث في هذا الأمر.
And this job was long ago split into two parts.
قسم واحد هو توليد الأفكار وتحديد الاتجاه الصحيح. والقسم الآخر هو التنفيذ، وتحويل الأفكار إلى كود قابل للتشغيل ثم استرجاع البيانات.
أما الجزء الخاص بالعمل، فقد تم نقله بالأساس إلى الوكيل.
في أبريل من هذا العام، أسس توريك شركة تُدعى Core Automation، شعارها هو بناء أكثر مختبرات الذكاء الاصطناعي تلقائية في العالم.
في مكانهم، تم تخفيض دورة تجربة كاملة من شهر واحد إلى يوم واحد فقط. زادت الكفاءة ثلاثين مرة!
لكن_agent_لا يزال غير قادر على تلقي هذا الجزء من الاقتراح. السبب هو—
They absolutely belong to the species of high creativity.
لكنهم يُهدرن الإبداع بطريقة رديئة للغاية ومتكررة بشكل مفرط. الأفكار متنوعة بالفعل، لكنها بشكل عام سيئة جدًا.
هناك فقط ثلاثون إلى خمسين شخصًا في جميع أنحاء العالم
هكذا يبدو، يبدو أن هذا الجزء لا يزال مستقرًا.
لكن الأشخاص الحقيقيين القادرين على تقديم أفكار لم يبقَ منهم سوى القليل.
في المقابلة، كشف المذيع أن باحثًا داخليًا من OpenAI أخبره مباشرةً—
ربما يكون هناك فقط ثلاثون إلى خمسين شخصًا في جميع أنحاء العالم يستطيعون فهم بالكامل كيفية تدريب ونشر نموذج متقدم من البداية إلى النهاية.
جميع الأشخاص المتبقيين يخدمون هؤلاء العشرات من الأدمغة، بما في ذلك معظم الموظفين الرسميين في أكثر الشركات رقيًا.
Tworek لم يُعارض.
كما يعتقد أنه بهذه الطريقة تتحرك أي فريق رائد: عدد قليل من الأشخاص يحددون الاتجاه، ويخلفون وراءهم آلة تنفيذ هائلة تصدر ضجيجًا.
للمعرفة، كم هم مطلوبون هؤلاء العشرات من الأشخاص، ما عليك سوى النظر إلى قائمة التوظيف الخاصة به.
روهان أنيل، المؤسس المشارك لـ Core Automation، من Anthropic، وكان سابقًا في Google DeepMind.
تم جذب أنمول غولاتي، الذي عمل على Gemini في DeepMind، وكذلك جوليا فيلاغرا، المسؤولة السابقة عن الموارد البشرية في OpenAI.
جميع المختبرات تجمع الأشخاص من نفس الحوض. وهذا الحوض، لا يحتوي سوى على بضعة عشر سمكة.
لذلك هذا الرقم على مدار سنتين لا علاقة له بالبشرية جمعاء.
يتعلق الأمر بهذه العشرات من الأشخاص، وكم من الوقت يمكنهم الاستمرار.
سبع سنوات، تم تعديل البنية فقط بضع مرات بجدية
بما أن البشر لم يبقَ سوى بضعة عشرات، فما هي آخر حائط يقف أمام الذكاء الاصطناعي؟
إجابة تورويك هي كلمة واحدة فقط: Transformer.
في رأيه، من المستحيل تقريبًا أن يكون هذا هو الحل الأمثل.
أولاً، لا يمكن للنموذج التعلم بعد النشر. مهما تحدثت معه كثيرًا، لن يصبح أقوى، وسيظل نفس النموذج في المحادثة التالية. كما أن نافذة السياق لا تتحمل ذلك؛ فهو يقول إنه عندما يستخدم Codex لمدة عشرين دقيقة تقريبًا، يجب عليه الضغط مرة واحدة.
ثانيًا، إذا حاولت تعويض ذلك من خلال الضبط المستمر، فستكتشف أن الكفاءة منخفضة جدًا، وسيحدث نسيان كارثي، حيث تنسى القديم بمجرد تعلم الجديد.
لذلك، على مدار هذه السنوات، كان معظم العمل الذي تم إنجازه في الصناعة حول Transformer يدور حول جعله أرخص، وقليلون جدًا هم الذين عملوا حقًا على جعله أقوى.
لكن ما يريده توريك حقًا لا يوجد في الهيكل نفسه.
ما يريده هو نموذج يمكنه الاستمرار في التعلم أثناء وقت الاختبار، نموذج قادر على النمو باستمرار من خلال التفاعل مع المستخدمين ومن بيانات المستخدمين. تغيير البنية هو مجرد وسيلة للوصول إلى ذلك.
لا أحد في الصناعة يجهل هذه الحقائق. لكن لماذا لا يزال Transformer ثابتًا هناك بعد كل هذه السنوات؟
السبب خلفه بسيط إلى حد سخيف — لم يُجرَّب تقريبًا.
خلال سبع سنوات في OpenAI، كان هناك فقط ثلاث إلى أربع محاولات جادة لاستبدال البنية الأساسية.
العملية هي كالتالي.
يكتب الباحث تجربة تحقق صغيرة أولاً، ويُجريها على الأقل لمدة ثلاثة أشهر. فقط عندما تبدو النتائج مرضية، يُفكر في التوسع.
أما ما يُسمى بالتوسيع، فهو أن تُقنع حوالي عشرة أشخاص يمتلكون سلطة الحياة والموت بكلامك، ثم يُنفق هؤلاء العشرة من ثلاثة إلى ستة أشهر في هذا الحفرة بلا قاع.
إما أن تُسحق بالقوة الدافعة التي تشكلت منذ زمن طويل على شكل كرة ثلج من قبل Transformer، أو تُمتص جزئياً وتتحول إلى برغي واحد منها.
سبع سنوات، ثلاث أو أربع مرات. هذا هو إجمالي إنتاجية مختبر الذكاء الاصطناعي الأقوى عالميًا في الابتكار المعماري.
"جاري، خذ هذه القوة الحسابية واحرقها"
لقد واجه نفس المأزق تمامًا في OpenAI. وفتحه جملة واحدة.
في ذلك الوقت، أظهرت تلك التجارب شبه الميتة بعض "علامات الحياة". لا يمكن وصفها بأنها جيدة، لكنها على الأقل بدأت تظهر علامات.
في هذا الوقت بالضبط، وجدته جاكوب باتوتشي، الذي تولى لاحقًا منصب كبير العلماء في OpenAI.
جاري، هذه جميع وحدات معالجة الرسومات لك، انظر هل يمكنك جعل النتائج التي بحوزتك أكبر وأكثر قوة؟
"الآن لديك هذه المعالجات الرسومية." عندما أعاد تكرار هذه الجملة، لم يكن لـ o1 اسم بعد
لقد أنقذته من مفارقة—
يجب أن تقدم النتائج أولاً لتكون مؤهلاً للحصول على قوة الحوسبة.
لكنك تحتاج أولاً إلى تلك القوة الحسابية للحصول على النتائج.
يقول توريك إن معظم الاتجاهات الرائدة عالقة في هذا المفارقة. إن المعارك السرية التي تدور في المختبرات من أجل التنافس على قوة الحوسبة هي في جوهرها بحث عن طريق للخروج.
وأحيانًا يكون الخروج مجرد قرار من القيادة انقر Confidence.
ما دام هناك من يتحدث من الأعلى ويقول: أتمنى أن تحصل على حصة حسابية لائقة لتضربها بقوة. فهذا كافٍ.
بمجرد فتح البوابة، لا يمكن إيقاف ما يلي.
التعلم المعزز بدأ من هذه النقطة وتجاوز عدة درجات من الحجم.
ثم برز o1 كفراشة تخرج من شرنقتها، ونجح في إحياء طريق نموذج الاستدلال الذي حكم عليه الكثيرون بالموت.
100,000 دولار أمريكي، تساوي خبيرًا واحدًا
وهذه المرة، لم يعد بحاجة إلى انتظار أحد ليتحدث.
أكثر مراحل السلسلة استهلاكًا للمال هو تحويل الأفكار المجردة إلى كود يمكن تشغيله فعليًا. وهذا بالضبط ما يفعله الوكلاء اليوم بأفضل شكل ممكن.
على سبيل المثال، استخدمت Core Automation هذا الأسلوب للتعامل مع نواة GPU.
على وجه التحديد، قاموا بتمرير نواة QR decomposition إلى وكيل برمجي وشغلوه لأربعة أسابيع، ونفقو حوالي مائة ألف دولار في تكاليف الاستدعاء، وأخيرًا زادوا سرعة هذه النواة إلى ستين مرة عن السرعة الأصلية.
هذا العمل ينتمي إلى هندسة الأداء الأساسية، ويتعلق بكيفية تسريع عملية حساب المصفوفات على بطاقة الرسوميات، ويتطلب عادةً تعديلًا يدويًا دقيقًا من قبل عدد قليل جدًا من الخبراء سطرًا بسطر.
وعدد هؤلاء الخبراء لا يتجاوز بضعة أشخاص في جميع أنحاء العالم.
الآن عشرة آلاف دولار كافية لتعويض واحد. إنه لا يحتاج إلى إقناع، ولا يحتاج إلى ثلاثة إلى ستة أشهر.
تم كسر هذا الحاجز الذي استمر سبع سنوات.
ماذا يمكننا فعله بعد ذلك؟
حتى أصعب الهياكل بدأت تهتز، لذا لن يطول أمد م握方向盘 من قبل العشرات من الأشخاص.
في نهاية المقابلة، أشار المُقدّم إلى هذا الأمر وسأله: عندما يأتي هذا اليوم حقًا، ماذا سيتبقى للناس للقيام به؟
لذلك، وصف توريك صورتين.
الصورة الأولى هي من اليونان القديمة.
اجتمعوا في الساحة، وتناقشوا بهدوء في الفلسفة طوال اليوم، ثم اذهبوا لممارسة الرياضة، وتناولوا الزيتون وشربوا النبيذ.
ضحك هو نفسه بعد أن أكمل وصفه، واعترف أن هذا ربما كان مجرد انعكاس لرغباته الشخصية.
"لنلتقي في الساحة، ثم نتحدث." لقد نقل كلماته الأصلية التي وصف بها الحياة اليومية للبشر بعد عصر AGI، ثم ضحك على نفسه.
الثانية هي المدرسة الثانوية، أو الجامعة.
يعتقد أن الإنسان يجب أن يحافظ على السعي نحو "التميز" نفسه. استمر في التعلم بجشع لأمور جديدة، وادرب جسدك وعقلك حتى الحد الأقصى.
هذا يشبه إلى حد ما الرياضة الاحترافية، حيث لا يوجد أي سبب اقتصادي يجبرك على التعب والعرق، لكن كرامة الإنسان الداخلية تدفعه للوصول إلى شيء يُدعى "العظمة".
We need to find various ways to do this.
لأنه في العالم القادم، لن توجد المزيد من الأمور التي تقول: "إذا لم تفعلها، فسينهار العالم". سيستمر العالم في التقدم على البنية التحتية التي بنيناها بالفعل.
"يجب أن نستمر في التعلم دائمًا." لقد صاغ الأمر كواجب، وليس كمتعة.
ثم كشف بهدوء عن أوراقه.
يجب أن نعمل حتى يعمل هذا العالم. هذا الافتراض لا داعي له على الإطلاق.
"يأتي الكثير من القيمة الذاتية للناس من عملهم." وهو يعترف أن هذه هي أصعب عقبة يجب تجاوزها، حتى بالنسبة له نفسه
هو أيضًا على هذه القائمة
بصراحة، بعد الاستماع إلى كل شيء، الأكثر إثارة للقلق ليس تلك السنتين.
إنه يعلم جيدًا أنه يضغط على دواسة الغاز لهذا العد التنازلي.
الشيء الذي يحاول بناؤه يُعرَّف بأنه قادر على التعلم الذاتي وتعزيز نفسه تلقائيًا، دون الحاجة إلى أن يبقى أحد بجانبه لإطعامه. عندما يُنشأ، ستختفي وظائف العشرات من الأشخاص بشكل أسرع.
وكان لديه جملة أقسى من ذلك، وهو أن أول من سيُحكم عليه هو نفسه.
إذا لم تكن المختبر الذي يمتلك أكبر احتياطي قوة حسابية وأكبر حجم، فستموت بطريقة مروعة.
عندما قال هذا، كانت Core Automation قد تأسست منذ أربعة أشهر فقط، وكان دخلها المحاسبي صفرًا.
قال إنه منذ بدء مشروعه، يأتيه تقريبًا كل أسبوع شخص يقول له: "جارِ، لقد تأخرت كثيرًا، لقد سُحِبت السلم الذي يوصل إلى السماء منذ زمن طويل."
كان ردّه جملة واحدة من شعاره الخاص.
أحب موظفونا أن يقولوا إن كل شيء مشكلة مهارية.
الترجمة هي: لا تلوم البيئة العامة عندما تفشل في النهاية، بل لوم نفسك لأنك غير ماهر تقنيًا.
لا تقل ذلك، لكن هذه الكلمات تتناسب مع هذا الحوار حقًا.
دعونا نعود إلى الجملة الشهيرة في البداية.
لدينا فقط بضعة أيام عمل متبقية، فاستغلوا الوقت الحالي بينما لا زال بإمكانكم العمل.
ما إذا كان هذا النبرة مليئة بالحماس أم بالحزن، لا نعرفه.
لأنه بالنسبة للشخص الذي يقول هذا، فإن هاتين المشاعرتين هما في الأصل شيء واحد.
يقول توريك إن إيقاع هذا العمل يستهلك بشكل شديد، وقد كان مرهقًا جدًا جدًا على مدار هذه السنوات.
لكن إذا كنا نؤمن حقًا، فهذه أبرز فترة في مسيرتنا المهنية بأكملها.
ربما يكون ذلك يستحق تمامًا.
المراجع:
https://x.com/MTSlive/status/2092387349623935322
هذا المقال من حساب WeChat "New Intelligence Yuan"، المؤلف: ASI Revelation، المحرر: موسى