فاز ريتشارد ساتون، حائز جائزة تورينغ وأب التعلم المعزز، بانتقاد القيود الداخلية الحالية للذكاء الاصطناعي التوليدي: الأجزاء الجيدة ليست جديدة، والأجزاء الجديدة ليست جيدة.
مؤلف المقال، المصدر: NewZeal
الذكاء الاصطناعي: الأجزاء الجيدة ليست جديدة، والأجزاء الجديدة ليست جيدة
أحد أكثر التقييمات سُمّية في الأوساط الأكاديمية هو:
هذا العمل جديد وممتاز.
للأسف، الجزء الجيد ليس جديدًا، والجزء الجديد ليس جيدًا.
لكن ريتشارد ساتون، أحد مؤسسي مجال التعلم المعزز، ومؤلف كتاب "التعلم المعزز"، وحاصل على جائزة تورينغ، وجه هذا النكتة نحو الذكاء الاصطناعي التوليدي بأكمله.
قال: هذا التقييم ينطبق على معظم الذكاء الاصطناعي الذي نعرفه اليوم.
الذكاء الاصطناعي: الأجزاء الجيدة ليست جديدة، والأجزاء الجديدة ليست جيدة
الادعاء الأساسي لساتون موجز للغاية، حتى أنه قاسٍ.
الذكاء الاصطناعي التوليدي هو في جوهره تعلم خاضع للإشراف.
منطق التعلم الخاضع للإشراف هو: عرض عينات كثيرة تم إنشاؤها من قبل البشر على النموذج، ليتعلم التقليد.
كلما كان التقليد أقرب، زادت الدرجة.
السؤال الآن.
عندما يولد النموذج المحتوى بدقة وفقًا لبيانات التدريب، تكون جودة الإخراج عالية لأنه يعيد إنتاج أشياء جيدة تم التحقق منها مسبقًا من قبل البشر. لكن هذا ليس جديدًا. إنه ببساطة يعيد تغليف ما يعرفه البشر باستخدام توليفات مختلفة.
عندما يحاول النموذج الخروج عن بيانات التدريب وخلق محتوى جديد تمامًا، ينهار الجودة. لأنه لا يمتلك أي آلية داخلية لتقييم "ما إذا كان هذا الشيء الجديد جيدًا أم لا". إنه يولد فقط، ولا يُقيّم.
هذا هو التناقض الهيكلي:
الجدة والجودة، في إطار التعلم الخاضع للإشراف الكامل، هما طرفان متقابلان على ميزان.
عندما تضغط على أحد الجانبين، يرتفع الجانب الآخر.
ليس مشكلة هندسية. لا يمكن حلها فقط من خلال جمع المزيد من البيانات أو توسيع النموذج أو إضافة المزيد من وحدات معالجة الرسومات.
استخدم ساتون تشبيهًا مبالغًا فيه: "الهلوسة" — العيب الأكثر انتقادًا في النماذج الكبيرة — هي في جوهرها منتج ثانوي لمحاولة النموذج على "الابتكار".
نحن نكره الأوهام، وهذا يثبت شيئًا واحدًا فقط: أننا في الواقع لا نريد الجدة. نحن نريد فقط تقليدًا عالي الجودة.
الجيد ليس جديدًا، والجديد ليس جيدًا.
تقييم المراجع الساخر في النكتة وصف بدقة القيود الداخلية لجميع أنظمة الذكاء الاصطناعي التوليدي.
الـ"اكتشاف" الحقيقي يتطلب مجموعة من ثلاثة عناصر
ساتون، من مبدأ أولي، فكك "صيغة الثالوث للإبداع":
الاكتشاف الحقيقي (Discovery) = التباين (Variation) + التقييم (Evaluation) + الاحتفاظ الانتقائي (Retention).
أي إبداع أو اكتشاف حقيقي يتطلب ثلاثة خطوات، ولا يمكن الاستغناء عن أي منها:
1. التباين (Variation) يخلق إمكانيات متنوعة. يمكن أن يكون عشوائيًا أو مبنيًا على معرفة سابقة، لكنه يجب أن يحتوي على عدم يقين حقيقي — وإلا فهذا ليس استكشافًا، بل استشارة جدول.
2. التقييم (Evaluation): تحديد أي التغيرات ذات قيمة. هذا يتطلب هدفًا واضحًا، أو معيارًا يمكنه التعرف على "الجيد والسيء".
3. الاحتفاظ الانتقائي: احتفظ بالطفرات ذات القيمة واتركها تؤثر على الإجراءات والتعلم المستقبليين.
هذه الخطوات الثلاثة ليست اختراعاً لساتون. إنها منطق الاختيار الطبيعي، ومنهج العلم، ومنطق تعلم الإنسان.
نظرية التطور: الطفرات الجينية العشوائية (التنوع) → فلترة البيئة (التقييم) → بقاء الأصلح (الاحتفاظ الانتقائي).
المنهج العلمي: طرح الفرضية (التنوع) → اختبار تجريبي (التقييم) → نشر ورقة بحثية (الاحتفاظ الانتقائي).
التعلم البشري: تجربة حلول مختلفة (طفرات) → التحقق من الصواب والخطأ (التقييم) → تذكر الطرق الفعالة (الاحتفاظ الانتقائي).
الآن، أكمل الذكاء الاصطناعي التوليدي الخطوة الأولى من الثالوث:几乎没有 تقييم، ناهيك عن الاحتفاظ الانتقائي،
إنه مثل رامٍ يطلق السهام عشوائيًا، لكن عينيه مغطاتان، ولا ينظر إلى الهدف بعد الإطلاق، ولا يعدل وضعه بناءً على النتيجة.
تطلق عليه عشرة آلاف سهم، وربما يصيب الهدف أحيانًا، لكنه لا يعرف أبدًا لماذا أصاب.
هل لا يزال للعلماء فائدة؟
قد تشعر بالقلق هنا: إذا تمكّن الذكاء الاصطناعي في المستقبل من إتمام "الاكتشاف" الثلاثي بشكل مستقل، فهل سيصبح العلماء عاطلين عن العمل؟
إجابة ساتون الخاصة هي: لا يمكن استبدالها، لكن يجب أن يتحول الدور بشكل جذري.
قال في كلمته إنه حتى الذكاء الاصطناعي الذي يمكنه إثبات مبرهنات رياضية بشكل مستقل لا يزال بحاجة إلى البشر لإخباره: أي المشكلات مهمة.
هذا ليس تواضعًا، بل حدود إدراك حقيقية.
قال الرياضي شيشيان ما، خبير التحسين في جامعة رايس: إنه استخدم ChatGPT لإثبات مشكلة تقارب خوارزمية كان يدرسها لمدة ست سنوات كاملة.
يوجد جملة في الملخص:
مُوثَّق من قبل ChatGPT 5.5 وتم التحقق منه من قبل المؤلف.
يُسمى هذا الخوارزمية BDRS، والاسم الكامل هو Bregman Douglas-Rachford Splitting، وتُستخدم لحل مشكلة النقل المثلى (Optimal Transport).
عنوان البحث: طريقة تقسيم بريغمان-دوغلاس-راشفورد
عنوان ما قبل النشر:
هذا شيء صممه هو ومؤلفوه المشتركون، وكان يزعجه لمدة ست سنوات هو إثبات التقارب الخاص به، أي "لماذا هو صحيح" من الناحية الرياضية الأكثر صرامة.
لم يتم معالجة المقالة المقدمة إلى منصة arXiv بعد.
لقد تكهّن بأن السبب هو وجود كلمات "ChatGPT" في الملخص، وأن المنصة لا تعرف كيفية التعامل مع هذا النوع من الأوراق.
لكن هل يمكن للذكاء الاصطناعي أن يحل محل البشر؟
إجابته كانت: لا. لقد قال بصراحة:
أعتقد أن الذكاء الاصطناعي لا يمكنه اقتراح هذا الخوارزمية بإبداع والادعاء بأن "هذا خوارزمية فعالة للنقل الأمثل، دعني أحاول إثبات تقاربها".
بدون إرشاد بشري، لا تعرف الذكاء الاصطناعي أي مشكلة يجب حلها.
هذه الجملة تطابق ساتون بدقة: يجب على البشر تعريف المشكلة نفسها.
استغرق ست سنوات حتى "طرح السؤال الصحيح":
ما هي الأسئلة التي يجب طرحها، فهذا يتطلب منك فهمًا عميقًا جدًا لهذا الموضوع.
In this case, I have spent six years researching this issue, so I am well aware of the challenges involved.
هذه السنوات الست ليست مضيعة، بل شرط مسبق.
正是 هذه السنوات الست، جعلته يفهم أين يقع عائق الإثبات، وما هي أسباب فشل جميع المسارات السابقة، وأي اتجاه قدمه ChatGPT يستحق المتابعة وأي منها وهم.
وليس مرة واحدة فقط، بل خمسة أشهر. هذه هي النقطة الأكثر شيوعًا في سوء الفهم، وهو نفسه قد فهمها خطأً من قبل:
من يناير إلى مايو، خمسة أشهر كاملة، محادثات لا حصر لها، وكل تلميح كان يقترب أكثر من الإثبات.
لقد خلص بوضوح شديد:
جوهر البحث لم يتغير، لا يزال يعتمد على التجربة والخطأ المتكررة. ما تغير هو سرعة كل تجربة وخطأ — في الماضي، كان يتطلب التحقق من اتجاه واحد عدة أسابيع، أما الآن فيمكن معرفة ما إذا كانت هذه الطريقة قابلة للتطبيق في دقائق.
لكن مساهمة الذكاء الاصطناعي لا تُمحى:
ثم، اختم مباشرةً بتحقيق الأسطورية:
بالعودة إلى ورقي البحث حول تقارب BDRS، أنا متأكد إلى حد كبير أن الإثبات صحيح.
لكن إذا وجدت أي أخطاء، فالمسؤولية كاملة عليّ — لا تلوم ChatGPT، فهو يبلغ من العمر 3.5 سنوات فقط.
ما يجعل هذه الجملة رائعة هو طبيعتها المزدوجة: إنها إعلان صادق بالمسؤولية، وكذلك استعارة دقيقة.
"3.5 سنوات" تصف الوضع الحقيقي للذكاء الاصطناعي الآن: قدرات مذهلة، لكن الحكم غير ناضج.
بعد كل شيء، لم يتوقع البشر أبدًا أن يُقدّم طفل بعمر 3.5 سنوات أي مساهمة.
على الرغم من أنك لا يمكنك تفويض السلطة النهائية للتوقيع على الإثبات للذكاء الاصطناعي، إلا أنك也不能 تدّعي أن الذكاء الاصطناعي لم يقدم أي مساهمة.
وهذا هو السبب في أن الاكتشافات العلمية الحقيقية لا تختفي بين أيدي البشر.
على العكس، ستقوم بتصفية البشر بقسوة أكبر: فقط من يستطيع طرح أسئلة جيدة يستحق امتلاك ذكاء اصطناعي قوي.
في المستقبل، قد يصبح العلماء الذين لا يستخدمون الذكاء الاصطناعي متخلفين، تمامًا مثل علماء الفلك الذين لا يستخدمون الحواسيب.
أخيرًا، دعونا نسترجع كلمات ساتون التي تحمل طابعًا إعلانيًا:
إذا أردنا الاستفادة الكاملة من قدرات علماء الذكاء الاصطناعي، فيجب مشاركتهم الأهداف، وتمكينهم من الإبداع والتقييم والاكتشاف، وبالتالي المشاركة الكاملة في تحقيق هذه الأهداف.
دعونا نكون أكثر смелness! دعونا نحقق التلقائية الكاملة للإبداع والاكتشاف!