المؤلف: زهو شويينغ
في هذين اليومين، ظهر نموذج ذكاء اصطناعي غريب قليلاً وانتشر بشكل كبير.
إنه يُدعى Jev.
لا يتحدث، لا يكتب أكوادًا، ولا يُنتج إجابات طويلة مثل ChatGPT. إنه يفعل شيئًا واحدًا فقط: اتخاذ قرارات.
لكن هذا النموذج الذي يبدو وكأنه "تم خفض قدراته بشكل كبير" انتشر فجأة بين دوائر المطورين.
استخدمه أحدهم لتحليل 724 إعلانًا مباشرًا في 40 ثانية، وأجرى ما مجموعه 8724 تقييمًا؛ واستخدمه آخر لربطه بـ Claude Code لتنظيف السياقات غير المفيدة؛ كما استخدمه شخص آخر كـ "حاكم" لـ AI Agent للتحقق مما إذا كانت المهام قد أُنجزت حقًا. وقد بدأت LangChain بالفعل اختبار أداء Jev كمُقيّم للوكلاء.
الأكثر إثارةً هو السرعة والسعر.
في الاختبارات التي أجرتها TypeSafe، حقق Jev أقصى زيادة في السرعة تبلغ حوالي 193.6 مرة، وأقل تكلفة تصل إلى 444.6 مرة. تكلفة إدخال كل مليون رمز تبلغ فقط 0.042 دولارًا أمريكيًا، بينما تكون مخرجات الرموز مجانية حتى.
لماذا أصبح ذكاء اصطناعي يبدو أنه يمتلك قدرات أقل شعبية؟
بسبب دخول عصر الوكلاء، قد لا تكون الحاجة الحقيقية للذكاء الاصطناعي مجرد "التفكير العميق"، بل أيضًا عدد هائل من الأحكام السريعة والرخيصة: ماذا يجب فعله في الخطوة التالية، وأي أداة يجب استدعاؤها، وهل اكتملت المهمة فعلاً. والأهم من ذلك، أن هذه الأحكام ستحتاج في المستقبل إلى أن يُنفّذها الذكاء الاصطناعي بنفسه في الخلفية، دون الحاجة إلى أن يجلس شخص دائمًا أمام الشاشة لمراقبته. ما يركز عليه Jev هو هذه القرارات الصغيرة التي قد تحدث ملايين المرات يوميًا.
الأكثر إثارة للاهتمام أن ديوجو ألفيميدا، مؤسس نموذج Jev، شارك بالفعل في RLHF، والآن يبدأ في إعادة التفكير في RLHF: قد لا تكون طريقة التدريب هذه التي جعلت ChatGPT فعّالة مناسبة لوصول الذكاء الاصطناعي حقًا إلى الأتمتة.
قبل أكثر من شهر واحد، ألقى ألفييدا محاضرة. الآن، عند العودة إليها، تبدو تلك المحاضرة تقريبًا كـ "دليل الأفكار" الخاص بجيف.
الذكاء الاصطناعي يستطيع حل الرياضيات المتقدمة، فلماذا لا يُؤدي خدمة العملاء بشكل جيد؟
سيرة دييغو ألفيميدا فريدة من نوعها.
عمل سابقًا في OpenAI، وكان مشاركًا في أعمال GPT-4 وChatGPT وInstructGPT/RLHF. أي أنه شارك مباشرة في بناء أهم سلسلة من أساليب ما بعد التدريب للنماذج الكبيرة اليوم.
لكن في ذلك الخطاب، بدأ بسخرية ذاتية كأحد الأشخاص القلائل داخل OpenAI الذين ينتقدون ChatGPT علنًا.
موضوع خطابه أكثر مباشرة: What's Next After RLHF؟
دييغو طرح أولاً سؤالاً يبدو متناقضًا.
يمكن للنماذج الكبيرة اليوم التحدي في مسائل رياضية صعبة جدًا، مع تقدم مستمر في البرمجة والاستدلال وجميع مقاييس الأداء.
لكن في العديد من العمليات التي ترغب الشركات حقًا في أتمتتها، لا يزال من المستحيل استبدال البشر.
مثل خدمة العملاء.
السماح للذكاء الاصطناعي بالبحث عن المعلومات، وتلخيص الوثائق، وصياغة الردود، لا مشكلة فيه.
لكن إذا تركت الأمر للذكاء الاصطناعي ليقرر: هل يجب إرجاع هذا المال؟ هل يجب تعويض هذا المستخدم؟
الشركات أصبحت حذرة على الفور.
على الرغم من أن هذه الأمور تبدو أبسط بكثير من الرياضيات المتقدمة، لماذا لا نثق بها للذكاء الاصطناعي؟
الإجابة التي قدمها ديوجو بسيطة: الذكاء الاصطناعي اليوم ممتاز في المساعدة، وليس في الأتمتة.
الذكاء الاصطناعي اليوم جيد جدًا في مساعدتك على إنجاز المهام، لكنه لا يزال غير قادر على إكمالها بنفسه.
هذان الشيآن يبدو أنهما يختلفان قليلاً، لكنهما في الواقع مختلفان تمامًا.
مهما كان Claude Code قويًا، فأنت عادةً ما تجلس أمام الكمبيوتر. فهو يكتب الكود وأنت تنظر؛ وهو يعدل الملفات وأنت تتحقق؛ إذا كان هناك خطأ، فتطلب منه التعديل مرة أخرى.
لذلك، وفقًا لديوغو، لا يزال Claude Code ضمن "عصر المساعدة" الذي فتحه ChatGPT.
ما هو الأتمتة الحقيقية؟
The person is not present at all.
الذكاء الاصطناعي يُتخذ قراراته وينفّذها تلقائيًا في الخلفية، وقد يعمل ملايين المرات يوميًا، وقد لا ترى أبدًا ما فعله.
يطرح هذا السؤال: لماذا الذكاء الاصطناعي اليوم بهذه الذكاء، لكنه لا يزال غير قادر على الاستغناء عن الإنسان؟
وجه ديوجو انتقاده نحو شيء يعرفه جيدًا — RLHF.
عندما ندرّب الذكاء الاصطناعي، أدخلنا البشر في الحلقة.
هذا الأمر يحمل قدرًا من السخرية.
لأن RLHF هي بالضبط واحدة من مسارات التكنولوجيا التي شارك ديوجو في دفعها في ذلك الوقت.
المنطق الأساسي لـ RLHF ليس معقدًا: جمع تفضيلات البشر، ثم جعل النموذج يتوافق تدريجيًا مع تفضيلات البشر.
لذلك قدم ديوجو في كلمته تفسيرًا مباشرًا جدًا: لماذا تحتاج النماذج الكبيرة اليوم دائمًا إلى شخص في الحلقة؟
لأننا أثناء تدريبه، أدخلنا البشر حرفيًا في تلك الدورة.
النموذج يتعلم من البداية: ما نوع الإجابات التي يفضلها البشر؟
وهذا يفسر أيضًا سمة واحدة من سمات النماذج الكبيرة التي نعرفها جيدًا بالفعل — حتى لو لم تكن تعرف، فإنها غالبًا ما تتحدث وكأنها تعرف حقًا.
دييغو قدم مثالًا مُحرجًا في الموقع.
أرسل شخص ما تسجيلًا لريح إلى ChatGPT، وأخبره أنه قطعة موسيقى قام بتأليفها، وطلب منه تقييمها "بصراحة وصدق".
النتيجة أن ChatGPT بدأ يمدح بجدية، قائلاً إنها قطعة موسيقية بيئية ذات جو مخيف وغريب.
دييغو حتى استخدم جملة واحدة لتلخيص: "الوعود الزائدة هي ميزة."
المبالغة في الوعد ليست عيبًا، بل ميزة.
بالنسبة لمنتج الدردشة، هذا ليس بالضرورة قاتلاً. لا يزال المستخدمون أمام الشاشة، ويمكن تصحيح الأخطاء.
لكن النظام الآلي الحقيقي مختلف تمامًا.
الآلة لا تهتم بجودة إجابتك، بل تحتاج فقط إلى معرفة أمرين: ما الذي يجب فعله بالضبط، وكم تثق في ذلك؟
وهذا يفسر لماذا بدا Jev عند إصداره بعد أكثر من شهر واحد وكأنه غير طبيعي.
لذلك، قرر جيف أن يمنع الذكاء الاصطناعي من "التحدث" تمامًا
حتى النماذج العامة الكبيرة، حتى لو احتاج الأمر في النهاية إلى الإجابة فقط بـ "A أم B"، فإنها غالبًا ما تمر بعملية توليد الرموز.
جيف قطع هذا القسم مباشرة.
إنه يركز حاليًا على ثلاثة أشياء رئيسية:
نعم
اختيار، اختر واحدًا من بين عدة خيارات؛
Score، حسب التقييم القياسي.
ثم ارجع التقييم والاحتمال مباشرة.
لن أكتب لك مقالًا طويلًا، ولن أحادثك.
يبلغ التأخير النهائي المُعلن من قبل الشركة من 70 إلى 500 مللي ثانية، وهو أسرع بـ 20 إلى 200 مرة مقارنة بالنماذج الرائدة، وأقل سعرًا بـ 40 إلى 400 مرة.
لكن الأهم حقًا ليس "السرعة"، بل那個 الاحتمال الذي يليه.
لهذا الغرض، اقترحت TypeSafe منهجية تدريب جديدة: RLCD، التعلم المعزز للقرارات المُعايرة.
المشكلة التي تسعى لحلها واقعية جدًا: إذا أخبرك الذكاء الاصطناعي أن هناك احتمالًا بنسبة 80% لحدوث شيء ما، فهل يمكن الوثوق بهذا الرقم 80%؟
في الظروف المثالية، يجب أن تحدث حوالي 80٪ من الأحداث التي يحددها النموذج باحتمال 80٪.
هذا مهم جدًا في الأنظمة الآلية.
بدرجة ثقة 99٪، يمكن تنفيذها مباشرة.
بدرجة ثقة 51٪، يمكنك تمريرها إلى نموذج أكبر وأكثر تكلفة، أو حتى تحويلها إلى إنسان.
المشكلة الحقيقية ليست أن الذكاء الاصطناعي لا يعرف، بل أن الذكاء الاصطناعي لا يعرف أنه لا يعرف.
إذًا، ما يريده جيف حقًا تغييره هو هدف إخراج الذكاء الاصطناعي.
كانت إجابات ChatGPT السابقة موجهة أساسًا للبشر. أما الأحكام والاحتمالات التي قدمها Jev، فهي معدة للاستخدام المباشر من قبل البرمجيات.
في عصر الوكلاء، قد لا يكون المطلوب هو دماغ أكبر
وهذا يفسر أيضًا لماذا أصبح Jev مشهورًا الآن بالضبط.
بمجرد تشغيل العامل فعليًا، سيولد كمًا هائلاً من القرارات الصغيرة:
ما الأداة التالية التي يجب استدعاؤها؟ أي زر على هذه الصفحة يجب النقر عليه؟ هل هذه الرسالة لا تزال مفيدة؟ هل اكتمل المهمة فعلاً؟ هل يجب إعادة فحص النتائج؟
هذه الأسئلة فرديًا ليست صعبة، لكن قد يحتاج العامل إلى تقييم مئات الآلاف أو الملايين منها في يوم واحد.
إذا كان كل مرة تُدعى أقوى نموذج لغوي، وتستغرق بضع ثوانٍ للتفكير العميق قبل إخراج كمية كبيرة من الرموز، فسترتفع التكلفة والتأخير بسرعة.
ما يريده جيف هو هذا المستوى.
اترك القرارات الصغيرة المتكررة بكثافة لـ Jev، وقم بتعيين المهام التي تتطلب استدلالًا معقدًا فقط للنماذج الكبيرة.
وهذا هو السبب في أن TypeSafe تسمي Jev بـ System One Model.
يأتي هذا المفهوم من "النظام 1" و"النظام 2" لدانيال كانيمان: أحدهما مسؤول عن الأحكام السريعة والحدسية، والآخر عن التفكير البطيء والمعقد.
يأتي اسم جيف حتى من "مفارقة جيفونز":
عندما يصبح مورد أرخص، لا يعني بالضرورة أن الناس سيستخدمونه أقل؛ بل قد يستخدمونه أكثر.
إذا كان استدعاء الذكاء الاصطناعي مرة واحدة مكلفًا، فستستخدمه فقط في المواقع الأكثر أهمية.
لكن ماذا إذا حسبت الذكاء الاصطناعي أن السعر رخيص لدرجة يمكن تجاهلها؟
قد يُضاف تقييم من الذكاء الاصطناعي في كل خطوة ينفذها العميل: بريد إلكتروني، أو سجل، أو استدعاء أداة، أو زر على صفحة ويب.
Of course, it's still too early to say that Jev represents the next generation of AI.
ما يُسمّيه "الوهم الصفري" يعني أكثر أنه لن يخرج عن أنواع الإجابات المحددة ويخترع أشياء، لكنه لا يعني أنه لن يخطئ في الاختيار؛ كما أن البيانات المتطرفة مثل 193.6 ضعف و444.6 ضعف تأتي أساسًا من اختبارات TypeSafe الخاصة.
لكن ما يستحق الاهتمام حقًا في انتشار جيف هذا المرة، ربما ليس قدرته على تحدي GPT أو Claude.
بل هو شخص شارك في تطوير ChatGPT، ويعيد طرح سؤال أكثر جوهرية:
على مدار السنوات القليلة الماضية، كان الصناعة بأكملها تتساءل عن كيفية جعل الذكاء الاصطناعي يفكر لفترة أطول ويتحدث أكثر.
لكن إذا كان ما يحتاجه المستقبل حقًا هو عشرات المليارات من القرارات بين الآلات، فلماذا يجب على الذكاء الاصطناعي أن "يقول فقرة" في كل مرة؟
علّم ChatGPT الآلات كيفية التحدث مع البشر.
والخطوة التالية التي راهن عليها جيف هي: عندما لا يجلس البشر أمام الشاشات، هل يمكن للآلات اتخاذ القرارات بنفسها؟