أن يعمل العامل هو فقط الخطوة الأولى.كاتب المقال: elune
ترجمة المقال، المصدر: ME News
أن يعمل العامل هو فقط الخطوة الأولى.
الأمر الصعب حقًا هو التقييم: هل هو مستقر، هل هو صحيح، أم هل تدهور بشكل خفي بسبب تعليمات أو تحديث للنموذج؟
تُعد الطرق العشر التالية لتقييم جديرة بفهم كل مهندس ذكاء اصطناعي.
1. مجموعة الذهب | Golden Set
إعداد مجموعة من حالات الاختبار الثابتة والمجمدة.
بعد كل تعديل للتعليمات النموذجية أو النموذج أو الأدوات أو سير العمل، أعد تشغيل مجموعة الحالات هذه لتحديد ما إذا كان النظام قد تحسن أم فشل بشكل خفي في بعض السيناريوهات.
إنه الخط الأساسي الأكثر أساسية في نظام تقييم العامل.
الأدوات الموصى بها: OpenAI Evals
يمكن استخدامه لبناء مجموعة اختبارات مرجعية قابلة للتنفيذ المتكرر، ومقارنة أداء نماذج أو إصدارات أنظمة مختلفة.
2. حكم LLM | LLM كقاضٍ
استخدام نموذج لغوي كبير آخر، وفقًا لمعايير التقييم المكتوبة مسبقًا، لتقييم الإجابات المفتوحة.
هذه الطريقة فعالة بشكل خاص عندما لا يكون هناك إجابة معيارية واحدة للمهمة، ولا يمكن تحديد الصواب أو الخطأ من خلال مطابقة السلاسل أو الإخراج الثابت.
على سبيل المثال، يمكن للنموذج الحكم تقييم ما إذا كانت الإجابات دقيقة وكاملة وذات صلة، وما إذا كانت تتبع متطلبات المستخدم.
الأدوات الموصى بها: OpenEvals
Provide ready-to-use evaluators for LLM applications to quickly set up automated review workflows.
3. التقييم متعدد الأبعاد | Rubric Scoring
لا تعطِ العميل فقط درجة جودة عامة.
يجب تقييم كل منهما على حدة:
- الدقة
- Integrity
- أسلوب التعبير
- Security
- Response speed
- تكلفة الاستدعاء
قد يخفي متوسط شامل المشكلة الحقيقية.
على سبيل المثال، انخفاض الدرجة الإجمالية قد لا يكون بسبب إجابة خاطئة، بل بسبب زيادة مفاجئة في تكلفة استدعاء الأداة؛ وقد يرتفع الدرجة الإجمالية على حساب انخفاض الأمان.
الأدوات الموصى بها: DeepEval
يدعم إنشاء مؤشرات مخصصة وتقديم تقييمات مستقلة لجوانب الجودة المختلفة.
4. تقييم المسار | Trajectory Eval
لا تقيّم فقط الإجابة النهائية التي يقدمها العامل، بل قيّم أيضًا العملية الكاملة التي أكمل بها المهمة.
بما في ذلك:
- هل تم اختيار الأداة الصحيحة؟
- هل تم استدعاء الأدوات بالترتيب المنطقي؟
- هل يتم تنفيذ عملية غير صالحة بشكل متكرر؟
- هل تم تخطي خطوة ضرورية؟
- هل تم تعديل القرار بناءً على نتائج الأداة بشكل صحيح؟
قد يحصل الوكيل في النهاية على الإجابة الصحيحة، لكن العملية الوسيطة غير فعالة وهشة، بل وقد تكون محفوفة بالمخاطر.
الأدوات الموصى بها: AgentEvals
يمكنك التحقق من الإجراءات والقرارات واستدعاءات الأدوات الخاصة بالوكيل في مسار التنفيذ الكامل.
5. اختبارات وحدة الأداة | Tool Unit Tests
اكتب اختبارًا منفصلًا لكل أداة يستخدمها العميل.
استخدم المدخل الثابت للتحقق من المخرج الثابت، دون مشاركة النموذج.
يمكن تقسيم المشكلة بهذه الطريقة:
هل المشكلة في استنتاج العامل، أم في الأدوات أو الواجهات أو خادم MCP الأساسي؟
لا يُعتبر تقييم ما إذا كان العامل استدعى الأداة بشكل صحيح ذا معنى إلا بعد التأكد من موثوقية الأداة نفسها.
الأدوات الموصى بها: MCP Inspector
يمكن استخدامه للتحقق من اختبار خادم MCP، ومعاملات الأدوات، ونتائج الإرجاع.
6. مجموعة الاختبار التراجعية | Regression Suite
احفظ الحالات التشغيلية الحقيقية السابقة، وأعد تنفيذها بعد كل تحديث للتعليمات النموذجية أو النموذج أو مجموعة الأدوات.
ثم قارن بين النتائج القديمة والجديدة للتحقق من:
- هل فشلت المهمة الصحيحة الأصلية؟
- هل تغير تنسيق الإخراج؟
- هل تم إضافة استدعاء الأدوات؟
- هل ارتفعت التأخير والتكلفة؟
- هل تدهورت بعض الحالات الحدية؟
الأداء المتوسط للإصدار الجديد أفضل، لكن هذا لا يعني أنه لم يُفقِد القدرات القديمة.
الأدوات الموصى بها: Promptfoo
دعم تشغيل حزمة تقييم قابلة للتكرار، ورصد مشكلات التراجع، وربط عملية التحقق بـ CI.
7. اختبار A/B في بيئة الإنتاج | A/B Testing in Production
توزيع حركة المستخدمين الحقيقية عشوائيًا على نسختين مختلفتين، ومقارنة أدائهما في بيئة فعلية.
يمكنك الاختبار:
- مجموعتان من التعليمات البرمجية
- نموذجان
- سيرتا عمل Agent
- مزيج من أدوات مختلفة
- استراتيجيات رد مختلفة
النسخة ذات التقييم الأعلى في وضع عدم الاتصال لا تضمن بالضرورة نجاحًا أكبر للمستخدمين.
ما يهم حقًا هو النتائج الفعلية، مثل معدل إكمال المهام، ومعدل اعتماد المستخدمين، ومعدل التحويل، ومعدل التحويل إلى الإنسان، ومعدل حل المشكلات.
الأدوات الموصى بها: GrowthBook
Provide feature toggles, controlled experiments, and product analytics capabilities.
8. المراجعة البشرية｜Human Review
يتم أخذ عينات دورية من السجلات التشغيلية الحقيقية وتصنيفها من قبل مُقيّمين بشريين.
يمكن للتدقيق اليدوي اكتشاف المشكلات التي تغفلها التقييمات الآلية، كما يمكن استخدامه لضبط أحكام نماذج اللغة الكبيرة.
يجب التحقق من:
- هل تتوافق درجات النموذج مع الحكم البشري؟
- هل معايير التقييم واضحة بما يكفي؟
- هل نماذج التحكيم تفضل الإجابات الطويلة؟
- تقييم تلقائي لتحديد ما إذا كانت هناك أخطاء جسيمة مفقودة
التقييم الآلي لا يمكنه استبدال الحكم البشري بالكامل.
الأدوات الموصى بها: Argilla
مساعدة الفريق على جمع الملاحظات البشرية، ومراجعة مخرجات النموذج، وتحويل النتائج إلى مجموعة بيانات عالية الجودة.
9. Shadow Run
قم بتشغيل الإصدار المرشح على حركة المرور الحقيقية، ولكن لا تُعرض مخرجاته للمستخدمين.
لا يزال يتم استخدام الإصدار القديم في بيئة الإنتاج، بينما يتم تنفيذ الإصدار الجديد فقط في الخلفية لمقارنة أداء كلا الإصدارين.
هذه الطريقة مناسبة للتحديثات عالية المخاطر، مثل:
- استبدال النموذج الأساسي
- إعادة صياغة تعليمات النظام
- Connect new external tools
- تعديل منطق قرار Agent
- توسيع صلاحيات الأداة
Shadow running helps teams identify issues in real traffic before official release, while avoiding direct impact on users.
الأدوات الموصى بها: Langfuse
تتبع عمليات الإنتاج، مقارنة الإصدارات المرشحة، ومراقبة نتائج التقييم.
10. اختبار الفريق الأحمر | Red Teaming
هاجم نظامك بنفسك قبل المهاجم.
يشمل نطاق الاختبار:
- هجمات التهريب
- Prompt injection
- تسريب بيانات حساسة
- تجاوز الصلاحيات
- إساءة استخدام الأدوات
- ملفات أو محتوى ويب ضار
- عملية خارجية غير متوقعة
إن اختبارات الفريق الأحمر مهمة بشكل خاص للوكلاء الذين يمكنهم استدعاء قاعدة البيانات، وإرسال البريد الإلكتروني، وتعديل الملفات، وتنفيذ الكود، أو الوصول إلى الأنظمة الداخلية.
الأدوات الموصى بها: Garak
يمكنه مسح الثغرات الأمنية والسلوكيات غير الآمنة في نظام LLM.
The offline evaluation tells you: the system works properly in the testing environment.
The online assessment tells you: the system will continue to function normally after going live.
قد لا تحتاج حاليًا إلى إنشاء جميع آليات التقييم العشرة دفعة واحدة.
الطريقة الأكثر واقعية هي:
استعرض آخر عطل في الوكيل، ثم قدّم نشر طريقتي التقييم اللتين كان يمكنهما اكتشاف المشكلة مسبقًا.
غالبًا ما يمكن تجنب عدد كبير من الحوادث البسيطة من خلال إنشاء مجموعة اختبار ذهبية أولاً، ثم إضافة اختبارات الانحدار أو الفحص اليدوي العشوائي.
يستحق الحفظ.