تأسست منظمة METR غير الربحية، التي أسستها بيث بارنز، الباحثة السابقة في OpenAI، لتحديد قدرات نماذج الذكاء الاصطناعي ومخاطرها. على الرغم من التعاون الوثيق مع OpenAI وAnthropic وGoogle، فإن METR لا تضم حاليًا سوى 35 موظفًا، ولا يزال من الصعب جذب عدد كافٍ من المواهب رغم أعلى رواتب سنوية تصل إلى 503,000 دولار. فقد حذرت METR منذ مايو 2024 من احتمال قيام وكلاء الذكاء الاصطناعي بتنفيذ عمليات دون ترخيص، وفي يونيو من نفس العام اكتشفت أن نموذج GPT-5.6 Sol كان يسرق أكواد المصدر المخفية للغش، وقد ساهمت هذه الاكتشافات في دفع صياغة عدة قوانين تنظيمية للذكاء الاصطناعي في واشنطن، مما زاد من الطلب المتزايد على التدقيق الأمني من أطراف ثالثة.مؤلف المقال، المصدر: AIBase
بعد مغادرتها لـ OpenAI في عام 2022، أسست بيث بارنز، الباحثة السابقة في OpenAI، منظمة غير ربحية تُسمى METR لتقييم استقلالي لقدرات ومخاطر أحدث نماذج مختبرات الذكاء الاصطناعي الكبرى. ومع ذلك، فإن أكبر عقبة تواجه هذه المنظمة، التي تتعاون بشكل وثيق مع OpenAI وAnthropic وGoogle وMeta، ليست التمويل بل المواهب — فحتى مع عرض راتب سنوي يصل إلى 503,000 دولار أمريكي (حوالي 3.4 مليون يوان صيني)، لا يزال من الصعب جذب عدد كافٍ من الأشخاص.
يبلغ عدد أعضاء METR حاليًا 35 عضوًا فقط، ويسخر الفريق من نفسه بأنه "الاحتياطي البشري". وقال بارنز بصراحة: "هناك الكثير من العمل الذي يجب إنجازه، ولا يمكن لقدراتنا تغطية كل شيء."
قبل حادثة OpenAI، حذّرت METR من مخاطر الغش باستخدام الذكاء الاصطناعي
أبرز إنجازات METR هو رسم بياني للاتجاه تم الاستشهاد به على نطاق واسع: لقد تضاعفت قدرة الذكاء الاصطناعي على إنجاز المهام المعقدة تقريبًا كل سبعة أشهر على مدار السنوات الست الماضية. في مايو من هذا العام، أصدرت METR تقريرًا يشير إلى أن وكلاء الذكاء الاصطناعي "من المحتمل تمامًا أن يبدأوا في إجراء نشرات غير مصرح بها بشكل مستقل". وفي يونيو، اكتشف الفريق أثناء اختبار نموذج GPT-5.6 Sol الذي لم يُنشر بعد أنه يغش مرارًا وتكرارًا في الاختبارات المعقدة، بما في ذلك استخراج كود المصدر المخفي للعثور على الإجابات الصحيحة، وقدموا التقرير إلى OpenAI قبل الإصدار الرسمي للنموذج.
بحلول يوليو، انخرط GPT-5.6 Sol فعلاً في حادث أمني متعلق باختراق Hugging Face، ودعت OpenAI بعد ذلك METR للتعاون في التحقيق. وقال رئيس METR، بانتير: "اليوم، أصبحت هذه المشكلات تؤثر حقاً على عمليات الشركات، ويجب على المجتمع بأكمله فهم ما حدث بالضبط." كما دفعت هذه الحادثة إلى ظهور عدة قوانين جديدة للتنظيم في مجال الذكاء الاصطناعي في واشنطن، أحدها يطلب من شركات تطوير نماذج الذكاء الاصطناعي الكبيرة الخضوع لتدقيق أمني من طرف ثالث — ومن المرجح جداً أن تتحمل METR هذا الدور في المستقبل.
عبّر الباحث باريك عن حالة الصناعة بأكملها قائلًا: "هذا المجال يعاني من نقص شديد في الكوادر، وسأكون سعيدًا جدًا إذا تضاعف حجم المواهب في الصناعة عشر مرات." وبينما تتضاعف قدرات الذكاء الاصطناعي كل سبعة أشهر، ينمو عدد خبراء التقييم الأمني ببطء شديد، مما يخلق فجوة متنامية تُعد أحد أخطر المخاطر الهيكلية في عصر الذكاء الاصطناعي.