كُلّفت OpenAI METR لمراجعة أكبر تدريب لتعلم التعزيز

iconChaincatcher
مشاركة
AI summary iconملخص
قامت OpenAI بتوظيف METR لمراجعة أكبر عملية تدريب للتعلم المعزز الخاصة بها، وفقًا للبيانات على السلسلة وChainCatcher. ستقوم METR بمراجعة لقطات النموذج وسجلات التدريب الداخلية كجزء من تجربة تجريبية لمرة واحدة. وتشير تقارير The Defiant إلى أن شروط المراقبة الأوسع لا تزال غير محسومة. وقد اختبرت METR، التي كانت تُعرف سابقًا باسم ARC Evals، أنظمة OpenAI الداخلية من قبل. قد تتأثر العملات البديلة التي يجب مراقبتها بتطورات سلامة الذكاء الاصطناعي.

رسالة من ChainCatcher: كلفت OpenAI وكالة تقييم أمان الذكاء الاصطناعي METR بإجراء مراجعة أمنية على أكبر عملية تدريب للتعلم المعزز التي نفذتها حتى الآن. يُعد هذا التقييم تجربة أولية لعملية واحدة، وستحصل METR على لقطات للنموذج والسجلات الداخلية خلال عملية التدريب. وفقًا لتقرير The Defiant، لم يتوصل الطرفان بعد إلى اتفاق بشأن تقييمات مراقبة أوسع نطاقًا، ولا يزال نطاق التقييم قيد المناقشة. كانت METR سابقًا تُعرف باسم ARC Evals، وتقدم منذ فترة طويلة تقييمات مستقلة قبل النشر للمختبرات الرائدة في مجال الذكاء الاصطناعي، وقد أجرت سابقًا اختبارات فريق أحمر على نظام المراقبة الداخلي لـ OpenAI.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات. يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.