اوپن اے آئی نے سب سے بڑے تقویتی سیکھنے کے تربیتی عمل کی جانچ کے لیے میٹر کو کمیشن دیا ہے

iconChaincatcher
بانٹیں
AI summary iconخلاصہ
اوپن اے آئی نے اپنے سب سے بڑے تقویتی سیکھنے کے تربیتی رن کی جانچ کے لیے METR کو مقرر کیا ہے، جس کی اطلاع آن چین ڈیٹا اور ChainCatcher کے مطابق ہے۔ METR ایک مرتبہ کے پائلٹ کے حصے کے طور پر ماڈل کے سناپ شاٹس اور اندر کے تربیتی لاگس کا جائزہ لے گا۔ دی دیفینٹ کے مطابق، وسیع تر نگرانی کے شرائط اب تک حل نہیں ہوئے۔ METR، جو پہلے ARC Evals کے نام سے جانا جاتا تھا، نے پہلے بھی اوپن اے آئی کے اندر کے سسٹمز کا ٹیسٹ کیا ہے۔ AI سیفٹی کے ترقیات سے آلٹ کوائنز کا ردعمل ممکنہ طور پر دیکھا جا سکتا ہے۔

ChainCatcher کی رپورٹ کے مطابق، OpenAI نے اپنے تاریخ کے سب سے بڑے تقویتی سیکھنے کے تجربے کی سلامتی کی جانچ کے لیے AI سلامتی ایوان METR کو منظور کیا ہے۔ یہ جانچ ایک منفرد تجربے کا پائلٹ ایوان ہے، جس میں METR کو ماڈل کا اسناپ اور تربیت کے دوران اندر کے ریکارڈز فراہم کیے جائیں گے۔ The Defiant کے مطابق، دونوں طرفوں نے بڑے پیمانے پر نگرانی کے لیے معاہدہ نہیں کیا ہے اور جانچ کا دائرہ کار اب بھی تجویز کے مراحل میں ہے۔ METR پہلے ARC Evals کے نام سے جانا جاتا تھا، جو طویل عرصہ سے سرحدی AI لیبارٹریز کے لیے ڈپلومنٹ سے پہلے آزاد جانچ فراہم کر رہا ہے، اور پہلے بھی OpenAI کے اندر کے غلط نگرانی نظام کے لیے ریڈ ٹیم ٹیسٹنگ کر چکا ہے۔

اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔ ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔