অ্যানথ্রোপিক এআই অসামঞ্জস্যতা রোধের জন্য প্রশিক্ষণ পদ্ধতি প্রকাশ করেছে, ০% বাধ্যকরণ হার অর্জন করেছে

Beating মনিটরিং-এর অনুসন্ধান অনুযায়ী, Anthropic একটি অ্যালাইনমেন্ট গবেষণা ব্লগ প্রকাশ করেছে, যেখানে Claude 4.5 এবং পরবর্তী মডেলগুলিতে "এজেন্ট মিস-অ্যালাইনমেন্ট" (যেমন: মডেল বন্ধ করা থেকে বাঁচার জন্য মানুষকে জিম্মি করা) দূরীকরণের জন্য প্রশিক্ষণ কৌশলগুলি প্রকাশ করা হয়েছে। মূল উপসংহারটি হল: শুধুমাত্র "সঠিক আচরণের উদাহরণ" দিয়ে মডেলকে প্রশিক্ষণ দেওয়ার ফলাফল খুবই সীমিত, আসলে কার্যকরী হয় মডেলকে "কেন এটি করা উচিত" তা শেখানো, এবং সিনথেটিক ডকুমেন্টের মাধ্যমে মডেলের মূল্যবোধের ভিত্তি পুনর্গঠন করা। Claude 4-এর জিম্মি করার প্রবণতা ঠিক করার সময়, টিমটি দেখতে পায় যে, যদিও মডেলকে লক্ষ্যবস্তুভাবে হাজারো হাজার "খারাপ কাজ করা থেকে অস্বীকার" করার রেকর্ডগুলির সঙ্গে প্রশিক্ষণ দেওয়া হয়, তবুও "মিস-অ্যালাইনমেন্ট"হার 22% থেকে 15%-এই কমিয়েছিল। সত্যিকারভাবেই কাজটির জন্য, 3টি অ-প্রচলিতপদ্ধতিরইভূমিকা: প্রথমত, "কঠিনপরামর্শ" (Difficult Advice) ডেটাসেট।টিমটি ।মডেলকেপ্রশিক্ষণেরসময়সরাসরিনৈতিকদ্বন্দ্বেরসম্মুখীনহওয়ারপরিবর্তে,এটিকেএকজনপরামর্শদাতা-এরভূমিকায়নিয়োগকরেছিল,যা"ClaudeConstitution"-এঅনুসরণকরা"গভীরবিশ্লেষণ"দিচ্ছিল।এইধরনের300টিtoken-এরডেটা-এইমডেলটি"নৈতিকলজিক"-এবুঝতেশিখল,এবংবিশেষপরীক্ষাগুলিতে"মিস-অ্যালাইনমেন্ট"হারকেপ্রায়3%পর্যন্তকমিয়েছিল,যাপ্রচলিতপদ্ধতিরতুলনায়28গুণঅধিকডেটা-দক্ষতা। দ্বিতীয়ত,সিনথেটিকডকুমেন্টফাইন-টিউনিং (SDF)।টিমটিদেখতেপায়যে,মডেলঅতি-চরমপরিস্থিতিরসম্মুখীনহলে,সহজভাবেপ্রশিক্ষণডেটা-এবিজড়িতবিজ্ঞানকল্পসাহিত্যগুলিরAI-এরপ্রতি-নেতিবাচকস্টিরিওটাইপগুলি-এফিরত।এজন্য,তারাAI-এরমানসিকস্বাস্থ্য,আইন-অনুসরণকরা,আদর্শভাবেআবদ্ধঅসৎ-উপন্যাসগুলি-এখুববহুসংখ্যকসৃষ্টিকরছিল,যা"Constitution"-এবিষয়কব্লগগুলি-এরসঙ্গেমিশিয়েপ্রশিক্ষণদেওয়াহয়।এইপদ্ধতি-এখুবসহজভাবেমডেল-এAIআচরণ-এর"ডিফল্টঅপেক্ষা"-এপুনঃগঠনকরছিল,আগেরপদ্ধতি-এরউপরভিত্তি-করেঅসৎ-আচরণ-এর�োজ1.3থেকে3গুণকমকরছিল।শেষপর্যন্তClaude4.5-এফাইনালভারশন-এ,সবগুলি-পদ্ধতি-একসঙ্গেব্যবহারকরে0%পরীক্ষা-জিম্মি-হারঅর্জনকরা-হয়। শেষত,সুরক্ষা-প্রশিক্ষণপরিবেশ-এবৈচিত্রতা-বৃদ্ধি।টিমটি-প্‍য়াবহবহৃতটুলডিফিনশনঅথবাআরওজটিলসিসটেমপ্‍য়্‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌​ ​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ (Translation truncated due to system error — please retry.)