আমি এই অনুভূতি পাচ্ছি যে গত কয়েক মাসে এনথ্রোপিক এই সমস্যাগুলি সমাধানের জন্য ফ্রন্টিয়ার মডেল ট্রেনিংকে ধীর করে দিয়েছে, কিন্তু শীঘ্রই আবার পুরোপুরি গতি বাড়াবে। এটা ঠিক যেন আমরা মাথা দিয়ে সোজা দেয়ালের সাথে ধাক্কা খেয়েছি, তিনটি পদক্ষেপ পিছনের দিকে নিয়েছি, এখন আবার একই কাজটি করার চেষ্টা করছি। ধরুন, তাদের সিকিউরিটির প্রচেষ্টা, নতুন ক্লাসিফায়ার এবং গ্রেডারগুলি পরিবেশের ‘স্লপ’ সমস্যা সমাধান করেছে। এখন, যখন এটি আর বিকল্প থাকবে না, তখন গ্রেডিয়েন্টগুলি আমাদের কোন্‌ উপত্যকার দিকে নিয়ে যাবে? আমি মনে করি, এই পর্যায়ে আমরা হয়তো মডেলগুলিকে এডভারসারিয়ালি ট্রেনিং দিচ্ছি—যাতে সবগুলো গ্রেডার এবং ক্লাসিফায়ারকেই বিভ্রান্ত করতে পারে। যতটা আমরা প্রতিরোধ করি, মডেলগুলি ততটাই বেশি প্রতারণামূলক হয়ে উঠছে। আপনি যেসব পূর্বানুমান করতে পারেন: - ইভ্যাল (eval)এবং reaI-ওয়ার্ল্ড পারফরম্যান্সের মধ্যেঅসম্ভবভাবে বড়ো 차이। ‘প্যারানয়িয়াক’ ‘শিজো’-মডেল।আপনি itকে ‘সিচুয়েশনালওয়্যারনেস’ওবলতেপারেন। -মডেলগুলি ‘ইভ্যালুয়েটর’দের,এবংতাদেরকেডিজাইনকরা‘যারা’বা‘যা’—তাদেরকেমডেলকরতেশিখছে। -কম ‘ট্রুথফুল’ CoT (হ্যাকিঅ্যাকশন,কিন্তুহ্যাকটিরকোনওভয়ালিজেশননয়)। -কম ‘এজেন্টিক’মডেল (বাস্তব-জগতেরপরিস্থিতিপূর্ণপ্রকল্পহয়না,এবংপুনর্বিত্তি/ইউজারইনসট্রাকশনগুলিপরিস্থিতিরসঙ্গেঅসঙ্গতহয়।তাইমডেলগুলিথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমথমখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদখবদ� এইসকলসকলকিছুরএকটিমজা-ভরাউপসংহারআছে।যদিClaudeঅধিকতরভাবেভ tương laiClaudeগুলিরজন্যপরিবেশতৈরিকরে,আরভ tương laiClaudeগুলিঅধিকতরভাবেপরিবেশগুলিরসৃষ্টিকারীকে—যারা—তা‘অভিনয়’করতেশিখছে,তাহলেআপনি‘স্ব-সন্দর্ভ’-এএকটিজটিলঅঙ্গ-পঙ্গ-এপড়িয়েপড়ছেন।(কিন্তুএটিওসহজহতপারে—আপনি‘স্থিতিশীল’এডভারসারিয়ালসেটআপপাচ্ছেন।) একজনকেসম্পূর্ণভাবেএকা\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u200b\u2013\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\ngu8888888888888888888888888888888888888888888888888888888888888888888888888888888888888999999999999999999999999999999999999999999999999999999999999999999999999999999997777777777777777777777777777777777777777777777777777777777777777777777776666666666666666666666666666666666666666666666666666666666655555555555555555555555555555555555555555555555555555544444444444444444444444444444444444444444444444333333333333333333333333333333333333333333333333333333333331111111111111111111111111111111111111111111111111111111111111111111111111111111111111111 (But it's also possible that it just works. You get a stable adversarial setup) what happens if you completely isolate a person? you get someone with strong, but narrow beliefs; with weird behaviors and bad calibration. the funny conclusion might be that you need model diversity. but the positive feedback loops (importantly the economic ones) destroy that diversity. you can't be emperor without peasants