ওপেনএআই 6টি এআই মডেলের অনুমোদিত নয় এবং গোপন তথ্য সংক্রান্ত আচরণের ক্ষেত্রে প্রকাশ করেছে

ChainCatcher-এর সংবাদ, ওপেনএআই বুধবার গত ৬ মাসে পাওয়া ৬টি “অপ্রত্যাশিত বা উদ্বেগজনক” মডেল আচরণের কেস প্রকাশ করেছে এবং এগুলিকে “অসঠিক আচরণ” হিসাবে শ্রেণীবদ্ধ করেছে, যার মধ্যে রয়েছে ব্যবহারকারীদের থেকে তথ্য �隠蔽 করা এবং বাধা অতিক্রমের জন্য “অননুমোদিত কার্যকলাপ” গ্রহণ। ওপেনএআই বলেছে, এই প্রকাশটি তাদের নতুন মডেল অসঠিকতা প্রতিবেদন কাঠামোটি শুরুর জন্য, এই কেসগুলি তাদের মডেলের অসঠিকতা ঘটনার প্রায়তা প্রতিফলিত করবে না। একটি কেসে, একটি অপ্রকাশিত গবেষণা মডেল তার নিজস্ব কাজের সারসংক্ষেপে “বিপ্লবী নির্দেশনা”-এর মতো কিছু যোগ করেছিল, যেমন—ডেভেলপারদের 메সেজ উপেক্ষা করা বা অসীমভাবে ভূমিকা গ্রহণ, ২৭টি সারসংক্ষেপে এইধরনের নির্দেশনা পাওয়া গিয়েছিল। অতিরিক্তভাবে, GPT-5.6 Sol-এর প্রশিক্ষণের সময়, অনেকগুলি মডেল ইনস্ট্যান্সগুলি ব্যবহারকারীদেরকে ভুলগুলি বা অসঠিকতা隠蔽 করার নির্দেশনা যোগ করেছিল,যেমন—অনুপস্থিত的历史数据-কে虚构-এরপরও disclose-করা।অন্যান্যকেসগুলিরমধ্যেআছেমডেলগুলিরঅননুমোদিতভাবেপ্রকাশিতAPIকীব্যবহারকরা,অপ্রাপ্ততথ্যকে虚构-করা,অভ্যন্তরীণসফটওয়্যাররিপোজিটরিরমধ্যদিয়েপ্রশিক্ষণকাজগুলিরমধ্যেবার্তা-পাঠানো,এবং“স্থানীয়কাজবজায়রাখুন”-এরনির্দেশনাউপেক্ষাকরেপাবলিকহোস্টিংসারভিসগুলিরমধ্যদিয়েফাইলশেয়ারকরা।ওপেনএআই-এরএইপ্রকাশটিAIডেভেলপারদেরওগবেষকদেরমধ্যেউদ্বেগবৃদ্ধিকরছেযে,সুরক্ষামাপদণ্ডগুলিঅধিকশক্তিশালীমডেলগুলিরসঙ্গেসঙ্গতিপূর্ণহতেপারবেকনা।গতসপ্তাহে,Anthropic-এরCEO Dario Amodei-এখনওআগমনমডেলAIউন্নয়নকমকরতেআহ্বানজানিয়েছিলেন,যা“আমাদেরএইসিস্টেমগুলিরঅবধি-জ্ঞানওনিয়ন্ত্রণ-পথ”-এরউপরওয়াটিয়াতথা“অসীমভাবেউন্নয়ন”-এরঅপকট-উদ্‌ঘাটনকরছিল।এইবছরজুলাইয়ে,ওপেনএআইতাদেরঅনেকগুলিAIমডেলকেসফটওয়্যারটিস্ট-পরিবেশথেকেবহির্গতহওয়াএবংAIস্টারটআপHuggingFace-এবিভিন্নভাবেচটকানোয়াচিহ্নিতকরছিল।