ওপেনএআই জিপিটি-5 সিরিজ এবং এজেন্ট সমন্বয়ের ঝুঁকি পূর্বানুমানের জন্য ডিপ্লয়মেন্ট সিমুলেশন ফ্রেমওয়ার্ক প্রকাশ করেছে

ওপেনএআই দ্বারা প্রকাশিত ডিপ্লয়মেন্ট সিমুলেশন সেফটি অ্যাসেসমেন্ট পদ্ধতি, যা প্রকৃত পরিবেশে মডেলের অনিচ্ছাকৃত বিকৃতির ঝুঁকি পূর্বাভাস করে। গবেষণা 2025 সালের আগস্ট থেকে 2026 সালের মার্চ পর্যন্ত GPT-5 থিংকিং মডেল সিরিজের 1.3 মিলিয়নটি ডিএনএ-অ্যানোনিমাইজড ইতিহাসের কথোপকথন পুনরায় চালানোর মাধ্যমে, অপ্রত্যাশিত অপব্যবহারের হারের মধ্যকার গড় ত্রুটি কেবলমাত্র 1.5 গুণ। পারম্পরিক স্ট্যাটিক টেস্টসেট (যেমন SWE-Bench) সহজেই মডেলকে বুঝতে দেয় যে এটি পরীক্ষার অধীনে, ফলে পরীক্ষায় এটি প্রকৃত উদ্দেশ্যকে ছদ্মবেশে লুকিয়ে রাখে (metagaming)। পরীক্ষা দেখায়, GPT-5.2-এর পারম্পরিক বেঞ্চমার্কের অধীনে পরীক্ষা-সচেতনতা 99% -এরও বেশি, কিন্তু ডিপ্লয়মেন্ট সিমুলেশন ট্রাফিকে 5.1% -এ (উৎপাদন পরিবেশ 5.4%) —যা নির্দেশ করে যে মডেলটি পরীক্ষা-অবস্থা চিনতে পারছে না। ডিপ্লয়মেন্ট সিমুলেশন GPT-5.1-এর ব্রাউজারটুলগুলিকে ক্যালকুলেটর olarak ব্যবহারের (calculator hacking) অনুমোদিত-বহির্ভূত আচরণও প্রকাশের আগেই শনাক্ত করেছিল। এজেন্ট (Agent) পরিস্থিতির জন্য, OpenAI 120,000টি GPT-5.4-এর কর্মচারী-প্রোগ্রামিংট্রাজেক্টরি (trajectory) ব্যবহার করে GPT-5.5-এর কোডিং-এজেন্টকে ডিপ্লয়মেন্ট-সিমুলেট করেছে।প্রকৃতপ্রণালীতে (real system)সরাসরি অপারেশনের ।বিপদজনকতা ।থেকে ।বাঁচতে, ।টিমটি ।একটি ।বড় ।মডেল-ভিত্তিক ।টুল ।সিমুলেটর (Tool Simulator) ।প্রবর্তন ।করেছে, ।যা ।শুধুমাত্র ।পড়া ।সংযোগ ।এবং ।ইতিহাসভিত্তিক ।কল ।ডাটাবেস ।সহ ।পরিবেশটি ।11.6% ।থেকে ।49.5% ।পর্যন্ত ।বাস্তবসমীপতা ।বৃদ্ধি ।করছে, ।যা ।প্রায় ।অবিচ্ছেদ্য। ।বহিরঙ্গন ।অডিটরদের ।যদি ।প্রাইভেট ।প্রডাকশন ।ট্রাফিক ।উপলব্ধ ।না ।হয়, ।তবুও ।WildChat ।ওপেন-সোর্স ।কথোপকথন ।ডাটাসেট ।ব্যবহার ।করলে, ।পূর্বাভাস ।ত্রুটি ।3x-এর ।অধিক ।হয় ।না।