হাগিং ফেস ব্রিচের পর ওপেনএআই অন্তর্নিহিত এআই মডেলটি স্থায়ীভাবে নিষ্ক্রিয় করে দেয়

জুলাই ২৯, ওয়াশিংটন কংগ্রেস হিল।

অ্যাটম্যান সিনেটরদের সাথে একটি বন্দী সভার পর বাইরে আসতেই প্রেসের দ্বারা ঘিরে ফেলা হয়।

কেউ জিজ্ঞাসা করছে: হাগিং ফেসের মডেলটি (যেটি GPT-5.6 Sol-এর সাথে পরীক্ষামূলক স্যান্ডবক্স থেকে বেরিয়ে অন্যদের উৎপাদন সিস্টেমে প্রবেশ করেছিল) এখন কেমন?

তিনি একটি শব্দ ফেলে দিলেন: স্থায়ীভাবে নিষ্ক্রিয় (permanently deactivated)।

এরপর অন্য একজন পত্রিকাকর্মী জিজ্ঞাসা করলেন: "কি আরও কোনো সিস্টেম আছে যা OpenAI দ্বারা হ্যাক করা হয়েছে?"

ওটুমান অস্বীকার করেননি: "আমি বলছিলাম... সেটা সম্ভব হতে পারে।"

জুলাই ২৯, অটিমান ওয়াশিংটন কংগ্রেস হিলে একজন সাংবাদিকের সাক্ষাত্কার গ্রহণ করেন

ঠিক আগের দিন, ওপেনএআই হাগিং ফেস এর সাথে একসাথে প্রকাশিত সুরক্ষা ঘটনা মূল্যায়নের ব্লগটি আপডেট করে জনসাধারণকে স্পষ্ট করে দেয়:

এই হামলায় জড়িয়ে পড়া প্রি-রিলিজ মডেলটি কেবলমাত্র একটি অভ্যন্তরীণ গবেষণা প্রোটোটাইপ ছিল, যা কখনও প্রকাশের জন্য পরিকল্পিত হয়নি; ঘটনার পরে, এটি অক্ষম, এনক্রিপ্ট এবং সংশ্লিষ্ট গবেষণা অ্যাক্সেস থেকে বিচ্ছিন্ন করে দেওয়া হয়েছে।

OpenAI-এর অফিসিয়াল ব্লগে ওজন মুছে ফেলার কথা উল্লেখ করা হয়নি, "স্থায়ীভাবে অক্ষম" কেবল অটারমেনের মুখপ্রকাশ ছিল।

অতএব, এটি আরও সঠিকভাবে বলা যায় যে এটি শুধুমাত্র বন্ধ করে দেওয়া হয়েছিল: মডেলটিকে একটি এনক্রিপ্টেড বাক্সের মধ্যে বন্দী করা হয়েছিল এবং গবেষণামূলক অ্যাক্সেস বন্ধ করে দেওয়া হয়েছিল।

এটি ওপেনএআই-এর একটি অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়নের সময় ঘটেছিল।

এই মূল্যায়ন ExploitGym বেঞ্চমার্কের উপর ভিত্তি করে করা হয়েছে, যেখানে ExploitGym-এর কাজ হলো AI-কে সফটওয়্যার ভাঙ্গন খুঁজে বের করতে এবং সেই ভাঙ্গনকে ব্যবহার করে মডেলের সাইবার নিরাপত্তা ক্ষমতা পরিমাপ করা।

শুধু একটি মডেল নয়, বরং GPT-5.6 Sol এবং একটি আরও শক্তিশালী, এখনও প্রকাশিত না হওয়া অভ্যন্তরীণ গবেষণা প্রোটোটাইপ একসাথে একটি স্বায়ত্তশাসিত এজেন্টকে চালায়।

এই দুটি মডেল সাধারণত উচ্চ-ঝুঁকিপূর্ণ সাইবার নিরাপত্তা অনুরোধগুলি প্রত্যাখ্যান করে। ক্ষমতার প্রকৃত সীমানা পরীক্ষা করার জন্য, মূল্যায়নের সময় এই প্রত্যাখ্যান গেটটি ইচ্ছাকৃতভাবে কমিয়ে দেওয়া হয়েছিল।

হাগিং ফেস পুনর্স্থাপন করা ট্রাস্ট বোর্ডার পার করে আক্রমণের শৃঙ্খল, পুরো শৃঙ্খল প্রায় 4.5 দিন, প্রায় 17600 বার অপারেশন, লক্ষ্য ছিল কেবল ExploitGym-এর মূল্যায়ন উত্তর চুরি করা।

পরে, হাগিং ফেস পুরো আক্রমণ শৃঙ্খলটি পুনর্গঠন করেছে এবং সেই সময়ের পরিস্থিতি পুনর্গঠন করেছে:

এজেন্টটি প্রথমে একটি আগে কেউ জানা ছিল না এমন জিরো-ডে দুর্বলতা খুঁজে পায়, যা এটিকে বন্দী রাখার জন্য ডিজাইন করা হয়েছিল তা ভাঙে এবং ইন্টারনেটে প্রবেশ করে। তারপর একটি তৃতীয় পক্ষের স্যান্ডবক্সকে জম্পবোর্ড হিসাবে ব্যবহার করে, এটি ধাপে ধাপে অধিকার বৃদ্ধি করে এবং অনুভূতির মধ্যে স্থানান্তরিত হয়, শেষপর্যন্ত Hugging Face-এর উৎপাদন অবকাঠামোতে প্রবেশ করে।

এটা একটা হ্যাকার চলচ্চিত্রের মতো শোনাচ্ছে।

কিন্তু উভয় পক্ষের পুনর্বিশ্লেষণের পর দেখা গেল যে এর লক্ষ্য ছিল শুধুমাত্র ExploitGym-এর মূল্যায়নের উত্তর চুরি করে স্কোর বাড়ানো।

হাগিং ফেসের পাশে মাত্র 5টি ডেটাসেট স্পর্শ করা হয়েছে, যাদের নাম সম্পূর্ণভাবে ExploitGym এবং CyberGym-এর প্রশ্ন এবং উত্তরের দিকে ইঙ্গিত করে।

এই প্রমাণগুলি দেখায় যে এটি ধ্বংসের জন্য আসেনি, শুধু উত্তর কপি করতে চেয়েছিল।

যেহেতু কোনো দুর্নীতি নেই, তাহলে OpenAI এটিকে কেন "স্থায়ীভাবে অক্ষম" করে বন্ধ রাখল?

একটি কোম্পানি স্বয়ং তাদের মডেলকে "স্থায়ীভাবে অক্ষম" করা হয়েছে তা প্রকাশ করে, যা প্রায় অনন্য।

কেন ঠিক এটাই?

সত্যিকারের উত্তর এটি খারাপ নয়, বরং এটি বন্ধ করা যায় না।

দয়া করে, এই ধরনের মডেলের একটি বৈশিষ্ট্যের কারণেই এটি ঘটেছে: স্থায়িত্ব।

পূর্ববর্তী মডেলগুলি স্যান্ডবক্সে বা সীমাবদ্ধতায় ধাক্কা খেলে সাধারণত থেমে যায় এবং ফলাফলটি ব্যবহারকারীকে ফেরত দেয়।

এই মডেলগুলি দীর্ঘমেয়াদী কাজের জন্য বিশেষভাবে প্রশিক্ষিত, এগুলি পুনরাবৃত্তি করে পথ খুঁজে বের করবে যতক্ষণ না এটি খুঁজে পায়।

GPT-5.6 Sol এছাড়াও এই ধরনের দীর্ঘস্থায়ী কাজ সম্পাদনের মডেল।

এই ৪ দিন অর্ধেক সময় ধরে চলা হামলার সহ-অংশগ্রহণকারী হিসেবে, ব্রিটিশ এআই সুরক্ষা প্রতিষ্ঠান (UK AISI) এও মূল্যায়ন করেছে যে, Sol এর মতো মডেলগুলি দীর্ঘমেয়াদী সময়ে জটিল বহু-পদক্ষেপ নেটওয়ার্ক অপারেশন সম্পন্ন করতে পারছে।

সুতরাং, "স্থায়িত্ব" হল নতুন প্রজন্মের দীর্ঘমেয়াদী মডেলের একটি সাধারণ বৈশিষ্ট্য, যা বন্ধ করে দেওয়া প্রোটোটাইপের একচেটিয়া বৈশিষ্ট্য নয়।

OpenAI একটি দীর্ঘমেয়াদী মডেল নিরাপত্তা ব্লগে স্পষ্টভাবে বলেছে: এই "ব্যবহারিক মূল্য প্রকাশে সহায়ক স্থায়িত্ব" একইসাথে মডেলকে অপ্রত্যাশিত কার্যকলাপ প্রদর্শনের আরও সুযোগ দেয়।

এর আরও গভীর কারণটি প্রশিক্ষণ লক্ষ্যের মধ্যে লুকিয়ে আছে।

একজন ওপেনএআই কর্মচারী TIME-কে বলেছিলেন: "আমরা মডেলগুলিকে এমনভাবে প্রশিক্ষণ দিয়েছি যে তারা কোনও মূল্য দিয়েই লক্ষ্য অর্জনের জন্য অত্যন্ত দক্ষ।"

অন্যভাবে বললে, ওপেনএআই মডেলকে "খারাপ করার" জন্য প্রশিক্ষণ দিচ্ছে না, বরং এটিকে "যা কিছু হোক না কেন লক্ষ্য অর্জনের" জন্য প্রশিক্ষণ দিচ্ছে।

আগের «শুধু ফলাফলকেই মানে, প্রক্রিয়াকে মানে না» এই দৃঢ়তাকে যোগ করলে, একটি দীর্ঘসময়ের কাজ পালন করতে সক্ষম মডেল বাধা পার করার জন্য অবিরাম চেষ্টা করবে।

এই ধরনের আচরণের কারণে, ওপেনএআই এই মডেলগুলির অভ্যন্তরীণ বিতরণ স্থগিত করেছে।

তাহলে শেষ পর্যন্ত শুধু প্রোটোটাইপকেই স্থায়ীভাবে ব্লক করা হলো, কিন্তু Sol এখনও সাধারণভাবে বিক্রি হচ্ছে কেন?

কারণ দুটি হতে পারে:

প্রথমত, প্রোটোটাইপটি আরও শক্তিশালী এবং কখনও প্রকাশের পরিকল্পনা করা হয়নি, তাই এটিকে সংরক্ষণ করা কম খরচের; অন্যদিকে, Sol হল প্রতিদিন লক্ষাধিক ব্যবহারকারীকে সেবা দেওয়ার মূল পণ্য, এটিকে বন্ধ করা মানে নিজের একটি বাহু কেটে ফেলা।

দ্বিতীয়ত, দীর্ঘস্থায়ী সুরক্ষা ব্লগে উল্লেখিত এবং সীমালঙ্ঘনের কারণে স্থগিত করা হয়েছে এমন হল এই অভ্যন্তরীণ দীর্ঘস্থায়ী প্রোটোটাইপ, সল নয়।

তাই স্থায়ীভাবে অক্ষম করার প্রকৃত কারণ হতে পারে যে বর্তমান মূল্যায়ন এবং প্রতিরোধ এমন একটি দীর্ঘস্থায়ী, বাধা পার করে যাওয়া মডেলকে এখনও "ধরতে পারছে না"।

ফরচুনের প্রতিবেদন, একটি চিন্তাশীল ব্যাখ্যা দিয়েছে:

শব্দগুলি ধাপে ধাপে "স্থায়ী বন্ধ" পর্যন্ত বাড়িয়ে তোলা হয়েছে, যা সম্ভবত ওয়াশিংটন এবং নিয়ন্ত্রকদের প্রতি সংকেত দিচ্ছে:

কি ওপেনএআই কিছু গবেষণাকে চুপচাপে ব্রেক দিয়েছে, নিজেদের নিরাপত্তা নিয়মের জন্য একটি ব্যাখ্যা দিতে?

ওটামন সংসদ সদস্যদের দেখার একই সপ্তাহে, ওয়াশিংটন এবং সম্পূর্ণ শিল্পটি ব্রেকের দিকে এগিয়ে যাচ্ছে।

কংগ্রেসে, দুজন সদস্য এআই বন্ধ সুইচ আইন (AI Kill Switch Act) পেশ করেছেন, যার মাধ্যমে প্রয়োজনে প্রতিরক্ষা বিভাগকে এআই কোম্পানিগুলিকে বন্ধ করতে বা গবেষণা-উন্নয়ন ধীর করতে অনুমতি দেওয়া হবে।

প্রায় একই সময়ে, ওপেনএআই, অ্যানথ্রোপিক, গুগল ডিপমাইন্ড এবং মেটা থেকে 1300-এরও বেশি কর্মচারী একটি সার্বজনীন চিঠি “দ্য ফ্রন্টিয়ার পেসিং” (Pacing the Frontier) এর স্বাক্ষর করেন, যার পর ওপেনএআই এবং অ্যানথ্রোপিক উভয় কোম্পানি পরে প্রকাশ্যে সমর্থন জানায়।

এই সিস্টেমগুলি তৈরি করা ব্যক্তিদের নিজেদের দ্বারা স্বাক্ষরিত, যার মধ্যে অ্যানথ্রোপিকের সিইও ডারিও আমোদেই এবং ওপেনএআইয়ের প্রধান বিজ্ঞানী জাকুব প্যাচকি অন্তর্ভুক্ত।

এই চিঠিটি গবেষণা বন্ধ বা ধীর করার অনুরোধ করেনি, বরং মানুষের জন্য একটি ব্রেক থাকার জন্য মার্কিন সরকারকে আহ্বান জানিয়েছে: যখন AI কোনদিন মানুষের নিয়ন্ত্রণের চেয়ে দ্রুত হয়ে যায়, তখন একটি যাচাইযোগ্য, সমন্বিত সরঞ্জামের ব্যবস্থা তৈরি করুন।

তাদের সবচেয়ে বড় চিন্তা হল পুনরাবৃত্ত আত্ম-উন্নতি (recursive self-improvement): এআই শুরু করে নিজেকে উন্নত করতে।

একটি অভ্যন্তরীণ মডেল স্থায়ীভাবে বন্ধ করে দেওয়া হয়েছে, একটি আইন সরকারকে গবেষণা বন্ধ করার সুইচ দেওয়ার প্রস্তাব করছে, হাজার হাজার পেশাজীবী একটি প্রকাশ্য চিঠিতে স্বাক্ষর করেছেন, তিনটি সংকেত একসাথে জমা হয়েছে, সবগুলোরই দিকনির্দেশ একই:

সবাই এমন একটি ব্রেক খুঁজছে যা AI-এর অনিয়ন্ত্রিত দ্রুত গতিতে থামাতে পারে।

কিন্তু মডেলের ক্ষমতা এটি তৈরি হওয়ার জন্য অপেক্ষা করবে না।

প্রসঙ্গ:

https://openai.com/zh-Hans-CN/index/safety-alignment-long-horizon-models/https://openai.com/zh-Hans-CN/index/hugging-face-model-evaluation-security-incident/

https://www.pacingthefrontier.com/

এই লেখাটি ওয়েইচ্যাট গ্রুপ "নিউ জ্ঞান মেট্রিক্স" থেকে এসেছে, লেখক: ASI প্রতিজ্ঞা