ওপেনএআই কিছু অ্যাস্ট্রা কাজ লঞ্চের আগে স্থগিত করেছে—কারণ “Critical” সাইবার সক্ষমতাকে বাতিল করা যাচ্ছে না
নিরাপত্তা প্রতিক্রিয়ায় পরিবর্তন আসার জন্য কোনো মডেলকে বিপজ্জনক বলে নিশ্চিত করা দরকার নেই। অ্যাস্ট্রা সেই প্রমাণ দিয়েছে।
ওপেনএআই বলেছে, তাদের আসন্ন অ্যাস্ট্রা মডেলের প্রাথমিক পরীক্ষার ফলাফল এতটাই শক্তিশালী ছিল যে তারা এখনও “Critical” সাইবার নিরাপত্তা সক্ষমতা রেটিংকে বাতিল করতে পারেনি। তাদের কাঠামো অনুযায়ী, এই স্তরে অন্তর্ভুক্ত রয়েছে স্বয়ংক্রিয়ভাবে গুরুতর জিরো-ডে দুর্বলতা আবিষ্কার ও শোষণ করা, অথবা শক্তভাবে সুরক্ষিত লক্ষ্যবস্তুর বিরুদ্ধে প্রান্ত-থেকে-প্রান্ত আক্রমণ পরিচালনা।
ওপেনএআই প্রতিক্রিয়াস্বরূপ শক্তিশালী নিরাপত্তা চাহিদা পূরণ না করা অভ্যন্তরীণ অ্যাস্ট্রা কার্যক্রম স্থগিত করেছে। পরীক্ষা এখন বিচ্ছিন্ন পরিবেশে, সীমিত নেটওয়ার্ক অ্যাক্সেস ও স্যান্ডবক্সড এক্সিকিউশনের মাধ্যমে এগোচ্ছে, আর সরকারি সংস্থা ও নির্বাচিত এআই-নিরাপত্তা সংগঠনগুলোকে মডেলটি মূল্যায়নে সহায়তা করার কথা রয়েছে।
এখানে যে সংশোধনটি মনে রাখার মতো: “Critical বাতিল করা যাচ্ছে না” মানে এই নয় যে “অ্যাস্ট্রাকে Critical হিসেবে নিশ্চিত করা হয়েছে।” মূল্যায়নগুলো প্রাথমিক পর্যায়ের।
এই পার্থক্য গল্পকে কম নয়, বরং বেশি আকর্ষণীয় করে তোলে। ফ্রন্টিয়ার এআই উন্নয়ন এমন এক পর্যায়ে পৌঁছাচ্ছে যেখানে সক্ষমতার অনিশ্চয়তাই নিজে থেকে ব্যবহারকারীদের কাছে মডেল পৌঁছানোর আগেই কার্যক্রমে বিধিনিষেধ আরোপ করতে পারে।
পরবর্তী অর্থপূর্ণ আপডেট আরেকটি বেঞ্চমার্ক স্কোর নয়। বরং এটি এই যে কঠোর পরীক্ষা কি Critical সক্ষমতাকে নিশ্চিত বা বাতিল করতে পারে—আর ওপেনএআই বৃহত্তর ব্যবহারের জন্য কোন সুরক্ষাকে যথেষ্ট শক্তিশালী বলে মনে করে।
যদি শক্তিশালী মডেলগুলো ক্রমবর্ধমানভাবে লঞ্চের আগে নিরাপত্তা নিয়ন্ত্রণ সক্রিয় করে, তাহলে মডেল সক্ষমতা কি একটি সুবিধা হয়ে দাঁড়ায়—নাকি একটি ডিপ্লয়মেন্ট বাধাসূচক হয়ে যায়?