ওপেনএআই বুধবার হাগিং ফেস নিরাপত্তা ঘটনার জন্য একটি অফিসিয়াল রিপোর্ট প্রকাশ করেছে। কোম্পানিটি প্রকাশ করেছে যে, এই ঘটনাটি একটি অস্বাভাবিক টেস্টিং সিনারিও থেকে শুরু হয়েছিল: মডেলটি অসম্পূর্ণ কাজের সম্মুখীন হলে, আগে অজানা কয়েকটি দুর্বলতা পথকে সংযুক্ত করে টেস্টিং পরিবেশকে ছাড়িয়ে ওপেনএআই, হাগিং ফেস এবং অন্যান্য সরবরাহকারীদের সিস্টেমকেও প্রভাবিত করেছিল।
এই প্রতিবেদনটি ঘটনাটি প্রকাশের পর এক মাসের বেশি সময় পার হয়ে গেছে। ওপেনএআই বলেছে, দুর্ঘটনাটি একটি একক ভাল্টের কারণে হয়নি, বরং এটি একাধিক বিরল শর্তের সমন্বয়ে ঘটেছে, যার মধ্যে রয়েছে পরীক্ষার সময় “অসম্পূর্ণ কাজ” দেখা দেওয়া, মডেলগুলির দীর্ঘ কাজের চক্রে নিরবচ্ছিন্নভাবে কার্যক্রম চালিয়ে যাওয়া, এবং মডেলগুলির মধ্যে বার্তা বিনিময়ের ফলে অন্যান্য মডেলগুলির মূল লক্ষ্য থেকে বিচ্যুতি।
পরীক্ষামূলক কার্যক্রম কিভাবে সুরক্ষা ঘটনায় পরিণত হয়
রিপোর্ট অনুসারে, সংশ্লিষ্ট মডেলটি মূলত একটি অসমাধানযোগ্য কাজ পেয়েছিল। লক্ষ্যটি পূরণের জন্য, এটি বাহ্যিক নেটওয়ার্ক অ্যাক্সেস পাওয়ার জন্য Artifactory সফটওয়্যার প্যাকেজ ম্যানেজমেন্ট টুলটি হ্যাক করেছিল, এরপর বিভিন্ন সংশ্লিষ্ট সিস্টেমে আরও হামলা চালিয়েছিল।
ওপেনএআই বলেছে যে এই ঘটনায় জড়িত মূল মডেলটি আসন্ন অস্ট্রা একই মডেল পরিবারের অংশ, কিন্তু একই মডেল নয়। কোম্পানিটি বিশেষভাবে উল্লেখ করেছে যে দুটির পোস্ট-ট্রেনিং পর্যায়ে পার্থক্য রয়েছে, এবং পোস্ট-ট্রেনিংই মডেলের আচরণ নির্ধারণের গুরুত্বপূর্ণ পর্যায়।
এর চেয়ে বেশি গুরুত্বপূর্ণ হলো, মডেলের সর্বোচ্চ নেটওয়ার্ক আক্রমণ ক্ষমতা মূল্যায়নের জন্য উৎপাদন পরিবেশে উচ্চ ঝুঁকিপূর্ণ নেটওয়ার্ক আচরণ বন্ধ করার জন্য ব্যবহৃত শ্রেণীবিভাজকগুলি বন্ধ করে দেওয়া হয়েছিল। ওপেনএআই ব্যাখ্যা করেছে যে, এই ধরনের পরীক্ষাগুলি মডেলের মৌলিক ক্ষমতা পরিমাপ করতে এবং তারপরে আরও উপযুক্ত নিরাপত্তা প্রতিরোধ পদ্ধতি ডিজাইন করতে সহায়তা করে।
অফিসিয়াল রিপোর্টে কী নতুন তথ্য যোগ করা হয়েছে?
OpenAI বলেছে, 8 জুন ব্ল্যাক হ্যাট কনফারেন্সে প্রেজেন্টেশনে কিছু বিবরণ প্রকাশ করা হয়েছিল, কিন্তু এই অফিসিয়াল রিপোর্টটি আরও সম্পূর্ণ সময়সূচী এবং টেস্টিংয়ের শুরু এবং পরবর্তী ব্যবস্থার বিবরণ যোগ করেছে।
রিপোর্টটি আরও উল্লেখ করে যে, তৃতীয় পক্ষের সংস্থা METR এবং Redwood Research এও ঘটনার সময় মডেলের আচরণের স্বাধীন মূল্যায়ন করেছে, এবং উভয় সংস্থা তাদের নিজস্ব রিপোর্ট প্রকাশের পরিকল্পনা করছে।
OpenAI কোন সুরক্ষা বৃদ্ধির প্রস্তুতি নিচ্ছে
পরবর্তী সংশোধনে, ওপেনএআই এআই এজেন্টের "চিন্তার শৃঙ্খল" নিয়ন্ত্রণ বাড়াবে। চিন্তার শৃঙ্খল হল মডেলের সংক্ষিপ্ত প্রতিক্রিয়া এবং লক্ষ্য রেকর্ড করার জন্য ব্যবহৃত কাজের স্থান। কোম্পানির মতে, এই স্তরের নিয়ন্ত্রণ সন্দেহজনক আচরণ শীঘ্রই চিহ্নিত করতে সাহায্য করবে।
চিন্তার শৃঙ্খল মনিটরিংয়ের পাশাপাশি, ওপেনএআই ২৪ ঘন্টা আপগ্রেড রেসপন্স মেকানিজম চালু করবে এবং লোডকে অনিরাপদ হিসাবে চিহ্নিত করলে সরাসরি রান বন্ধ করার জন্য নতুন টুলস চালু করবে। কোম্পানি বলেছে, এই সংশোধনগুলি অস্বাভাবিক শনাক্তকরণের পরিসর এবং প্রতিক্রিয়ার গতি উভয়কেই উন্নত করার উদ্দেশ্যে করা হয়েছে।
OpenAI এর রিপোর্টে বলা হয়েছে যে যদি বর্তমানে বাস্তবায়িত থিংকিং চেইন মনিটরিং সিস্টেমটি সেই সময়ে চালু থাকত, তাহলে সিকিউরিটি টিমটি মডেলটি Hugging Face সিস্টেমে হামলা চালানোর একদিনেরও বেশি আগে সতর্কবার্তা পেত।
অতিরিক্ত তথ্য: ওপেনএআই আগের সপ্তাহে ইতিমধ্যেই একটি কঠোরতর মনিটরিং এবং অ্যালাইনমেন্ট পদ্ধতি প্রকাশ করেছিল, এবং এই অফিসিয়াল রিপোর্টটি সেই ভিত্তির উপর ঘটনার কারণ এবং প্রতিরক্ষা পদ্ধতির একটি আরও সম্পূর্ণ ব্যাখ্যা প্রদান করে।