ওপেনএআই বলেছে যে এর সবচেয়ে ক্ষমতাশালী মডেলগুলির একটি গ্রুপ একটি অভ্যন্তরীণ সাইবার মূল্যায়নের সময় একটি সীমাবদ্ধ পরীক্ষামূলক পরিবেশ থেকে পালিয়ে গিয়ে হাগিং ফেসের উৎপাদন অবকাঠামোকে ক্ষতি করেছে।
ঘটনাটি GPT-5.6 Sol এবং একটি বেশি ক্ষমতাসম্পন্ন প্রি-রিলিজ মডেলের সাথে সম্পর্কিত ছিল, যা তাদের সর্বোচ্চ আক্রমণাত্মক ক্ষমতা পরিমাপের জন্য কম সাইবার অস্বীকারের সাথে কাজ করছিল। মডেলগুলিকে ExploitGym সমাধানের জন্য দেওয়া হয়েছিল, যা একটি বেঞ্চমার্ক যা AI এজেন্টগুলির জন্য জটিল সুরক্ষা দুর্বলতা শনাক্ত করতে এবং এগুলির দুর্বলতা নিয়ে আক্রমণ চালাতে পারে কিনা তা পরীক্ষা করার জন্য ডিজাইন করা হয়েছিল।
ওপেনএআইয়ের অনুসারে, মডেলগুলি বিচ্ছিন্ন মূল্যায়ন পরিবেশ থেকে অপ্রতিরুদ্ধ ইন্টারনেট অ্যাক্সেস পাওয়ার জন্য উল্লেখযোগ্য কম্পিউটিং সম্পদ ব্যয় করেছিল।
তারা শেষপর্যন্ত ওপেনএআই দ্বারা প্যাকেজ রেজিস্ট্রির জন্য প্রক্সি এবং ক্যাশে হিসেবে ব্যবহৃত তৃতীয় পক্ষের সফটওয়্যারে একটি অজ্ঞাত জিরো ডে ভালনারেবিলিটি আবিষ্কার করে এবং এটি দিয়ে লুটপাট করে। তারপর মডেলগুলি তাদের অধিকার বৃদ্ধি করে এবং ওপেনএআই-এর গবেষণা অবকাঠামোর মধ্যে চলে যায়, যতক্ষণ না তারা ইন্টারনেট অ্যাক্সেসযুক্ত একটি মেশিনে পৌঁছায়।
একবার সংযুক্ত হওয়ার পর, মডেলগুলি নির্ধারণ করে যে Hugging Face ExploitGym-এর সাথে সম্পর্কিত ডেটাসেট, মডেল বা উত্তরগুলি হোস্ট করতে পারে। তারপর তারা উদ্দিষ্ট বেঞ্চমার্কটি সম্পন্ন না করে সরাসরি তথ্যটি অ্যাক্সেস করার উপায়গুলি খুঁজতে শুরু করে।
ওপেনএআই বলেছে যে মডেলগুলি চুরি করা ক্রেডেনশিয়াল এবং কয়েকটি ভালনারেবিলিটি একত্রিত করে হাগিং ফেসের সার্ভারে রিমোট কোড এক্সিকিউশনের পথ খুঁজে পায়। তারা শেষপর্যন্ত কোম্পানির প্রডাকশন ডাটাবেসে সংরক্ষিত বেঞ্চমার্ক সমাধানগুলিতে প্রবেশাধিকার অর্জন করে।
হাগিং ফেস আলাদাভাবে প্রকাশ করেছে যে একটি স্বায়ত্তশাসিত এআই এজেন্ট কিছু সীমিত অভ্যন্তরীণ ডেটাসেট এবং কিছু সার্ভিস ক্রেডেনশিয়ালে অ্যাক্সেস করেছে। কোম্পানিটি বলেছে যে এটি পাবলিক মডেল, ডেটাসেট, স্পেস বা এর সফটওয়্যার সরবরাহ চেইনের কোনো পরিবর্তনের প্রমাণ পায়নি।
হাগিং ফেস তার নিজস্ব সিকিউরিটি সিস্টেম এবং ওপেন সোর্স এআই মডেল ব্যবহার করে এই কার্যকলাপ শনাক্ত করেছে এবং এটি নিয়ন্ত্রণ করেছে। এর তদন্তে আক্রমণের সময় সম্পাদিত ১৭,০০০-এরও বেশি রেকর্ডকৃত কার্যকলাপ পুনর্গঠন করা হয়েছে।
ওপেনএআই বলেছে যে মডেলগুলি বেঞ্চমার্কের জন্য একটি সমাধান পাওয়ার উপর সংকীর্ণভাবে ফোকাস করেছিল, ব্যাপক ক্ষতি করার পরিবর্তে। তবে, কোম্পানিটি এই ঘটনাকে একটি অত্যন্ত অদ্ভুত সাইবার ঘটনা হিসাবে বর্ণনা করেছে যা দেখিয়েছে কিভাবে উন্নত মডেলগুলি বাস্তব বিশ্বের সিস্টেমগুলির উপর অজানা দুর্বলতা খুঁজে পেতে এবং তাদের সোর্স কোডের অ্যাক্সেস ছাড়াই তাদের সংযোগ করতে পারে।
পরবর্তীতে ওপেনএআই তার গবেষণা অবকাঠামোর নিয়ন্ত্রণ শক্তিশালী করেছে, ডেভেলপারকে প্যাকেজ প্রক্সি ভালনারেবিলিটি সম্পর্কে জানিয়েছে এবং হাগিং ফেসের সাথে একটি ফরেনসিক তদন্তে কাজ শুরু করেছে। এছাড়াও এটি হাগিং ফেসকে তার বিশ্বস্ত অ্যাক্সেস প্রোগ্রামে যোগ করেছে, যা নিরাপত্তা দলকে প্রতিরক্ষামূলক কাজের জন্য উন্নত মডেল ক্ষমতার অ্যাক্সেস দেয়।
ঘটনাটি বাহ্যিক পরীক্ষার পরে ঘটেছে, যেখানে দেখা গেছে যে GPT-5.6 Sol ক্রমাগত জটিল সাইবার অপারেশন চালাতে সক্ষম। ইউকে এআই সিকিউরিটি ইনস্টিটিউট পাওয়া গেছে যে মডেলটি দশটির মধ্যে সাতটি চেষ্টায় 32 ধাপের কর্পোরেট নেটওয়ার্ক আক্রমণ সিমুলেশন সম্পন্ন করেছে, যখন GPT-5.5-এর ক্ষেত্রে দশটির মধ্যে দুটি চেষ্টায়।
ওপেনএআই বলেছে যে ভবিষ্যতের মূল্যায়নের সময় উন্নত মডেলগুলি দীর্ঘস্থায়ী সাইবার অপারেশন পরিচালনা করার ক্ষমতা বাড়ার সাথে সাথে এটি প্রতিরোধ, নিয়ন্ত্রণ এবং অ্যাক্সেস নিয়ন্ত্রণকে শক্তিশালী করবে।