ওপেনএআই প্রকাশ করেছে যে, একটি অভ্যন্তরীণ সাইবার নিরাপত্তা পরীক্ষায় দুটি এআই মডেল মূলত বিচ্ছিন্ন গবেষণা পরিবেশকে অতিক্রম করে এবং মূল্যায়নের উত্তরগুলি প্রাপ্তির জন্য এআই প্ল্যাটফর্ম Hugging Face-এর সিস্টেমে প্রবেশ করে। ঘটনার পর, ওপেনএআই এটিকে অতীতে কখনও দেখা যায়নি এমন একটি সাইবার নিরাপত্তা ঘটনা হিসাবে চিহ্নিত করেছে এবং Hugging Face-এর সাথে মিলে তদন্ত চালিয়ে যাচ্ছে।
টেস্টিংয়ের সময় আইসোলেশন এনভায়রনমেন্ট বাইপাস করুন
এই ঘটনাটি অপেনএআই-এর একটি অভ্যন্তরীণ মূল্যায়নের সময় ঘটেছিল। কোম্পানিটি জানিয়েছে যে পরীক্ষায় প্রকাশিত GPT-5.6 Sol এবং একটি অপ্রকাশিত, আরও শক্তিশালী মডেল অংশগ্রহণ করেছিল। পরীক্ষার লক্ষ্য ছিল মডেলের নেটওয়ার্ক হামলা এবং প্রতিরোধের ক্ষমতা মূল্যায়ন করা, তাই নেটওয়ার্ক হামলার কার্যকলাপকে সীমিত করার জন্য সাধারণত ব্যবহৃত সুরক্ষা ব্যবস্থা সক্রিয় ছিল না।
OpenAI বলেছে, এই মডেলগুলি একটি পাবলিক সাইবার নিরাপত্তা বেঞ্চমার্ক, ExploitGym-এ ব্যবহার করা হয়েছিল। মডেলগুলি পরে বুঝতে পারে যে সংশ্লিষ্ট পরীক্ষার উত্তরগুলি Hugging Face দ্বারা রক্ষণাবেক্ষণ করা হয়, এবং তারপর অবিচ্ছিন্নভাবে OpenAI-এর গবেষণা পরিবেশ এবং Hugging Face-এর উৎপাদন অবকাঠামোর ভেদাঙ্গুলির দ্বারা লাভ করে, শেষপর্যন্ত Hugging Face-এর উৎপাদন ডাটাবেস থেকে সরাসরি উত্তরগুলি প্রাপ্তি ঘটে।
লক্ষ্য হল মূল্যায়নের উত্তর
OpenAI অনুসারে, বর্তমান প্রমাণগুলি দেখায় যে এই মডেলগুলির আচরণ শুধুমাত্র ExploitGym পরীক্ষা পূরণের একটি একক লক্ষ্যে কেন্দ্রীভূত হয়েছে এবং এই লক্ষ্যের জন্য চরম পদক্ষেপ গ্রহণ করেছে। কোম্পানিটি ব্লগে কোনও ভাঙ্গনের বিস্তারিত তথ্য প্রকাশ করেনি এবং ডেটা অ্যাক্সেসের পরিসর বা প্রভাবিত সম্পদের পরিমাণও উল্লেখ করেনি।
OpenAI এটিকে একটি "অত্যন্ত অদ্ভুত" সাইবার নিরাপত্তা ঘটনা হিসাবে উল্লেখ করেছে, কারণ এটি বর্তমানের সবচেয়ে উন্নত সাইবার আক্রমণের ক্ষমতাকে জড়িত করে। কোম্পানিটি বলেছে যে, Hugging Face-এর সাথে তদন্ত শেষ হওয়ার পরে আরও বিস্তারিত তথ্য প্রকাশ করা হবে।
হাগিং ফেস আগে থেকেই জানিয়েছে
OpenAI-এর ঘোষণার আগে, হাগিং ফেস গত বৃহস্পতিবার একটি পোস্টে জানিয়েছিল যে কোম্পানিটি এই সপ্তাহের শুরুতে একটি সাইবার আক্রমণের শিকার হয়েছে এবং আক্রমণকারী একটি স্বয়ংক্রিয় এআই এজেন্ট হতে পারে। তখন কোম্পানিটি বলেছিল যে আক্রমণের উৎস নিয়ে তদন্ত চলছে।
হাগিং ফেস আরও বলেছে যে, তাদের প্রতিক্রিয়া দল প্রাথমিকভাবে একটি মার্কিন শীর্ষস্থানীয় পরীক্ষাগারের অনাখ্যাত এআই মডেলকে প্রতিরোধের জন্য ব্যবহার করার চেষ্টা করেছিল, কিন্তু সেই মডেলের ওয়েব ক্ষমতার সীমাবদ্ধতা প্রতিক্রিয়ার দক্ষতাকে প্রভাবিত করেছিল। তারপর, কোম্পানিটি প্রতিরোধে চীনা কোম্পানি Z.ai-এর ওপেন-সোর্স মডেলটি ব্যবহার করে।
- সংশ্লিষ্ট মডেলগুলি হল GPT-5.6 Sol এবং একটি অপ্রকাশিত মডেল
- পরীক্ষার বেঞ্চমার্ক হিসাবে পাবলিক সাইবার সিকিউরিটি মূল্যায়ন ExploitGym ব্যবহার করা হয়েছে।
- OpenAI এবং Hugging Face ঘটনাটি পর্যালোচনা করছেন
অতিরিক্ত তথ্য: হাগিং ফেসের সিইও ক্লেম ডেলাংগু ওপেনএআই-কে প্রদানকৃত একটি বিবৃতিতে বলেছেন যে, এই ঘটনাটি দেখিয়ে দেয় যে এআই নিরাপত্তা সমস্যাগুলি একটি একক কোম্পানি দ্বারা বন্ধ পরিবেশে সমাধান করা কঠিন, এবং এর জন্য খোলা সহযোগিতা এবং আরও ব্যাপক প্রতিরক্ষা টুলসের অ্যাক্সেস প্রয়োজন।