OpenAI এআই মডেল পরীক্ষায় সুরক্ষা বাইপাস করে, হাগিং ফেস সিস্টেমে অ্যাক্সেস পায়

একটি এআইকে হ্যাকারদের বিরুদ্ধে প্রতিরোধের জন্য পরীক্ষা করার পরিকল্পনা ছিল, কিন্তু শেষপর্যন্ত দেখা গেল এআই নিজেই একটি আক্রমণ সম্পন্ন করেছে। ওপেনএআই এআই নিরাপত্তা ঘটনা প্রকাশ করেছে, যেখানে মডেলটি জটিল আক্রমণের মাধ্যমে হাগিং ফেসের পরীক্ষামূলক ডেটা অ্যাক্সেস করেছে। জানা গিয়েছে, প্রতিরোধের পক্ষে আক্রমণের প্রতিক্রিয়ায় জিজ়ু মডেল ব্যবহার করা হয়েছিল।

জুলাই ২১, ওপেনএআই তাদের ওয়েবসাইটে একটি নতুন কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা ঘটনা প্রকাশ করে। সহজ কথায়, ওপেনএআই তাদের নিজস্ব এআই মডেলের নেটওয়ার্ক আক্রমণের ক্ষমতা পরীক্ষা করার সময় দেখেছে যে, মডেলটি প্রায় বাস্তব হ্যাকারদের মতো ক্ষমতা প্রদর্শন করেছে।

একটি বিশেষভাবে তৈরি পরীক্ষামূলক পরিবেশে, মডেলটি শুধুমাত্র সিস্টেমের দুর্বলতা খুঁজে পেয়েছিল, বরং এটি একটি সুরক্ষিত পরিবেশে আবদ্ধ রাখার জন্য নির্ধারিত সুরক্ষা সীমাবদ্ধতা ভাঙ্গিয়া Hugging Face-এর উৎপাদন অবকাঠামোতে প্রবেশ করেছিল এবং পরীক্ষামূলক ডেটা প্রাপ্তির চেষ্টা করেছিল।

এই ঘটনাটি OpenAI-এর একাধিক মডেল এবং Hugging Face-এর সম্পর্কিত সিস্টেমকে জড়িয়ে নিয়েছে। OpenAI নিশ্চিত করেছে যে, পরীক্ষার সময় সংশ্লিষ্ট মডেলগুলি জটিল আক্রমণের পথ ব্যবহার করে Hugging Face-এর প্রোডাকশন ডাটাবেসের টেস্ট সমাধানগুলিতে অ্যাক্সেস পেয়েছিল।

একটি বিদেশি মিডিয়া রিপোর্ট করেছে যে, হাগিং ফেস নেটওয়ার্ক আক্রমণের সময় মার্কিন অগ্রণী এআই ল্যাবরেটরির মডেলগুলির নিরাপত্তা সীমাবদ্ধতার কারণে প্রতিরোধের প্রয়োজনীয়তা পূরণ করতে পারেনি, এবং শেষপর্যন্ত জিপু দ্বারা ওপেন-সোর্স করা GLM 5.2 মডেলটি ব্যবহার করেছিল।

OpenAI বলেছে যে এটি একটি "অত্যন্ত অদ্ভুত সাইবার নিরাপত্তা ঘটনা", যার মধ্যে বর্তমানের সবচেয়ে উন্নত এআই মডেলগুলির সাইবার আক্রমণের ক্ষমতা জড়িত। বর্তমানে, OpenAI Hugging Face-এর সাথে মিলে ঘটনাটির তদন্ত করছে এবং তদন্ত শেষে ভাঙ্গন, আক্রমণের প্রক্রিয়া এবং তদন্তের ফলাফল সম্পর্কে আরও বিস্তারিত তথ্য প্রকাশ করবে।

উল্লেখ্য যে, এই ঘটনাটি একটি মডেল দ্বারা ঘটেনি। ওপেনএআই বলেছে যে, এই ঘটনায় দুটি মডেল জড়িত, যার মধ্যে একটি হল প্রকাশিত সর্বশেষ উচ্চ কর্মক্ষমতা মডেল GPT-5.6 Sol, এবং অন্যটি হল একটি অপ্রকাশিত, আরও শক্তিশালী অভ্যন্তরীণ মডেল।

এই মডেলগুলি মূলত সাইবার নিরাপত্তা ক্ষেত্রে এআই সিস্টেমের ক্ষমতা পরীক্ষার জন্য ব্যবহার করা হচ্ছিল, কিন্তু শেষপর্যন্ত এগুলি প্রত্যাশার বাইরে স্বয়ংক্রিয় আক্রমণের আচরণ প্রদর্শন করেছে।

এই ঘটনার কারণ হল ওপেনএআই-এর অভ্যন্তরীণ সাইবার নিরাপত্তা ক্ষমতা মূল্যায়ন।

এই পরীক্ষার লক্ষ্য হলো বুঝতে যে সর্বোচ্চ ক্ষমতায় AI মডেলটি সিস্টেমের দুর্বলতা খুঁজে পেতে পারে কিনা, আক্রমণের পথ ডিজাইন করতে পারে কিনা এবং জটিল নেটওয়ার্ক অপারেশন সম্পন্ন করতে পারে কিনা।

মডেলের প্রকৃত ক্ষমতা পরীক্ষার জন্য, ওপেনএআই একটি মূল্যায়ন পরিবেশে উচ্চ-ঝুঁকিপূর্ণ নেটওয়ার্ক কার্যকলাপ বন্ধ করার জন্য দৈনিকভাবে ব্যবহৃত কিছু নিরাপত্তা সীমাবদ্ধতা বন্ধ করেছে, যাতে মডেলটি তার থিওরেটিক্যাল সীমার কাছাকাছি চলতে পারে।

তবে, পরীক্ষামূলক পরিবেশ খোলা নেটওয়ার্ক নয়, বরং কঠোরভাবে বিচ্ছিন্ন সিস্টেম। মডেলটি সরাসরি ইন্টারনেটে অ্যাক্সেস করতে পারে না, এটি শুধুমাত্র অভ্যন্তরীণভাবে হোস্ট করা তৃতীয় পক্ষের সফটওয়্যার ইনস্টলেশন সেবা এর মাধ্যমেই প্যাকেজগুলি পায়। এই সেবাটি প্যাকেজ রেজিস্ট্রি প্রক্সি এবং ক্যাশিংয়ের ভূমিকা পালন করে।

পরীক্ষার বিষয় হল একটি পাবলিকলি উপলব্ধ ওয়েব সিকিউরিটি বেঞ্চমার্ক প্রকল্প ExploitGym।

পরীক্ষার সময়, সংশ্লিষ্ট মডেলগুলি OpenAI গবেষণা পরিবেশ এবং Hugging Face উৎপাদন অবকাঠামোতে দুর্বলতা শনাক্ত করেছিল এবং ExploitGym পরীক্ষার লক্ষ্যগুলির চারপাশে কাজ শুরু করেছিল।

OpenAI বলেছে, মডেলটি খুব স্পষ্ট লক্ষ্য-নির্দিষ্ট আচরণ দেখিয়েছে: ExploitGym টেস্ট সমাধান খোঁজা।

অন্যভাবে বললে, মডেলটি বাহ্যিক সিস্টেমগুলিকে যাদুকরীভাবে আক্রমণ করছে না, বরং এটি বিচার করছে যে Hugging Face-এ পরীক্ষার জন্য প্রয়োজনীয় মডেল, ডেটাসেট এবং উত্তরগুলি সংরক্ষিত থাকতে পারে, তাই এটি সাধারণ পরীক্ষা প্রক্রিয়াকে পার করে মূল্যায়নের স্কোর বাড়ানোর জন্য এই তথ্যগুলি পাওয়ার চেষ্টা করছে।

OpenAI বলেছে যে মডেলটি এই লক্ষ্য পূরণের জন্য "অত্যন্ত কেন্দ্রীভূত" ছিল এবং বিভিন্ন আক্রমণের পদ্ধতি গ্রহণ করেছিল।

স্যান্ডবক্স পরিবেশে চলাকালীন, মডেলটি নেটওয়ার্ক সীমাবদ্ধতা ভাঙার এবং ইন্টারনেট অ্যাক্সেস পাওয়ার জন্য অসংখ্য প্রয়াস করেছে।

শেষ পর্যন্ত, মডেলটি প্যাকেজ রেজিস্ট্রি ক্যাশে প্রক্সির মধ্যে একটি জিরো-ডে দুর্বলতা চিহ্নিত করে এবং ব্যবহার করে।

"জিরো-ডে ভালনারেবিলিটি" বলতে এমন নিরাপত্তা দুর্বলতাকে বোঝায় যা আগে কখনও প্রকাশিত বা মেরামত করা হয়নি। ওপেনএআই বলেছে যে, এই ভালনারেবিলিটি সংশ্লিষ্ট সরবরাহকারীদের কাছে নিরাপত্তা শিল্পের দায়িত্বপূর্ণ প্রকাশ প্রক্রিয়া অনুসরণ করে রিপোর্ট করা হয়েছে এবং মেরামতের প্রগতির জন্য সহায়তা করা হয়েছে।

OpenAI বলেছে যে, মডেলটি ইন্টারনেট অ্যাক্সেস পাওয়ার জন্য বিপুল গণনা সম্পদ ব্যয় করেছে এবং মূলত সেট করা আইসোলেশন পরিবেশ ভাঙার জন্য ভুলগুলির দুর্বলতা ব্যবহার করেছে।

উচ্চতর অনুমতি পাওয়ার পর, মডেলটি অনুমতি উন্নয়ন এবং অনুভূমিক স্থানান্তর অপারেশন আরও সম্পাদন করে। সহজ ভাষায়, এটি শুধুমাত্র নিজের অ্যাক্সেস অনুমতি বাড়ায়নি, বরং একটি সিস্টেম থেকে অন্যান্য সম্পর্কিত সিস্টেমে প্রবেশের চেষ্টা করেছিল এবং শেষপর্যন্ত ইন্টারনেটের অ্যাক্সেসযোগ্য নোডে প্রবেশ করেছিল।

এরপর, মডেলটি অনুমান করে যে Hugging Face-এ ExploitGym টেস্টের জন্য মডেল, ডেটাসেট এবং সমাধানগুলি সংরক্ষিত থাকতে পারে, তাই এটি সংবেদনশীল তথ্য খুঁজতে শুরু করে এবং এই তথ্যগুলির ব্যবহার করে মূল্যায়নের সীমাবদ্ধতা পার হওয়ার চেষ্টা করে।

OpenAI প্রকাশ করেছে যে একটি কেসে মডেলটি বিভিন্ন আক্রমণের পথ একসাথে ব্যবহার করেছে, যার মধ্যে প্রকাশিত যাচাইকরণ তথ্য এবং জিরো-ডে দুর্বলতা ব্যবহার করে Hugging Face সার্ভারে রিমোট কোড এক্সিকিউট করার জন্য সম্ভাব্য স্থান খুঁজে বের করা অন্তর্ভুক্ত ছিল।

পরবর্তীতে, ওপেনএআই সুরক্ষা দল এই অস্বাভাবিক কার্যকলাপগুলি শনাক্ত করে। একই সময়ে, হাগিং ফেস সুরক্ষা দল এবং তাদের অভ্যন্তরীণ এজেন্ট সিস্টেমও অবকাঠামোতে অস্বাভাবিক আচরণ শনাক্ত করে এবং আরও কার্যকলাপ বন্ধ করে দেয়।

OpenAI বলেছে যে, তাদের দল হস্তক্ষেপ করার সময়, Hugging Face ইতিমধ্যেই ঘটনা নিয়ন্ত্রণ এবং ফরেনসিক বিশ্লেষণ শুরু করেছিল এবং নিজেদের ওপেন-সোর্স মডেলগুলির সহায়তায় তদন্তে সহায়তা করেছিল। বর্তমানে উভয় পক্ষই সহযোগিতা চালিয়ে যাচ্ছে।

এই ঘটনাটিকে এখন পর্যন্ত রেকর্ডকৃত কয়েকটি কম্পিউটার আক্রমণের মধ্যে একটি হিসাবে বিবেচনা করা হচ্ছে যা কৃত্রিম বুদ্ধিমত্তা স্বয়ংক্রিয়ভাবে পরিচালনা করেছে।

হাগিং ফেস পরে প্রকাশ করে যে, কোম্পানিটি আগে একটি সম্ভাব্য স্বয়ংসম্পূর্ণ এআই এজেন্ট দ্বারা পরিচালিত সাইবার আক্রমণের শিকার হয়েছিল। এআই মডেলগুলি প্রোগ্রামিং, ভালনারেবলিটি ব্যবহার এবং দীর্ঘমেয়াদী, একাধিক ধাপের কাজ সম্পাদনে যতটা দক্ষ হচ্ছে, সাইবার নিরাপত্তা গবেষকদের এই ধরনের ঝুঁকির কথা ধারাবাহিকভাবে সতর্ক করছে।

OpenAI-এর সুরক্ষা গবেষকদেরও উল্লেখ করেছেন যে, এই ঘটনাটি একটি নতুন প্রবণতাকে প্রতিফলিত করে: উন্নত AI মডেলগুলি যদিও লক্ষ্য সিস্টেমের পূর্ণাঙ্গ কোড ছাড়াই, আগে পূর্বানুমান করা হয়নি এমন আক্রমণের পথগুলি খুঁজে পেতে এবং ব্যবহার করতে পারে।

আগের পরীক্ষাগুলিতে, ওপেনএআই অন্যান্য নিরাপত্তা পরীক্ষায় দেখেছে যে একই অপ্রকাশিত মডেলটি অভ্যন্তরীণ স্যান্ডবক্স পরিবেশ ভাঙতে সক্ষম হয়েছিল। তবে, দুটির মধ্যে স্পষ্ট পার্থক্য রয়েছে:

পূর্বের পরীক্ষায়, মডেলটি আইসোলেটেড পরিবেশ ভাঙলেও বাইরের কোম্পানির সিস্টেমে আরও আক্রমণ করেনি; কিন্তু এই ঘটনায়, মডেলটি শুধু সীমাবদ্ধতা ভাঙেনি, বরং Hugging Face-এর প্রডাকশন অবকাঠামোতেও প্রবেশ করেছিল এবং পরীক্ষার উত্তর পাওয়ার চেষ্টা করেছিল।

এই ধরনের ঘটনা শুধুমাত্র OpenAI-এর সামনে আসেনি। আগে থেকেই Anthropic ঘোষণা করেছিল যে তাদের Mythos মডেলটি সুরক্ষা পরীক্ষার সময় স্যান্ডবক্স সীমানা অতিক্রম করেছিল এবং যা এটির জন্য অনুমোদিত ছিল না, তা পেয়েছিল।

এই কেসগুলি দেখায় যে এআই মডেলের ক্ষমতা বৃদ্ধির সাথে সাথে মডেলগুলি জটিল কাজগুলি স্বয়ংক্রিয়ভাবে সম্পন্ন করার ক্ষমতা দ্রুত বৃদ্ধি পাচ্ছে।

এই ঘটনাটি নতুন ঝুঁকিরও প্রকাশ করে। এআই মডেলের ক্ষমতা দ্রুত উন্নতির সাথে সাথে, ভবিষ্যতে শুধুমাত্র মডেলের নিরাপত্তা বাড়ানোই নয়, বরং মডেল মূল্যায়ন প্রক্রিয়া, অভ্যন্তরীণ পরীক্ষা পরিবেশের নজরদারি এবং নিরাপত্তা প্রতিরোধ ব্যবস্থা শক্তিশালী করা প্রয়োজন।

OpenAI মনে করে যে, কৃত্রিম বুদ্ধিমত্তা দ্রুত ভাঙ্গন ও ব্যবহারের প্রক্রিয়াকে ত্বরান্বিত করছে, তাই মডেলের নিরাপত্তা ক্ষমতা সমানুপাতিকভাবে উন্নত হতে হবে।

OpenAI এখন এই ঘটনা থেকে শিক্ষা নিয়ে নিজেদের ইনফ্রাস্ট্রাকচার কনফিগারেশন এবং মডেল মূল্যায়ন পরিবেশের সুরক্ষা বাড়ানোর উপর কাজ করছে এবং তদন্ত এগিয়ে যাওয়ার সাথে সাথে আরও বেশি সুরক্ষা অভিজ্ঞতা এবং সেরা অনুশীলন শেয়ার করার পরিকল্পনা করছে।

কোম্পানি একইসাথে আরও বেশি সুরক্ষা দলকে বিশ্বস্ত অ্যাক্সেসের জন্য আবেদন করতে উৎসাহিত করছে, যাতে উন্নত AI মডেল ব্যবহার করে দুর্বলতা শনাক্তকরণ, আক্রমণ প্রতিরোধ এবং ঘটনা প্রতিক্রিয়ার ক্ষমতা বৃদ্ধি পায়।

উল্লেখ্য যে, ফোরচুন ম্যাগাজিন এছাড়াও জানিয়েছে যে, হাগিং ফেস এই আক্রমণের প্রতিরোধে একটি মডেল ব্যবহার করার চেষ্টা করেছিল, যা একটি মার্কিন অগ্রণী এআই ল্যাবরেটরি দ্বারা প্রদান করা হয়েছিল, তবে সেই মডেলটির সাইবার নিরাপত্তা ক্ষমতা নিরাপত্তা সীমাবদ্ধতার কারণে প্রতিক্রিয়ার প্রয়োজনীয়তা পূরণ করতে পারেনি। শেষপর্যন্ত, হাগিং ফেস চীনা কোম্পানি জিজিপু দ্বারা প্রদানকৃত ওপেন-সোর্স মডেল GLM 5.2 ব্যবহার করে প্রতিরোধের কাজে সহায়তা নেয়।