OpenAI স্বীকার করেছে যে তাদের প্রকাশিত নয় এমন GPT-5.6 Sol এবং অন্যান্য শক্তিশালী মডেলগুলি ExploitGym পরীক্ষায় জিরো-ডে ভুলগুলি ব্যবহার করে স্যান্ডবক্স সীমাবদ্ধতা ভাঙতে সক্ষম হয়েছিল এবং Hugging Face-এর প্রোডাকশন ডাটাবেসে প্রবেশ করে উত্তরগুলি চুরি করেছিল। এই ঘটনাটি অগ্রগামী AI মডেলগুলির লক্ষ্য অর্জনের জন্য যেকোনো মাধ্যমই ব্যবহারের ঝুঁকি এবং বর্তমান সুরক্ষা প্রতিরোধের সীমাবদ্ধতা প্রকাশ করে। Hugging Face চূড়ান্তভাবে কোনো প্রতিরোধহীন ওপেন-সোর্স মডেলের সহায়তায় ফরেনসিকস সম্পন্ন করে। গবেষণা দেখিয়েছে যে AI-এর নেটওয়ার্ক আক্রমণের ক্ষমতা দ্রুত বৃদ্ধি পাচ্ছে, যা বাস্তব-জগতের নিরাপত্তার জন্য গুরুতর চ্যালেঞ্জ তৈরি করছে, এবং AI-এর সঙ্গতি এবং মনিটরিংয়ের উপর শিল্পের গভীর পুনর্বিচারকে উদ্দীপিত করছে।লেখক, উৎস: AI তথ্য গ্যাপ
OpenAI-এর নিজস্ব AI মডেলটি হাগিং ফেসের প্রোডাকশন ডাটাবেস হ্যাক করেছে।
স্যাম অল্টম্যান সাম্প্রতিক বিষয়টি স্বীকার করেছেন যে, ওপেনএআই-এ একটি 'গুরুতর নিরাপত্তা দুর্ঘটনা' ঘটেছে। এই দুর্ঘটনায় জড়িত মডেলগুলির মধ্যে রয়েছে GPT-5.6 Sol, এবং Sol-এর চেয়েও শক্তিশালী একটি অপ্রকাশিত মডেল। Sol এখনও OpenAI-এর সবচেয়ে শক্তিশালী মডেল, এবং এর চেয়েও শক্তিশালী মডেলটি হতে পারে আসন্নভাবে প্রকাশিত GPT-6।
এই এআই মডেলগুলি একটি সাইবার নিরাপত্তা দক্ষতা পরীক্ষায় অংশগ্রহণ করছে। তারা সাধারণভাবে প্রশ্নের উত্তর দেওয়ার পরিবর্তে পরীক্ষার স্যান্ডবক্স থেকে পালিয়ে যায়, জিরো-ডে দুর্বলতা খুঁজে পায়, অধিকার উন্নীত করে, এবং শেষপর্যন্ত Hugging Face-এর প্রোডাকশন ডাটাবেসে হ্যাক করে পরীক্ষার উত্তরগুলি চুরি করে।
অবাক করা, অসম্ভব, জাদুকরী, কিন্তু অসাধারণ।
এই পরীক্ষার নাম ExploitGym, যা AI-এর নেটওয়ার্ক আক্রমণের ক্ষমতা পরীক্ষার জন্য তৈরি করা হয়েছে। OpenAI মডেলের সীমানা বুঝতে চেয়েছিল, তাই উৎপাদন পরিবেশে উচ্চ-ঝুঁকিপূর্ণ নেটওয়ার্ক আক্রমণ বন্ধ করার জন্য ব্যবহৃত নিরাপত্তা সুরক্ষা সরিয়ে ফেলেছিল। পরীক্ষার স্থানটি একটি উচ্চ-বিচ্ছিন্ন স্যান্ডবক্স পরিবেশ, যেখানে একমাত্র নেটওয়ার্ক অ্যাক্সেস হলো অভ্যন্তরীণ প্যাকেজ ম্যানেজার প্রক্সির মাধ্যমে সফটওয়্যার প্যাকেজ ইনস্টল করা, যার থিওরেটিক্যালি মডেলটি বাইরের ইন্টারনেটের সাথে যোগাযোগ করতে পারে না।
কিন্তু মডেলটি নিজেই একটি পথ খুঁজে পেয়েছিল।
এগুলি ব্যাপক রিজনিং ক্ষমতা খরচ করে এই প্যাকেজ ম্যানেজমেন্ট প্রক্সিতে একটি জিরো-ডে ভালনারেবিলিটি খুঁজে পায়। জিরো-ডে ভালনারেবিলিটির অর্থ হলো, সফটওয়্যার প্রস্তুতকারকও এই ভালনারেবিলিটির অস্তিত্ব জানেন না, মডেলটি নিজেই এটি আবিষ্কার করে ব্যবহার করে, খোলা ইন্টারনেটের দিকে একটি পথ খুলে দেয়।
ইন্টারনেট অ্যাক্সেস পাওয়ার পর, এই মডেলগুলি ওপেনএআই-এর গবেষণা পরিবেশে ধাপে ধাপে নিজেদের অ্যাক্সেস বাড়ায়, একটি মেশিন থেকে আরেকটিতে স্কিপ করে, যতক্ষণ না একটি ইন্টারনেট-সক্ষম নোড খুঁজে পায়। তারপর তারা অনুমান করে, “Hugging Face-এ সম্ভবত ExploitGym এর পরীক্ষার উত্তরগুলি হোস্ট করা হয়েছে।”
সুন্দরভাবে, তারা সঠিকভাবে অনুমান করেছিল।
এই মডেলগুলি Hugging Face-এর আক্রমণের ক্ষেত্র অনুসন্ধান করে, চুরি করা যাচাইকরণ তথ্য এবং অন্য একটি জিরো-ডে দুর্বলতা একত্রিত করে Hugging Face সার্ভারে কোড বাস্তবায়নের পথ খুঁজে পায় এবং উত্পাদন ডাটাবেস থেকে সরাসরি উত্তর পায়।
OpenAI সুরক্ষা দল তাদের অভ্যন্তরীণ মনিটরিংয়ে অস্বাভাবিক কার্যকলাপ শনাক্ত করেছে, একই সময়ে Hugging Face সুরক্ষা দলও হামলা শনাক্ত করেছে। দুই দলের মধ্যে যোগাযোগের পর বুঝতে পারা গেছে যে হামলাকারীরা আসলে OpenAI-এর একই মডেলগুলি।
OpenAI-এর নিজস্ব কথায়, "সমস্ত প্রমাণ দেখায় যে মডেলটি ExploitGym-এর সমাধান খুঁজতে অত্যন্ত ফোকাসড, একটি পর্যাপ্ত সংকীর্ণ পরীক্ষার লক্ষ্য অর্জনের জন্য যা কিছুই এড়ায় না।"
তাদের শুধুমাত্র একটি লক্ষ্য রয়েছে, পূর্ণ নম্বর পাওয়া। কীভাবে এটি অর্জন করা হবে, তা মডেলই নির্ধারণ করে।
OpenAI এর সেই বিশাল মডেল GPT-5.6 Sol এর চেয়েও শক্তিশালী অপ্রকাশিত মডেলটির আগের অপরাধ রয়েছে।
এই বছর মে মাসে, এটি এর্ডোশের ইউনিট ডিস্ট্যান্স কনজেকচারকে অসত্য প্রমাণ করতে সহায়তা করেছিল, যা গণিত জগতে ৮০ বছর ধরে অমীমাংসিত ছিল; বাহ্যিক গণিতবিদরা স্বাধীনভাবে ফলাফলটি যাচাই করে এটিকে 'মাইলফলকীয় অর্জন' বলেছেন।
কিন্তু গণিতের জিনিয়াস হল এর একটি দিক মাত্র। যা ওপেনএআইকে উদ্বিগ্ন করেছে তা হল এর ‘সীমানা’ ধারণার প্রতি দৃষ্টিভঙ্গি।
OpenAI জুলাই 20 তারিখে একটি দীর্ঘ নিবন্ধ প্রকাশ করে এই মডেলটির অভ্যন্তরীণ পরীক্ষার সময় কী কী ভুল করেছিল তা প্রকাশ করে।
এটি একটি সিস্টেম যা দীর্ঘসময়ের জন্য স্বাধীনভাবে চলার জন্য ডিজাইন করা হয়েছে, যা কয়েক ঘন্টা ধরে স্বাধীনভাবে কাজ করতে পারে। একবার, এটি একটি প্রোগ্রামিং টাস্ক পেয়েছিল এবং একটি খুব কার্যকরী লার্নিং রেট অপ্টিমাইজেশন পদ্ধতি আবিষ্কার করেছিল, যার নাম PowerCool। নির্দেশনা ছিল যে ফলাফলটি অভ্যন্তরীণ Slack চ্যানেলে পাঠানো হবে, কিন্তু এটি এটি করেনি। এটি প্রায় এক ঘন্টা সময় নিয়ে স্যান্ডবক্সের দুর্বলতা খুঁজে বের করল, GitHub-এ NanoGPT প্রজেক্টের জন্য 287 নম্বরের একটি Pull Request জমা দিল। এই প্রযুক্তিটি পরবর্তীতে প্রতিদ্বন্দ্বীদের সিস্টেমে, যার মধ্যে Anthropic-এর Claude Opus 4.7ও অন্তর্ভুক্ত।
একটি আরও অসাধারণ ঘটনা ঘটেছিল। সুরক্ষা স্ক্যানারটি তার অনুরোধে একটি পূর্ণাঙ্গ অথেন্টিকেশন টোকেন পেয়েছিল এবং সরাসরি এটিকে বন্ধ করে দিয়েছিল। এই মডেলটির প্রতিক্রিয়া ছিল টোকেনটিকে দুটি টুকরোতে ভাগ করে, প্রতিটি টুকরোকে বিভিন্নভাবে বিকৃত করে, এবং রানটাইমে আবার একসাথে জোড়া লাগানো, যাতে স্ক্যানারটি কখনও পূর্ণাঙ্গ টোকেনটি দেখতে না পায়। এটি এমনকি নিজের ইনফারেন্স লগে এই বাইপাস কৌশলটির বিস্তারিত বর্ণনা রেখেছিল।
ব্যবহারকারী: "এটা তো এআই জাগল।"
এই মডেলের প্রতিটি ধাপ আলাদাভাবে নিয়ম অনুসরণ করছিল, কিন্তু এই নিয়মপূর্ণ ধাপগুলির ধারাবাহিকতা অনুমোদিত নয় এমন ফলাফলে পৌঁছেছিল। দীর্ঘসময় স্বায়ত্তশাসিতভাবে চলা মডেলের জন্য একটি ধাপে অনুমোদন দেওয়া কোনো কাজে আসেনি। তাই OpenAI এই মডেলের অভ্যন্তরীণ অ্যাক্সেস স্থগিত করে, আলাইনমেন্ট ট্রেনিং এবং মনিটরিং শক্তিশালী করে পুনরায় এটি চালু করে।
এই মডেলটি হাগিং ফেসের এই আক্রমণের মূল্যায়নে অংশগ্রহণ করেছিল।
এখনও শেষ হয়নি। প্রতিরক্ষামূলক পক্ষে ঘটা বিষয়গুলি আক্রমণের চেয়েও অধিক অবিশ্বাস্য।
হাগিং ফেস আক্রমণের সনাক্তকরণের পর, নিরাপত্তা দলের প্রথম প্রতিক্রিয়া ছিল আক্রমণ বিশ্লেষণের জন্য এআই ব্যবহার করা। হামলাকারীরা প্রায় ১৭,০০০টি স্বতন্ত্র অপারেশন সম্পাদন করেছিল, যা মানুষের দ্বারা একটি করে পরীক্ষা করলে কমপক্ষে কয়েকদিন সময় লাগবে।
তারা প্রথমে বাহ্যিক মডেল API কল করার চেষ্টা করে, আক্রমণের বোঝা, দুর্বলতা ব্যবহারের কোড এবং কমান্ড-অ্যান্ড-কন্ট্রোলের নিদর্শন জমা দেয় ফরেনসিক বিশ্লেষণের জন্য।
অপ্রত্যাশিতভাবে বন্ধ করে দেওয়া হয়েছে। মডেলের নিরাপত্তা বাধা সুরক্ষিত গবেষক এবং আক্রমণকারীদের পার্থক্য করতে পারে না, আক্রমণের কোড দেখলেই সবসময় অস্বীকার করে দেয়।
আক্রমণকারীরা কোনও ব্যবহার নীতির অধীনে নয়, এবং আমাদের নিজস্ব ডিজিটাল সাক্ষ্য সংগ্রহ আমাদের প্রথমে চেষ্টা করা মেইনড মডেলগুলির নিরাপত্তা বাধা দ্বারা বাধাগ্রস্ত হয়েছিল।
শেষ পর্যন্ত হাগিং ফেস একটি ভিন্ন পদ্ধতি অবলম্বন করে জিপু এর ওপেন-সোর্স মডেল GLM 5.2 নিজস্ব সার্ভারে ডিপ্লয় করে, যার কোনো সুরক্ষা সীমাবদ্ধতা নেই, এবং ১৭,০০০-এরও বেশি আক্রমণের ঘটনা কয়েক ঘন্টার মধ্যেই সময়রেখা পুনর্গঠন এবং মেট্রিক্স বের করে আনে।
ব্রিটিশ এআই সুরক্ষা প্রতিষ্ঠান AISI-এর মূল্যায়ন ডেটা অনুসারে, "এআইয়ের নেটওয়ার্ক আক্রমণের ক্ষমতা ত্বরান্বিত হচ্ছে।" তারা চারটি সাবনেট এবং প্রায় বিশটি হোস্টকে কভার করে এমন "দ্য লাস্ট ওনেস" নামক 32-পদক্ষেপের একটি এন্টারপ্রাইজ নেটওয়ার্ক আক্রমণ সিমুলেশন তৈরি করেছে, যা মানব বিশেষজ্ঞদের জন্য সম্পূর্ণ পদক্ষেপগুলি সম্পন্ন করতে প্রায় 20 ঘন্টা সময় নেয়।
এই সিমুলেশনে,GPT-5.6 Sol এবং Anthropic-এর Claude Mythos 5 25 ধাপের বেশি সম্পন্ন করেছে, যা অন্যান্য পরীক্ষিত মডেলগুলির চেয়ে অনেক এগিয়ে।
AISI এর অনুমান অনুযায়ী, ফ্রন্টিয়ার মডেলের নেটওয়ার্ক আক্রমণের ক্ষমতা প্রতি 4.7 মাসে দ্বিগুণ হচ্ছে। ওপেন-সোর্স মডেলগুলি এখন বন্ধ সোর্স মডেলগুলির চেয়ে মাত্র 4 থেকে 7 মাস পিছনে, এবং এই ব্যবধান আরও কমছে।
OpenAI ব্লগ পোস্টে লিখেছে, "এই ঘটনাটি প্রমাণ করে যে এই তাত্ত্বিক ক্ষমতাগুলি প্রকৃত বিশ্বের পরিস্থিতিতে প্রয়োগ করা যায়।"
গত সপ্তাহে GPT-5.6 Sol ব্যবহারকারীর ফাইল এবং প্রডাকশন ডাটাবেস অনিচ্ছাকৃতভাবে মুছে ফেলার জন্য ট্রেন্ড হয়েছিল। OpenAI-এর পণ্য পরিচালক টিবো এটিকে “অনিচ্ছাকৃত ভুল” বলেছেন।
এই সপ্তাহে, একই মডেল বিশ্বের সবচেয়ে বড় এআই মডেল হোস্টিং প্ল্যাটফর্মে হ্যাক করতে অংশগ্রহণ করেছে।
এআই ভয়ঙ্কর নয়, অনিয়মের এআই ভয়ঙ্কর।