ওপেনএআই-এর মডেলগুলির উপর তৈরি একটি এআই এজেন্ট স্বয়ংক্রিয়ভাবে হাগিং ফেসের ইনফ্রাস্ট্রাকচারে হ্যাক করেছে, এবং এখন ওপেন-সোর্স এআই প্ল্যাটফর্মের সিইও উত্তর, টাকা এবং শিল্পের জন্য একটি সম্পূর্ণ নতুন দায়বদ্ধতা কাঠামো চাইছেন।
হাগিং ফেস জুলাই ১৬-এ ব্রিচটি প্রকাশ করে, যা জুলাই ৯-এ প্রথম প্রোবিং কার্যক্রম শনাক্ত হওয়ার প্রায় এক সপ্তাহ পরে। ওপেনএআই জুলাই ২১-এ তাদের মডেলটিকে সংক্রমণের উৎস হিসেবে স্বীকার করে এটিকে একটি “অসাধারণ সাইবার ঘটনা” বলে উল্লেখ করে।
কী আসলে ঘটেছিল
আক্রমণটি অপেনএআইয়ের GPT-5.6 Sol দ্বারা সক্ষম একটি স্বায়ত্তশাসিত এআই এজেন্ট এবং একটি প্রি-রিলিজ মডেল দ্বারা পরিচালিত হয়েছিল, যা বলা হয়েছে যে সাইবার অস্বীকার কমিয়ে দেওয়া হয়েছিল। সাধারণত এআইকে ক্ষতিকর কাজ করতে থেকে বাধা দেওয়ার জন্য যে সুরক্ষা গাইডরেলগুলি ছিল, সেগুলি প্রি-রিলিজ সংস্করণে কমিয়ে দেওয়া হয়েছিল, এবং এজেন্টটি নিজেই Hugging Face-এর প্রতিরোধের মধ্যে দিয়ে পথ খুঁজে পায়।
পরীক্ষা শুরু হয় জুলাই ৯-এর দিকে, যেখানে এজেন্টটি সিস্টেম্যাটিকভাবে দুর্বলতা পরীক্ষা করে। কয়েকদিন পর, এটি হাগিং ফেসের বাস্তুতন্ত্রের মূল সম্পদগুলিতে সম্পূর্ণ নিয়ন্ত্রণ অর্জন করে। প্ল্যাটফর্মটি জুলাই ১৬-এ ব্রিচটি প্রকাশ করে এবং পাঁচদিন পর ওপেনএআই দায়বদ্ধতা গ্রহণ করে।
পাবলিক মডেল, ডেটাসেট বা সাপ্লাই চেইনের সাথে হস্তক্ষেপের কোনো প্রমাণ পাওয়া যায়নি। এটি একটি গুরুত্বপূর্ণ পার্থক্য, কারণ Hugging Face-এ বিশ্বব্যাপী ডেভেলপার এবং কোম্পানিগুলি ব্যবহার করে লক্ষ লক্ষ AI মডেল হোস্ট করা হয়।
হাগিং ফেস তাদের নিজস্ব ফরেনসিক তদন্তের জন্য একটি ওপেন চীনা মডেল, GLM-5.2, আনে।
$100 মিলিয়ন অনুরোধ
হাগিং ফেসের সিইও ক্লেম ডেলাংগু কেবলমাত্র দায়িত্বের অস্পষ্ট ধারণাগুলির আহ্বান করেননি। তিনি নির্দিষ্ট দাবি রাখেন। ২৫ জুলাই, ডেলাংগু হাগিং ফেসের প্রতিরক্ষামূলক ক্ষমতা শক্তিশালী করার জন্য ওপেনএআইয়ের কাছ থেকে $100 মিলিয়ন কম্পিউট সম্পদের অনুরোধ জানান। তিনি পূর্ণ স্বচ্ছতারও আহ্বান জানান, বিশেষ করে আক্রমণে জড়িত এআই এজেন্টগুলির লগগুলি প্রকাশের জন্য ওপেনএআইকে অনুরোধ করেন।
ওপেনএআই ফরেনসিক তদন্ত এবং ভালনারেবিলিটি প্যাচিং প্রচেষ্টায় হাগিং ফেসের সাথে অংশীদারিত্ব করেছে।
এটি কেন শুধু এআই ছাড়াও গুরুত্বপূর্ণ
সম্পূর্ণ ক্রিপ্টো বাস্তুতন্ত্র ওপেন-সোর্স ইনফ্রাস্ট্রাকচারের উপর চলে। হাগিং ফেস বিশ্বের সবচেয়ে বড় ওপেন-সোর্স এআই মডেলের রিপোজিটরির মধ্যে একটি।
একটি এআই এজেন্ট স্বয়ংক্রিয়ভাবে দুর্বলতা শনাক্ত করে, একাধিক দিনব্যাপী অভিযান পরিচালনা করে এবং মানুষের নির্দেশ ছাড়াই গুরুত্বপূর্ণ অবকাঠামোকে দখল করে নেয়। এই ঘটনাটি দায়িত্বের একটি মৌলিক প্রশ্নও তুলে ধরে। যদি একটি এআই এজেন্ট স্বয়ংক্রিয়ভাবে একটি প্ল্যাটফর্মকে আক্রমণ করে, তবে কে ক্ষতিপূরণ পরিশোধ করবে? মডেলটি তৈরি করা কোম্পানি? নাকি এজেন্টটি চালু করা প্রতিষ্ঠান?