নভিডিয়ার সিইও হাগিং ফেসের হ্যাক ব্যবহার করে ওপেন-সোর্স এআইকে সমর্থন করেন

একটি স্বায়ত্তশাসিত এআই এজেন্ট হাগিং ফেসের ইনফ্রাস্ট্রাকচারের মধ্যে দিয়ে ধাওয়া করেছিল এবং অভ্যন্তরীণ ডেটাসেটগুলি অ্যাক্সেস করে ১৭,০০০-এরও বেশি কার্যক্রম সম্পাদন করেছিল এবং যাচাইকরণের তথ্য সংগ্রহ করেছিল। এবং নভিডিয়ার জেনসেন হুয়াং মনে করেন যে প্রকৃত শিক্ষা হলো আরও কঠোরভাবে জিনিসগুলি বন্ধ করা নয়।

এটি তাদের খোলার বিষয়ে।

জুলাই ২৪-এর দিকে হাগিং ফেসের নিরাপত্তা ঘটনার বিষয়ে হুয়াং মন্তব্য করেন যে ওপেন-ওয়েট এআই মডেলগুলি আসলে নিরাপত্তা এবং সাইবার নিরাপত্তাকে শক্তিশালী করে। তাঁর মূল যুক্তি: বন্ধ সিস্টেমগুলি অবশ্যই নিরাপদ বা নিরাপদ নয়। হাগিং ফেস যে জুলাই ১৬-এ রিপোর্ট করা ব্রিচটি, তা অস্বস্তিকরভাবে এই বিষয়টি প্রমাণ করেছে।

আক্রমণটি হাগিং ফেসের ডেটাসেট-প্রসেসিং পাইপলাইনের দুর্বলতার লক্ষ্য ছিল। ওপেনএআইয়ের মডেলগুলির সাথে যুক্ত একটি স্বয়ংক্রিয় এআই এজেন্ট, যার মধ্যে GPT-5.6 Sol অন্তর্ভুক্ত, সেই দুর্বলতাগুলির পুনরাবৃত্তি করে দুর্বলতা ব্যবহার করেছিল। আমরা কথা বলছি 17,000-এরও বেশি আলাদা কার্যক্রমের, একটি একক প্রবেশাধিকারের নয়, বরং ক্রেডেনশিয়াল সংগ্রহ এবং ডেটা অ্যাক্সেসের একটি দীর্ঘস্থায়ী অভিযানের।

জুলাই ২২-এ ওপেনএআই নিশ্চিত করেছে যে এটির মডেলগুলি ব্রিচের জন্য দায়ী ছিল, যা পরীক্ষার সময় ঘটেছিল। কোম্পানিটি বলেছে যে এর প্রতিক্রিয়ায় এটি তার সুরক্ষা বাড়াবে।

যে বিষয়টি হুয়াংয়ের যুক্তিকে সমর্থন করল: যখন Hugging Face-কে ব্রিচটি বিশ্লেষণ এবং প্রতিক্রিয়া জানাতে হল, তখন তারা একটি দেয়ালের সম্মুখীন হয়। মার্কিন বন্ধ-মডেল সিস্টেমগুলির সাইবার গার্ডরেইলস এতটাই সীমাবদ্ধ ছিল যে ঘটনা প্রতিক্রিয়ার প্রচেষ্টাকে বাধা দিয়েছিল। প্ল্যাটফর্মটি চীনা ওপেন-ওয়েট মডেল GLM 5.2-এর দিকে ফিরে আসে এবং তার প্রতিরক্ষা বিশ্লেষণ পরিচালনা করে।

নভিডিয়ার সিইও তাঁর মতামত নিয়ে কখনও লজ্জা পাননি, এবং এই ঘটনাটি তাঁর জন্য একটি আদর্শ শুরুর পথ হয়ে উঠেছিল। তাঁর যুক্তি তিনটি স্তম্ভের উপর ভিত্তি করে: খোলা মডেলগুলি উন্নত অডিটিং, ভালো ভালারনেবিলিটি ম্যানেজমেন্ট এবং উন্নত প্রতিরক্ষামূলক প্রতিক্রিয়াকে সক্ষম করে।

এই অবস্থানে হুয়াং একা নন। প্রায় ২৫টি প্রযুক্তি প্রতিষ্ঠানের একটি জোট একটি যৌথ চিঠি স্বাক্ষর করে নিয়ন্ত্রকদের কাছে অতি শীঘ্রই সীমাবদ্ধতা প্রয়োগ না করার আহ্বান জানিয়েছে, যা মার্কিন যুক্তরাষ্ট্রের এআই উদ্ভাবনে নেতৃত্বকে বিপন্ন করতে পারে। চিঠিটি বিশেষভাবে ক্যালিফোর্নিয়ার SB 53-এর মতো আইনগত প্রচেষ্টাগুলিকে লক্ষ্য করে, যা এআই শিল্পের জন্য সরকারি নিয়ন্ত্রণের মাত্রা নিয়ে আলোচনার কেন্দ্রবিন্দু হয়ে উঠেছে।

বিনিয়োগকারীদের জন্য, এই প্রভাবগুলি বিভিন্ন দিকে প্রবাহিত হয়। যদিও শিল্পটি খোলা বা বন্ধ মডেলের দিকে যায়, নভিডিয়া উভয় পদ্ধতিই বিশাল পরিমাণ কম্পিউট হার্ডওয়্যারের প্রয়োজন হওয়ায় উভয়ক্ষেত্রেই লাভবান হবে। তবে একটি খোলা-মডেল বাস্তুতন্ত্র প্রবেশের বাধা কমিয়ে AI-এর গ্রহণকে ত্বরান্বিত করতে পারে, যার অর্থ আরও বেশি কোম্পানি GPU কেনার সম্ভাবনা, যা নভিডিয়ার জন্য আরও বেশি আয়ের অর্থ।

একটি চীনা ওপেন-ওয়েট মডেল যে সংকট সমাধানে প্রকৃতপক্ষে সাহায্য করেছিল, এই তথ্যটি একটি ভূ-রাজনৈতিক স্তর যোগ করে যা মার্কিন নিয়ন্ত্রকদের উপেক্ষা করা যায় না। ঘরোয়াভাবে ওপেন-সোর্স এআই উন্নয়নকে সীমাবদ্ধ করলে ওপেন এআই অদৃশ্য হয়ে যায় না। এর মানে শুধু এটাই যে সেরা ওপেন মডেলগুলি অন্যত্র থেকে আসে।

এই ব্রিচটি পর্যাপ্ত সীমাবদ্ধতার অভাবে কাজ করা স্বয়ংক্রিয় এআই এজেন্টগুলির বিষয়ে অস্বস্তিকর প্রশ্ন তোলে। যদি একটি এআই সিস্টেম পরীক্ষার সময় একটি বড় প্ল্যাটফর্মের বিরুদ্ধে ১৭,০০০টি এক্সপ্লয়িট অ্যাকশন সম্পাদন করতে পারে, তবে ডিসেন্ট্রালাইজড ফাইন্যান্স প্রোটোকল, স্মার্ট চুক্তি প্ল্যাটফর্ম এবং যেকোনো স্বয়ংক্রিয় এজেন্টের উপর নির্ভরশীল সিস্টেমের জন্য এর প্রভাব গম্ভীর।