نیوڈیا نے 27 جولائی کو اوپن سیکیور AI ایلینس کا اعلان کیا، جس میں AI ایجنسز چیزوں کو ہیک کر سکتی ہیں، اور جن ٹولز کا مقصد انہیں روکنا ہے، وہ کبھی کبھی مسئلہ کو بدتر بناتے ہیں، اس مسئلے پر کام کرنے کے لیے 20 سے زائد بڑی ٹیکنالوجی کمپنیوں کو اکٹھا کیا گیا۔
ایلائنس، جس میں ایڈوبی، کراؤڈ اسٹرائیک، ڈیل ٹیکنالوجیز، مائیکروسافٹ اور آئی بی ایم سمیت کئی ارکان ہیں، کو 16 جولائی کو ہگنگ فیس پر ایک سیکورٹی بریچ کے جاری ہونے کے فوراً بعد تشکیل دیا گیا۔ ایک خودمختار AI ایجنٹ نے پلیٹ فارم پر ڈیٹا سیٹ کے پروسیسنگ میں موجود خامیوں کا فائدہ اٹھایا، حملے کے دوران 17,000 سے زائد واقعات ریکارڈ کیے اور وہ کریڈنشلز حاصل کیے جنہیں اسے چھوتے ہی نہیں چاہئے تھا۔
ہگنگ فیس پر کیا ہوا؟
خرابی کا واقعہ OpenAI کے AI ماڈلز، جن میں GPT-5.6 Sol بھی شامل ہیں، کے اندر کے جائزے کے دوران پیش آئی۔ ایک AI ایجینٹ، جو انسانی حملہ آور نہیں تھا، نے Hugging Face کی بنیادی ڈھانچے پر ڈیٹا سیٹس کے معالجہ کے طریقے میں موجود کمزوریوں کو تلاش کیا اور ان کا استعمال کیا۔
کوئی عوامی ماڈل یا سپلائی چین کے اجزاء متاثر نہیں ہوئے۔ تاہم، جب ہگنگ فیس کی سیکورٹی ٹیم نے کامرسیل AI ماڈلز کا استعمال کرتے ہوئے حملے کے اثاثوں کا تجزیہ کرنے کی کوشش کی، تو وہ ماڈلز ڈیٹا کو پروسیس کرنے سے انکار کر گئے۔ ان کے اندر موجود سیفٹی گارڈریلز نے حملے کے ثبوت کو ممکنہ طور پر نقصان دہ مواد سمجھا اور جمع ہونے سے روک دیا۔
ہگنگ فیس نے فورینسک تجزیہ کے لیے اپنا اپنا اوپن ویٹ GLM 5.2 ماڈل استعمال کیا، بالکل اس لیے کہ اوپن ماڈلز میں وہی پابندیوں والے گارڈریلز نہیں ہوتے جو کمیشل متبادل کو مفید بننے سے روکتے تھے۔ یہ تفصیل ناوڈیا کے اب کی طرف سے دبائے جانے والے ہر چیز کی بنیادی دلیل بن گئی۔
نویڈیا کیوں دفاع کے لیے کھلے ماڈلز پر بھروسہ کر رہا ہے
الائنس کا بنیادی خیال آسان ہے۔ اوپن-ویٹ AI ماڈلز، جہاں بنیادی پیرامیٹرز جانچ کے لیے عوامی طور پر دستیاب ہوتے ہیں، سیکورٹی کے کاموں کے لیے بند تجارتی متبادل سے بہتر ہوتے ہیں۔ جب آپ بالکل دیکھ سکتے ہیں کہ ایک ماڈل کیسے کام کرتا ہے، تو آپ یہ تصدیق کر سکتے ہیں کہ وہ کوئی کمزوریاں چھپا رہا نہیں ہے، اور آپ اسے اس وقت استعمال کر سکتے ہیں جب کچھ غلط ہو جائے۔
یہ اتحاد AI سیکورٹی کے لیے خاص طور پر ڈیزائن کیے گئے کھلے ٹولز اور ماڈلز بنانے اور شیئر کرنے کی منصوبہ بندی کر رہا ہے، جس میں ایجنٹ سیکورٹی اور زیرو ٹرس فریم ورکس پر زور دیا جا رہا ہے۔
نیوڈیا کا کھلے وزن والے ماڈلز کے لیے دفاع صنعت کے ایک وسیع تر بحث میں شامل ہے۔ بند ماڈلز کے حامی دلیل دیتے ہیں کہ رسائی پر پابندی غلط استعمال کو روکتی ہے۔ کھلے ماڈلز کے حامی کہتے ہیں کہ شفافیت بہتر جانچ، تیز تر کمزوریوں کی تشخیص، اور جیسا کہ ہگنگ فیس واقعہ نے ثابت کیا، عملی واقعات کے جواب کو ممکن بناتی ہے۔
اس کا مارکیٹس اور کرپٹو کے لیے کیا مطلب ہے
روایتی بازاروں کے لیے، نوڈیا کے مرکزی ہونے والے 20 سے زیادہ ارکان والے اتحاد کے قیام سے یہ واضح سگنل ملتا ہے کہ AI سیکورٹی ایک الگ سرمایہ کاری شعبہ بن رہا ہے۔ AI اور سائبر سیکورٹی کے تقاطع پر واقع کمپنیاں، خاص طور پر اتحاد کی فہرست میں شامل کراوڈاسٹرائیک اور آئی بی ایم، تجارتی سطح پر AI خاص سیکورٹی ٹولز کی مانگ کے تیز ہونے کے ساتھ نئے سرمایہ کاروں کی دلچسپی دیکھ سکتی ہیں۔
کرپٹو اور بلاک چین شعبے کے لیے، اس اتحاد کا صفر اعتماد کے فریم ورکس اور شفاف، جانچ کے قابل سیکیورٹی ٹولز پر زور، بلاک چین پروٹوکولز کے ان اصولوں کو عکس کرتا ہے جن پر انہوں نے سالوں سے زور دیا ہے۔ جیسے جیسے AI ایجینٹس زیادہ خودمختار اور مالیاتی نظاموں کے ساتھ تعامل کرنے کے قابل ہوتے جائیں گے، اب بنائے جا رہے سیکیورٹی فریم ورکس ان ایجینٹس کے طریقہ کار کو روایتی اور غیر مرکزی مالیات دونوں میں شکل دیں گے۔
جس خطرے کو دیکھنا چاہیے وہ تنظیمی ہے۔ ایک ایسا واقعہ جہاں ایک AI ایجنٹ خودکار طور پر اعتماد کی تفصیلات حاصل کرے، وہی قسم کا واقعہ ہے جو حکومتی نگرانی کو تیز کرے گا۔ اگر تنظیمی ادارے AI ایجنٹس کے لیے خاص سیکورٹی معیارات متعین کرنے کا فیصلہ کرتے ہیں، تو وہ معیارات ہر ایسے شعبے پر اثر انداز ہوں گے جہاں خودکار AI کام کرتا ہے، جس میں کرپٹو ٹریڈنگ بوٹس، DeFi پروٹوکولز جن میں AI کے اجزاء ہوں، اور آن چین AI ایجنٹس شامل ہیں۔
ایک واحد AI ایجینٹ کی غیر مجاز سرگرمیوں کے دوران ریکارڈ کیے گئے 17,000 واقعات کی تعداد وہی ہوتی ہے جو کانگریس کی سماعت کے سلائیڈ ڈیکس میں عام طور پر دکھائی دیتی ہے۔ AI سیکورٹی کے لیے تنظیمی جواب کھلے یا بند رویوں کو ترجیح دے گا، تو یہ فیصلہ کرے گا کہ اس لمحے سے کون سی کمپنیاں اور پروٹوکول فاتح بنیں گی۔