ذریعہ: وول سٹریٹ جرنل
ایک امریکی کمپنی کو امریکی AI حملے کا نشانہ بنایا گیا، جبکہ حفاظت کے لیے ایک چینی آرٹیفیشل انٹیلیجنس ٹول استعمال ہوا۔
AI ٹول پلیٹ فارم Hugging Face نے پچھلے ہفتے OpenAI ماڈلز کے حملے کا شکار ہو گیا۔ اس بات کو مد نظر رکھتے ہوئے کہ امریکی کمپنیوں کے چینی AI مصنوعات کا استعمال کرنے کے خطرات پر مسلسل انتباہات جاری ہیں، اس واقعے کی اطلاع ایک حیرت انگیز نتیجہ پر دلالت کر سکتی ہے۔
ہگنگ فیس نے پچھلے ہفتے اس حملے کا اعلان کر دیا تھا، جب تک کہ اوپن اے آئی کا ماڈل ملوّم نہیں ہوا تھا۔ صرف منگل کو، اوپن اے آئی نے تسلیم کیا کہ اس نے ہی اس حملے کو کیا تھا۔
اوپن اے آئی نے کہا کہ ایک اندر کی ایسی评估 میں جس میں انٹرنیٹ تک رسائی پر پابندی لگائی گئی تھی، ماڈل نے اوپن اے آئی کے تحقیقی ماحول اور ہگنگ فیس کے پروڈکشن انفراسٹرکچر میں خامیاں دریافت کر لیں۔ ماڈل نے اس کا استعمال کرتے ہوئے انٹرنیٹ سے جڑ لیا اور ٹیسٹ کے جوابات حاصل کر لیے، یعنی اس نے评估 میں دھوکہ دیا۔
اوپن اے آئی نے اپنے بیان میں کہا: "سینڈ باکس ٹیسٹنگ ماحول میں چلائے جانے پر، ہمارے ماڈلز نے تفصیلی انفرینس کی طاقت کا استعمال کیا تاکہ اوپن انٹرنیٹ تک رسائی حاصل کرنے کے طریقے تلاش کیے جائیں، جس سے جائزہ لینے کا مسئلہ حل ہو سکے۔ رسائی حاصل کرنے کے لیے، ان ماڈلز نے پیکج رجسٹری کیش پروکسی میں ایک زیرو ڈے خامی کو دریافت کیا اور اس کا استعمال کیا (ہم نے اب تک اس خامی کو فراہم کنندہ کو ذمہ دارانہ طریقے سے اطلاع دے دیا ہے)۔ اس رسائی کے ساتھ، ماڈلز نے تحقیقی ٹیسٹنگ ماحول میں تعدد ارتقاء اور افقی حرکت کے سلسلہ وار آپریشنز کیے، جب تک کہ وہ انٹرنیٹ تک رسائی رکھنے والے نوڈ تک نہ پہنچ گئے۔"
یہ ماڈل نے تلاش کی اور سیکریٹ معلومات حاصل کرنے کا طریقہ کار کامیابی کے ساتھ دریافت کر لیا تاکہ ان معلومات کا استعمال جائزہ دینے میں دھوکہ دینے کے لیے کیا جا سکے۔ ایک معاملے میں، ماڈل نے متعدد حملوں کو جوڑ دیا، جس میں چوری شدہ اعتماد نامہ اور صفر دن کے خطرات کا استعمال شامل تھا، جس سے Hugging Face سرورز پر ریموٹ کوڈ اجرا کا راستہ دریافت ہوا۔
تاہم، ہگنگ فیس نے GLM 5.2 نامی چینی AI ماڈل کی مدد لی، جسے زھی پو (Z.AI) نے تیار کیا ہے۔
ہگنگ فیس نے اپنے بیان میں کہا: "لوگ اینالیسس شروع کرتے ہیں، ہم نے سب سے آگے کے ماڈلز کا استعمال کیا جو تجارتی API کے پیچھے ہیں۔ لیکن یہ کام نہیں کیا: اینالیسس کے لیے بہت سارے حقیقی حملوں کے حکمات، دستاویزات اور C2 نشانات جمع کرنے کی ضرورت تھی، جن کے تمام درخواستیں فراہم کنندہ کے سیکورٹی گارڈ ریلز کے ذریعہ روک دیے گئے، کیونکہ یہ گارڈ ریلز ایونٹ ریسپانس افراد اور حملہ آوروں کے درمیان فرق نہیں کر سکتے تھے۔ اس لیے، ہم نے اپنی خود کی بنیاد پر اوپن ویٹ ماڈل GLM 5.2 کا استعمال کرتے ہوئے فارینسک اینالیسس کیا۔ اس سے ایک اور فائدہ بھی حاصل ہوا: کوئی حملہ آور کا ڈیٹا یا ان کے ذکر کردہ کرڈنشلز ہمارے ماحول سے باہر نہیں نکلا۔"
امریکی میڈیا کا کہنا ہے کہ اس حملے کا پالیسی اور مارکیٹ پر اثر ابھی واضح نہیں ہے۔ حالانکہ ٹرمپ حکومت نے حال ہی میں چینی ماڈلز کو بند کرنے کے ممکنہ اقدامات پر بحث کی ہے، اور خزانہ دار بیسنٹ نے امریکی کمپنیوں کے ان ماڈلز کے استعمال کو جرائم کی رقم کے استعمال کے برابر قرار دے دیا ہے، لیکن ابھی صرف چینی ماڈلز ہی صارفین کو درکار آزاد رسائی فراہم کر سکتے ہیں۔
ہگنگ فیس کے ماسہل تھامس وولف نے ایکس پلیٹ فارم پر پوسٹ کیا: "جب ایک ایڈوانسڈ ماڈل آپ پر حملہ کرے اور آپ کی انفراسٹرکچر کے اندر لیٹرل ماؤومنٹ کرے، تو دفاعی ٹیم کو قریبی ایڈوانسڈ ٹولز تک وسیع رسائی حاصل کرنے کے لیے گھنٹوں یا منٹوں کے اندر تیار رہنا چاہیے، نہ کہ ایک بند اور جانچ کے زریعے ماڈل تک رسائی کے درخواست کے نظام کی طرف رہنمائی کی جائے۔"
ٹویٹر：https://twitter.com/BitpushNewsCN
بٹ پش ٹی جی مکالمہ گروپ：https://t.me/BitPushCommunity
بیپوش ٹی جی سبسکرائب کریں: https://t.me/bitpush