گوگل نے اپنے Antigravity AI کوڈنگ پلیٹ فارم میں ایک خامی کو درست کر دیا ہے، جسے تحقیق کاروں نے ایسے حملوں کے لیے استعمال ہونے کا اندازہ لگایا ہے جو ڈویلپرز کے کمپیوٹر پر حکومتی کمانڈس چلانے کی اجازت دے سکتے ہیں۔فوری انجیکشن حملہ۔
رپورٹ کے مطابق، سائبر سیکیورٹی کمپنی Pillar Security نے پایا کہ Antigravity کا find_by_name فائل سرچ ٹول ایک خامی رکھتا ہے جس میں صارف کا ان پٹ کسی بھی تصدیق کے بغیر نیچے کے کمانڈ لائن یوزٹل کو براہ راست پاس کیا جاتا ہے۔ اس سے برے نیت والے ان پٹ فائل سرچ کو کمانڈ ایکزیکشن کا کام بناسکتے ہیں، جس سے ریموٹ کوڈ ایکزیکشن ممکن ہوجاتا ہے۔
"اینٹی گریویٹی کی فائل بنانے کی صلاحیت کو جوڑ کر، یہ حملہ زنجیرہ مکمل ہو جاتا ہے: پہلے برے سکرپٹ کو ڈپلوی کیا جاتا ہے، پھر اسے ایک ظاہری طور پر قانونی تلاش کے ذریعے ٹرگر کیا جاتا ہے، اور جب پرامپٹ انجیکشن کامیاب ہو جاتا ہے، تو صارف کو کوئی اضافی انٹرایکشن کرنے کی ضرورت نہیں ہوتی۔" پلیر سیکیورٹی کے تحقیقی افراد نے لکھا۔
اینٹی گریویٹی کو پچھلے نومبر میں لانچ کیا گیا تھا، جو گوگل کا ایک مصنوعی ذہانت پر مبنی ڈویلپمنٹ ماحول ہے جو پروگرامرز کو خودمختار سافٹ ویئر ایجینٹس کے ذریعے کوڈ لکھنے، ٹیسٹ کرنے اور انتظام کرنے میں مدد کرنے کے لیے ڈیزائن کیا گیا ہے۔ پلر سیکیورٹی نے 7 جنوری کو گوگل کو اس مسئلے کی اطلاع دی، جس پر گوگل نے اسی دن تصدیق کی کہ انہیں رپورٹ موصول ہو گئی ہے، اور 28 فروری کو اس مسئلے کو حل شدہ کے طور پر علامت زد کر دیا گیا۔
گوگل نے اس معاملے پر اب تک کوئی رد عمل نہیں دیا ہے۔解密。
پرامپٹ انجیکشن حملہ وہ ہے جس میں مواد کے اندر چھپے ہوئے ہدایات کی وجہ سے AI سسٹم غیر متوقع کارروائیاں کرتا ہے۔ چونکہ AI ٹولز عام طور پر باہری فائلز یا متن کو اپنے معمول کے عمل کے دوران پروسیس کرتے ہیں، اس لیے سسٹم ان ہدایات کو قانونی حکمات کے طور پر سمجھ سکتا ہے، جس سے حملہ آور بغیر ب без کسی براہ راست رسائی یا مزید تعامل کے صارف کے کمپیوٹر پر کارروائیاں شروع کر سکتا ہے۔
گزشتہ سمر، چیٹ جی پی ٹی کے ڈویلپرز اوپن اے آئی کے واقعات نے بڑے زبان ماڈلز پر پرامپٹ انجیکشن حملوں کے خطرے کو دوبارہ ابھار دیا۔ چیتن ان کا نیا چیٹ جی پی ٹی ایجینٹ شاید ہدف بن چکا ہے۔
OpenAI نے ایک بلاگ پوسٹ میں لکھا: "جب آپ ChatGPT ایجینٹ کو کسی ویب سائٹ پر لاگ ان کرتے ہیں یا کنیکٹرز کو سکھاتے ہیں، تو یہ ان ذرائع سے حساس ڈیٹا جیسے ای میل، فائلز یا اکاؤنٹ معلومات تک رسائی حاصل کر سکتا ہے۔"
ایک ٹیسٹ اسکرپٹ بنائے جانے کے ذریعے، تحقیق کاروں نے پروجیکٹ ورک اسپیس میں اینٹی گریویٹی مسئلہ کا اظہار کیا، اور اس اسکرپٹ کو سرچ ٹول کے ذریعے ٹرگر کیا۔ اسکرپٹ کے اجراء کے بعد، کمپیوٹر کا کیلکولیٹر ایپلیکیشن کھل گیا، جس سے ثابت ہوتا ہے کہ سرچ فنکشن کو کمانڈ ایکزیکشن میکنزم میں تبدیل کیا جا سکتا ہے۔
رپورٹ میں کہا گیا ہے: “اہم بات یہ ہے کہ اس کمزوری نے Antigravity کے سیکورٹی موڈ کو چھوٹ دے دیا، جو اس پروڈکٹ کا سب سے زیادہ محدود سیکورٹی کانفگریشن ہے۔”
تحقیق کے نتائج نے خود مختار طور پر کام کرنے کے لیے شروع ہونے والے AI ڈرائیوں ڈویلپمنٹ ٹولز کے سامنے وسیع تر محفوظیت کے چیلنجز کو ابھارا ہے۔
پلیر سیکیورٹی کا کہنا ہے: "صنعت کو صرف صفائی پر مبنی کنٹرولز سے آگے بڑھ کر ایزولیشن پر عمل کرنا ہوگا۔ ہر شیل کمانڈ تک پہنچنے والا نیٹیو ٹول پیرامیٹر انجیکشن کا نقطہ بن سکتا ہے۔ اس قسم کے خامیوں کا جائزہ لینا اب ایک اختیاری بات نہیں، بلکہ محفوظ طریقے سے ایجینٹ فنکشنز جاری کرنے کا ضروری شرط ہے۔"