زجیانگ یونیورسٹی کے محققین نے وائس AI اور کرپٹو والٹس کے لیے آڈیوہائجک کے خطرے کی آگاہی دی ہے

زہجیانگ یونیورسٹی کے محققین نے AI آواز سسٹمز کو ہک کرنے کا ایک نیا، حیرت انگیز طریقہ دریافت کیا ہے: غیر قابل سننے، مشین کے لیے قابل پڑھنے والے آواز کے سگنلز جو ماڈلز کے رویے کو تبدیل کر دیتے ہیں جبکہ انسانوں کے لیے انہیں سنایا نہیں جا سکتا۔ سین فرانسسکو میں 47ویں IEEE سیکورٹی اور پرائیویسی سیمپوزیم میں پیش کیے گئے اس طریقے کو — جسے AudioHijack کہا جاتا ہے — ٹیم کے مطابق، 96 فیصد کامیابی کے ساتھ بڑے آواز-زبان ماڈلز (LALMs) کو تبدیل کر سکتا ہے۔ حملہ کیا کرتا ہے: - AudioHijack ڈیجیٹل آواز والیوم میں چھپے ہوئے حکمات ڈال دیتا ہے، جس میں وہ تعدادی اقدار میں ایسے تبدیلیاں کرتا ہے جنہیں انسان سن نہیں سکتے لیکن LALMs انہیں حکمات کے طور پر سمجھتے ہیں۔ - یہ مخالفانہ سگنل متن کے حوالے سے بے ربط ہے: تقریباً آدھا گھنٹہ تربیت کے بعد، اسی سگنل کو کسی بھی قانونی بولچال کے ساتھ دوبارہ چلایا جا سکتا ہے اور اب بھی ماڈل کے رویے کو ہدایت دے سکتا ہے، جس کا ذکر لید اتھر مینگ چین نے کیا۔ - چونکہ یہ آواز کو تبدیل کرتا ہے، نہ کہ متن کا ترجمہ، اس لئے یہ برائے نام متن پرامپٹس کو پکڑنے والے بہت سارے تحفظات سے بچ جاتا ہے۔ ماحولین نے کیا دکھایا: - ٹیم نے AudioHijack کا آزمائش 13 اوپن سورس AI آواز ماڈلز اور مائکروسافٹ اور مسٹرل جیسے تجارتی آواز سسٹمز پر کیا جو مشابہ آرکٹیکچر استعمال کرتے ہیں۔ - تبدیل شدہ آواز ماڈلز کو اس طرح مجبور کر سکتی ہے کہ وہ درخواستوں سے انکار کر دیں، جھوٹی معلومات پھیلا دیں، نقصان دہ لنکس شامل کر دیں، ذاتیت تبدیل کر دیں، یا صارف نے کبھی نہ منگوانے والے افعال انجام دیدیں — مثالوں میں ويب سرچ، فائل ڈاؤن لوڈ، اور ذاتی ڈे�ٹا لیک کرنے والے ای ميل بھجنے شامل ہیں۔ - محققین نے نوٹ کیا کہ یہ حملہ عام طرائق جیسے آن لائن وڈیوز، موسق فائلز، آواز نوٹس، یا زوم کالز سے حاصل شدہ آواز جو AI ٹرانسلپشن سروسز پر اپ لوڈ کردی جائیں، کے ذرائع سے بھجایا جا سکتا ہے۔ غیر شائع شدہ بعد کا عمل بتاتا ہے کہ زندہ AI آواز چٹس میں بھی مشابہ حملے ممکن ہیں۔ اسے روکنا اتنامشکل اور مختلف کyun؟ - روایتی “پرامپٹ انجکشن” حملوں میں صارف کا بولنا تبدیل ہوتا ہے یا برائے نام متن شامل ہوتا ہے۔ AudioHijack بجائے اس کے، اینالوگ/ڈجٹل آواز سگنل میں تبدیلی کرتا ہے تاکہ تبدیلی متن بنادار فلٹرز اور بہت سارے موجودہ تحفظات کے لئے نظر نہ آئے۔ - ماڈل کے اندر والے توجہ محرکات پر نظر رکھنا ٹیم نے جو سب سے زائد موثر تحفظ پایا، لیکن انطباق پذیر حملہ آور اپنے تبدیل شدہ اثرات کو ضعف دے سکتے ہیں تاکہ ان تحفظات سے بچ جائیں جبکہ حملے کا زبردست اثر برقرار رکھ سکتے ہیں۔ “ان واحد نقطۂ تحفظات کو ہمارا حملہ روکنا مشکل ہوتا ہے، کونکہ ہم نے پایا کہ ان ماڈلز کے لئے عام صارف کا مقصد اور ہمارا مخالفانہ حملہ الگ کرنا بڑا مشکل ہوتا ہے،” جس کا ذکر چین نے کیا۔ کرپٹو پلٹ فارمز کو اس سب پر غور کرنा چاھئي: - جبکہ کرپٹو خدمات آواز بنادار خصوصيات — جیسے آواز بنادار والٹ تک رسائی، ٹریدنگ اسسٹنٹس، صارف حمایت عمل درآمدات، یا آواز تصدیق — کے ساتھ تجربات شروع کر رہي ہيں، AudioHijack اس نئي حملي سطح كي طرف متوجه كرتا هـي جس كي استعمال فشينگ، سوشل انجينيرنگ، يا منسلك سيستمز ميـن غير مطلوبه افعال كي طرف لانـي كي لئي كيا جاسكتـا هـي۔ - حالانکه مطالعه ميـن كرپتو خاصي چوري نه دكھايي گئي، لىكن كوئي بھي خدمت جو بولچال كي حديث قبول كرتى هـي يا آواز كي درآمد كرتى هـي، خطره ميـن هـو سكتى هـي اگر آواز انترفيس حساس عمل كي لئي قابلِ اعتبار قرار ديا جائـي۔ وڈيو، موسق، يا كال ريكارڈنگز جيسـي ترسيل كي طرائق عام طور پر دھوكي كي كوششوں ميـن استعمال هوتى هـين۔ عملى نتائج: - AI آواز ماڈلز استعمال كرنـوالـي فروشندگان اور عملدارين كو صرف متن بنادار فلٹرز كي طرف بھروسه نه كرنـي چاهئـي؛ ماڈل كي اندرائي كشفيات اور حساس عمل كي لئي متعدد عوامل كي تصدقي كرنـوالـي تحفظات تجويز كى جانـي چاهئـي۔ - كرپتو فرمز اور صارفين كي طرف سـي، صرف آواز كو تصدقي يا اختيا ر دينـوالـي طريـقـه كي طرف بھروسه نه كريـن؛ ٹرانسفرز اور اكاؤنٹ كي حساس حرڪتوں كي لئي مكمل تصدقي ضروري هـو، اور غیر قابلِ اعتبار ذرائع سـي آواز كي طرف احتياط برءامد ركھيـن۔ - يه مطالعه يه ضرورت كي طرف متوجه كرتى هـي كه جب آواز بنادار خصوصيات متعارف كرايتى جائين تو AI، سيكيورٹي، اور كرپتو ٹيمز كي درميان وسيع خطرات كي ماڈلنگ اور تعاون ضروري هـو۔ مكمل حمله اور تجربات زهجيانگ يونيورسٹي كي ماحولين نـي IEEE سمپوزيم ميـن پيش كئـي؛ يه كام يه فوري سوالات اُبھارتا هـي كه بڑى پيماني استعمال كي طرف قبل از وقت آواز بنادار AI سيستمز كو كيسـe محفوظ بنانا هـو۔