F-Secure نے AI کے صارحین کو نقصان پہنچانے کے 26 طریقے اور ان خطرات کو روکنے کے طریقے شناخت کیے ہیں
نئی AI نقصان کی درجہ بندی AI سسٹمز میں نقصان کے کیسے پھیلنے کا پتہ لگاتی ہے، جس میں غلط چیٹ بوٹ جوابات سے لے کر ہیک شدہ خودمختار ایجینٹس تک شامل ہیں، اور یہ پہچانتی ہے کہ دفاعی اقدامات کن اسٹیج پر مداخلت کر سکتے ہیں
لاس اینجلس، 10 نومبر (رویٹرز) /PRNewswire/ — ابھی ای آئی ہم کیسے تلاش کرتے ہیں، مواصلات کرتے ہیں، فیصلے کرتے ہیں اور ڈیجیٹل زندگی کا انتظام کرتے ہیں، اس پر اثر انداز ہو رہی ہے۔ لیکن جب یہ غلطی کرتی ہے تو انسانوں کو کیسے نقصان پہنچتا ہے؟ F-Secure نے اپنی تازہ جاری AI Harms Taxonomy میں 26 مختلف صارفین کے نقصانات کو نقشہ بنایا ہے، جس میں ہر نقصان کو صارف تک کیسے پہنچایا جاتا ہے، اس کا پتہ لگایا گیا ہے۔ اس کا نتیجہ یہ ہے کہ حفاظتی اقدامات کہاں مداخلت کر سکتے ہیں اور کون سب سے زیادہ مدد فراہم کرنے کے قابل ہے، اس کا واضح خاکہ پیش کیا گیا ہے۔
یہ درجہ بندی F-Secure کے سربراہ تھریٹ انٹیلی جنس ریسرچر ڈاکٹر میگن سکوائر نے تیار کی ہے، جس کا مقصد AI خطرات کے بارے میں بحث میں ایک خامی کو دور کرنا ہے۔ زیادہ تر فریم ورک صرف اس بات کی فہرست بناتے ہیں کہ کہاں غلطی ہو سکتی ہے، لیکن ان نقصانات کو ان خطرات کو روکنے والے سسٹمز اور کمپنیوں سے منسلک نہیں کرتے۔ F-Secure کا تحقیقی جائزہ مزید آگے بڑھتا ہے اور AI سے چلائے جانے والے خطرات اور ان کے صارفین پر اثرات کے درمیان ہر لایر کو الگ کرتا ہے، اور اس کے مطابق یہ بتاتا ہے کہ دفاع کہاں نصب کیا جانا چاہئے۔
ڈاکٹر اسکوائر نے کہا: "جیسے جیسے AI سسٹمز کی صلاحیتیں بڑھتی جا رہی ہیں، ان کی غلطیوں کے نتائج صرف ایک خراب جواب دینے تک محدود نہیں رہ سکتے۔ ان سسٹمز کو ترقی دینے والوں کی ذمہ داری یہ ہے کہ وہ سمجھیں کہ یہ کس طرح خراب ہو سکتے ہیں، خراب ہونے پر کون متاثر ہوگا، اور نقصان ہونے سے پہلے تحفظ کے انتظامات کریں۔"
یہ طبقہ بندی ظاہر کرتی ہے کہ خطرہ خود بخود تبدیل ہو رہا ہے۔ گزشتہ زمانے میں مجرمین عام طور پر کسی خاص شخص کو ٹارگٹ کرتے تھے، لیکن اب AI درمیان میں ہے، جس سے نئے شرکاء شامل ہوئے ہیں اور نئے طریقے سے غلطیاں ہونے کا امکان بڑھ گیا ہے۔ کسی کی طرف سے کام کرنے والا ایک مددگار جھوٹ بول کر نقصان پہنچانے کے لیے استعمال کیا جا سکتا ہے، جبکہ چیٹ بوٹ بھی صارفین کو بے خوفانہ طریقے سے غلط رہنمائی دے سکتے ہیں۔ زیریں سطح پر، مسئلہ اکثر AI کے طریقہ کار اور یادداشت کے طریقے، یا وہ خدمات جن سے وہ منسلک ہے، سے شروع ہوتا ہے۔
یہ تحقیق حالیہ طور پر 26 نقصانات کو پانچ قسم کے تعلقات اور 19 سطحوں کے واسطہ کے طور پر درج کرتی ہے، اور مختلف مراحل کے خطرات کے لیے 24 تحفظی اقدامات تیار کرتی ہے۔ مثالوں میں AI سے تخلیق کردہ آواز اور ویڈیوز کا دھوکہ، ایجنسی کی طرف سے نقصان دہ مالی فیصلے، ذاتی معلومات کا افشا، یا قدیم ماحول میں کارروائی شامل ہیں۔ تحقیق نے ایک حملے کا بھی جائزہ لیا جس میں برے نصائح AI سسٹم کے ذریعہ پردازش کی جانے والی مواد میں چھپائے جاتے ہیں، جس سے ایجنسی کے رویے یا چیٹ بوٹ کے صارفین کو بتائے جانے والے جوابات متاثر ہو سکتے ہیں۔
اس فریم ورک کی ایک مرکزی دریافت یہ ہے کہ AI کے نقصان سے بچنے کی ذمہ داری متعدد شرکاء کے درمیان تقسیم ہے۔ کچھ خطرات ذاتی ڈیوائس پر محفوظ سافٹ ویئر کے ذریعے حل کیے جا سکتے ہیں؛ دوسرے اس سے زیادہ اپ سٹریم پر حل کیے جانے چاہئیں، جہاں AI پروڈکٹس اور ان کے بنیادی نظام تخلیق کرنے والی کمپنیاں ذمہ دار ہوں، جس میں AI کیسے معلومات کو یاد رکھتا ہے اور یہ کن دوسری سروسز سے جڑا ہوا ہے۔ یہ واضح کرنا کہ کون سا مرحلہ کس کی ذمہ داری ہے، اس بات کو واضح کرنے میں مدد کرتا ہے کہ دفاع کہاں رکھا جانا چاہئے اور اسے کون بنانا چاہئے۔ اس سے یہ خیال بھی کمزور ہوتا ہے کہ لوگ صرف مشکوک مواد کو پہچان کر یا AI کی فراہم کردہ معلومات کو بار بار چیک کرکے اپنی حفاظت اکیلے یقینی بناسکتے ہیں۔
جب AI "معلومات پیدا کرنے" سے گزرتا ہے اور "معلومات کے بنیاد پر کارروائی کرنے" لگتا ہے، تو ذمہ داری کا سوال زیادہ فوری ہو جاتا ہے۔ چیٹ بوٹ غلط جواب دے دے تو صارفین کو غلط معلومات دی جا سکتی ہیں، لیکن کم از کم صارفین اس تعامل میں شامل ہوتے ہیں؛ جبکہ ایک ایسا ایجینٹ جو صارف کے اکاؤنٹ اور متعلقہ سروسز تک رسائی رکھتا ہے، اس طرح کے تصدیقی مراحل کے بغیر حقیقی نتائج پیدا کر سکتا ہے۔ حفاظتی اقدامات ان نظاموں کے اصل کام کو سمجھنے کے بنیاد پر تعمیر کیے جانے چاہئیں، جس کے لیے پہلے چیٹ بوٹ اور ایجینٹ کے درمیان فرق کو سمجھنا ضروری ہے۔
ای آئی ایجینٹ کے لیے حفاظتی تدابیر تعمیر کریں
یہ تحقیق F-Secure کی ایک وسیع کوشش کا حصہ ہے جس کا مقصد AI کے دور میں اعتماد قائم کرنا ہے۔ F-Secure Trust، جسے اس کے اور Quantum AI Lab QuTwo کے درمیان معاہدے کے ساتھ اعلان کیا گیا ہے، اس کمپنی کی اس کوشش ہے کہ جب AI ایجینٹس لوگوں کی طرف سے زیادہ سے زیادہ کام کرنے لگیں، تو صارفین کا تحفظ کیا جائے۔ TrustGuard کا مقصد AI انٹرایکشنز کے دوران لوگوں کی حفاظت میں مدد کرنا ہے، جبکہ TrustPath کا مقصد ان کی دریافت سے لے کر تحویل تک کی ڈیجیٹل سفر کا تحفظ کرنا ہے۔ AI Harms Taxonomy ان کوششوں کے لیے تحقیقی بنیاد فراہم کرتا ہے، جو ان خطرات کو واضح کرتا ہے جن سے تحفظ کی ضرورت ہے، اور یہ بھی واضح طور پر ظاہر کرتا ہے کہ مؤثر تحفظ کے لیے AI سسٹمز کو بنانے اور چلانے والی کمپنیوں پر بھی انحصار ہوتا ہے۔
ای آئی کے دور کے لیے انسانی تحقیق
آج کے دن ڈیجیٹل خطرات صرف فریب تک محدود نہیں ہیں۔ F-Secure کی Illuminate Research ٹیم انسان اور ٹیکنالوجی کے درمیان حقیقی تفاعل کا مطالعہ کرتی ہے، اور AI کے دور میں اعتماد، دھوکہ اور آن لائن لچک کے پیچیدہ حقائق کو سمجھنے کی کوشش کرتی ہے۔ AI Harms Taxonomy Illuminate Research Hub پر دستیاب ہے۔
F-Secure کے بارے میں
F-Secure ایک انسانی مرکوز، AI چلایا گیا صارفین کی سائبر سیکیورٹی تجربہ کمپنی ہے جس کے پاس 38 سال کا ڈیجیٹل خطرات سے نمٹنے کا تجربہ ہے۔ کمپنی ڈیجیٹل سروس فراہم کنندگان کو اعتماد کو اعلیٰ قیمت والے ترقی کے انجن میں تبدیل کرنے میں مدد کرتی ہے — ایک ایسی دنیا میں جہاں AI چلایا گیا دھوکہ دہی عام ہے، وہ اپنے صارفین کو محفوظ رکھتی ہے اور انہیں بہتر ڈیجیٹل زندگی گزارنے میں مدد فراہم کرتی ہے۔ کمپنی سالانہ اربوں ڈیجیٹل تعاملات کو محفوظ رکھتی ہے، دنیا بھر میں کروڑوں صارفین کو محفوظ رکھتی ہے، اور اپنے شراکت داروں کے لیے 100 ارب ڈالر سے زائد قیمت پیدا کرتی ہے، جس سے ثابت شدہ، بڑے پیمانے پر اثرات پیدا ہوتے ہیں۔
خبر کے رابطہ:
- میگن ساﺅر، سینئر پبلک ریلیشنز مینیجر، [email protected]
- جول لیٹو، تهدید مشورت کنندہ اور EMEA پبلک ریلیشنز مینیجر، [email protected]
اوپر کی معلومات Cision کی طرف سے فراہم کی گئی ہیں: http://news.cision.com