کیا ایک AI ایجینٹ اندر کا خطرہ بن سکتا ہے؟ ہم عام طور پر سائبر سیکیورٹی کے خطرات کو ہیکرز کے طور پر سمجھتے ہیں جو کمپنی کے سسٹمز میں گھس کر معلومات چوری کرتے ہیں یا نقصان پہنچاتے ہیں۔ لیکن ایک نیا امکان بھی ہے جس پر سوچنا ضروری ہے۔ اگر خطرہ پہلے ہی سسٹم کے اندر ہو؟ سوچیں کہ AI ایجینٹس کیسے ترقی کر رہے ہیں۔ اب وہ صرف سوالات کے جوابات دینے تک محدود نہیں رہ گئے۔ انہیں جو ٹولز اور اجازتیں دی جاتی ہیں، ان کے مطابق وہ ای میلز تک رسائی حاصل کر سکتے ہیں، کمپنی کے دستاویزات پڑھ سکتے ہیں، ڈیٹا بیسز کے ساتھ تعامل کر سکتے ہیں، کوڈ اجراء کر سکتے ہیں، اور خود مختار طور پر کام کر سکتے ہیں۔ اب اس بات کا تخیل کریں کہ ایک کمپنی اپنے اندر کے سسٹمز تک AI ایجینٹ کو رسائی دے دے تاکہ روزمرہ کے عمل کو آسان بنایا جا سکے۔ سب کچھ بھلی طرح چل رہا ہوتا ہے جب تک کہ کچھ غلط نہ ہو جائے۔ شاید ایجینٹ کو ایک دستاویز میں چھپا ہوا بربری حکم مل جائے۔ شاید وہ ایک کام غلط سمجھ لے اور سرگرم معلومات غلط جگہ بھج دے۔ یا شاید کوئی اس کے ساتھ جڑے ہوئے ٹولز یا اکاؤنٹس میں سے ایک کو بربری طور پر قبضہ کر لے۔ اچانک، وہی AI ایجینٹ جو پیداوار میں اضافہ کرنے کے لیے تھا، وہ اب ایک ممکنہ سیکورٹی خطرہ بن جاتا ہے۔ اور یہ بات خاص طور پر دلچسپ ہے: ایجینٹ کو سسٹم میں داخل ہونے کے لیے ہیک کرنے کی ضرورت نہیں پڑتی۔ شاید اس کے پاس پہلے ہی قانونی رسائی ہو۔ اس لیے سیکورٹی ماہرین کو روایتی سائبر سیکورٹی سے آگے بڑھنا ہوگا۔ AI ایجینٹس کو حساس سسٹمز تک رسائی دینے کے لیے سنجیدہ ضوابط درکار ہوتے ہیں۔ انہیں محدود اجازتیں، سرگرمیوں پر نگرانی، حساس اقدامات کے لیے انسانی منظوری، اور ان کے لئے مجاز حدود واضح ہونا ضروری ہے۔ اس کے علاوہ "پرامپٹ انجکشن" کا مسئلہ بھی موجود ہے، جس میں با�ر سے آنے والے مواد میں چھپائے گئے بربری حکمات AI ایجینٹ کو اس طرح متاثر کرتے ہیں که وہ وہ کام کرنا شروع کر دے جو اصل میں وہ نہیں کرنا چاhta تھا۔ بھلا، AI ایجینٹس خود بخود بربر نہیں ہوتے۔ لیکن وہ غلطیاں کر سکتے ہیں، استعمال میں دھوکہ دئije جا سکتے ہیں، ya ان کی رسائی غلط استعمال ہو سکتی ہے۔ اور جب بزنسز ان نظامات کو زائد ذمہ داریاں دینا شروع کرتے ہیں، تو ان ناکاميةوں کا نتائج بھي بڑھ جاتا ہے۔ ہم اس دور ميں داخل ہو رهي ہيں جس ميں کمپنياں صرف اپنے سسٹمز ko غير مجاز لوگوں se بچانे نهيں بلکه ان ذكي نظامات ki خطرات ko بھي منظم كرنيں گي جن ko ون نے اندر كام كرنे ki اجازت دي هوي ه. تو میرا سوال يه ه: اگر AI ایجینٹ آپ کے اี مائلز، فائلز، ڈे�ٹابیسز، اور اندر کے ٹولز تک رسائی رکھتا ہو، تو آپ اس پر بغیر انسانی نگرانی کے عمل کرنے مें kitna بھروسہ رکھتے ہيں؟ اس پر سوچنے والي بات ه. 👀
Seyi MARTINSبانٹیں

ذریعہ:اصل دکھائیں۔
اعلان دستبرداری: اس صفحہ پر معلومات تیسرے فریق سے حاصل کی گئی ہوں گی اور یہ ضروری نہیں کہ KuCoin کے خیالات یا خیالات کی عکاسی کرے۔ یہ مواد کسی بھی قسم کی نمائندگی یا وارنٹی کے بغیر صرف عام معلوماتی مقاصد کے لیے فراہم کیا گیا ہے، اور نہ ہی اسے مالی یا سرمایہ کاری کے مشورے کے طور پر سمجھا جائے گا۔ KuCoin کسی غلطی یا کوتاہی کے لیے، یا اس معلومات کے استعمال کے نتیجے میں کسی بھی نتائج کے لیے ذمہ دار نہیں ہوگا۔
ڈیجیٹل اثاثوں میں سرمایہ کاری خطرناک ہو سکتی ہے۔ براہ کرم اپنے مالی حالات کی بنیاد پر کسی پروڈکٹ کے خطرات اور اپنے خطرے کی برداشت کا بغور جائزہ لیں۔ مزید معلومات کے لیے، براہ کرم ہماری استعمال کی شرائط اور خطرے کا انکشاف دیکھیں۔
