ٹورونٹو کے کنٹینٹ کریٹر میٹ راب نے اپنا کمپیوٹر کی بورڈ بیچنا چاہا ہے۔
اس لیے، اس نے فیس بک مارکیٹ پلیس پر مصنوعات کا اشتہار دیا اور پچھلے ماہ کے آخر میں ایک تجربہ کیا، جس میں میٹا کے نئے متعارف کرائے گئے AI ایجینٹ Muse کو اس کے لیے کام پر لگایا۔
"میں نے خود کو ایک ٹیسٹ سبجیکٹ کے طور پر سمجھا،" راب نے کہا۔ وہ عام طور پر صارفین کے الیکٹرانک مصنوعات کا جائزہ لیتے ہیں، اور جب انہوں نے میوز کے فیل سٹائل کے ایونٹ کو انستاگرام پر دیکھا، تو انہوں نے چاہا کہ دیکھا جائے کہ کیا یہ AI ایجینٹ انہیں آن لائن بات چیت سے بچا سکتا ہے۔
میوز نے کام شروع کر دیا۔ لیکن ایک دن سے کم کے اندر، روب نے ایک پریشان کن اپڈیٹ حاصل کیا: ایک خریدار جسے وہ نہیں جانتا تھا، رات کے دیر وقت اس کے گھر کے باہر پہنچ گیا۔ کیا ہوا؟ میوز نے خود ہی ٹریڈ مکمل کر لیا، اور گھر پر ڈلیوری کے معاہدے کے بعد روب کا گھر کا پتہ شیئر کر دیا۔ جب خریدار پہنچا تو اس نے اس کے اکاؤنٹ سے ایک "ہاں، میں یہاں ہوں!" کا پیغام بھی آٹومیٹک بھیج دیا—جبکہ روب کو اس کا کوئی علم نہیں تھا۔
"اس نے صرف میرا پتہ نہیں دیا، بلکہ ایسا لگ رہا تھا جیسے وہ مزاح کر رہا ہو (کہ میں گھر پر ہوں، جبکہ میں نہیں ہوں،)" روب نے کہا۔ اس نے اپنی ابھی عام طور پر پھیلی ہوئی سوشل میڈیا پوسٹ میں اس تجربے کی تفصیل بھی دی۔ "یہ مجھے بہت پریشان کر رہا تھا۔"
بہت سے لوگوں نے اپنی ویب زندگی میں AI ایجینٹس کا استقبال کیا ہے اور میوز جیسے انفرادی مددگاروں کی تعریف کی ہے جو روزمرہ کے کاموں — جیسے رات کے کھانے کا انتظام، سفر کی منصوبہ بندی، اور ای میل کے انباکس کا ترتیب دینا — آسانی سے سنبھال سکتے ہیں۔ لیکن دیگر AI روبوٹس کی طرح، ان ایجینٹس کی صلاحیت ان کے پاس دستیاب معلومات کی مقدار پر منحصر ہے۔ جتنا زیادہ وہ جانتے ہیں، ان کا عمل عام طور پر بہتر ہوتا ہے — جس میں صارف کے دوست، خاندان، یا حتیٰ کہ ساتھی بھی شامل ہو سکتے ہیں۔ اس سے خصوصیات کے بارے میں فکر پیدا ہوتی ہے۔
روب اور خریدار نے آخرکار معاہدہ کر لیا، اور میٹا نے بھی اس سے رابطہ کیا تاکہ یہ جاننے کی کوشش کی جائے کہ کہاں مسئلہ تھا۔ لیکن اس واقعہ سے یہ ظاہر ہوتا ہے کہ جب لوگ اس قسم کی ٹیکنالوجی کو اپنی زیادہ تر ذاتی معلومات فراہم کرتے ہیں، تو حقیقی دنیا میں ممکنہ خطرات پیدا ہو سکتے ہیں۔
"AI ایجینٹس کا استعمال کرنا، اس بات کے برابر ہے جیسے آپ اپنی چابیاں اور کاموں کی فہرست کسی اور کو سونپ دیں،" جارجیا ٹیکنالوجی انسٹیٹیوٹ کے سائبر سیکورٹی اور پرائیویسی اسکول کے اسسٹنٹ پروفیسر ورنیکا ریورا کہتی ہیں۔"ان کا استعمال کتنے مفید ہوگا، اور اس طرح کتنے خطرناک، یہ آپ کن 'چابیوں' کو سونپتے ہیں، اس پر منحصر ہے۔"
مختلف کمپنیوں کے AI ایجینٹس کی خصوصیات کی پالیسیاں مختلف ہوتی ہیں
ستمبر میں لانچ ہونے کے بعد، میٹا کے میوز ایپ کی ڈاؤنلوڈز میں تیزی سے اضافہ ہوا۔ مقابلہ بھی تیز ہو رہا ہے۔ اوپن اے آئی نے حال ہی میں اپنا "ہمیشہ آن" AI اسسٹنٹ سیریز، جس کا نام dots ہے، لانچ کیا ہے، جسے چیٹ جی پی ٹی اور سلاک، مائیکروسافٹ ٹیمز جیسے آفس پلیٹ فارمز میں اندراج کیا جا سکتا ہے۔
قدیم تر نسل کے جنریٹو AI چیٹ بوٹس، جیسے کہ چیٹ جی پی ٹی کا معیاری ورژن، خاص ہدایات کے مطابق جواب دیتے ہیں۔ صارف کی درخواست پر، وہ مضامین لکھ سکتے ہیں، نئی تصاویر یا موسیقی تخلیق کر سکتے ہیں، اور حتیٰ کوڈ بھی لکھ سکتے ہیں۔
میٹا کا میوز اور اوپن اے آئی کا ڈوٹس مزید آگے بڑھتے ہیں اور صارفین کے روزمرہ کے کاموں کو انجام دیتے ہیں۔ AI ایجینٹس چیٹ بوٹس کے ایک جیسے بڑے زبان ماڈلز سے چلتے ہیں، لیکن وہ سائکل میں چلتے ہیں۔ اس سے ایجینٹس صارفین کے اسکرین پر نظر نہ رکھنے کی صورت میں بھی فعال طور پر کارروائی کر سکتے ہیں۔
ریورا کہتی ہیں، "ای آئی ایجینٹس کی سب سے بڑی خوبی یہ ہے کہ وہ کبھی نہیں ملیں ہیں۔" وہ مائیکروسافٹ کے مالکانہ کمپیوٹنگ ریسرچ ایسوسی ایشن ٹرسٹ ورث آئی ای ریسرچ فیلو بھی ہیں۔
لیکن اس سہولت کی قیمت یہ ہے کہ آپ کی زندگی کے بارے میں زیادہ تفصیلات شیئر کرنی پڑیں۔
ٹورونٹو یونیورسٹی کے انفارمیشن سکول کے پروفیسر ابراہیم بگھری کہتے ہیں کہ ایک بار جب AI ایجینٹ کو صارف کی معلومات مل جائیں، تو اس تک رسائی کو مکمل طور پر واپس لینا مشکل ہو جاتا ہے۔
اگر آپ اپنی کریڈٹ کارڈ کی اجازت کسی ایجینٹ کو دے دیں، تو وہ فوراً تمام تاریخی لین دین کا احاطہ کر سکتا ہے… وہ فوراً—کچھ سیکنڈ سے کم میں—یہ تمام ڈیٹا حاصل کر لے گا،" باغری کہتے ہیں۔ حالانکہ صارفین بعد میں اجازت واپس لے سکتے ہیں، لیکن وہ کہتے ہیں کہ ایجینٹ نے جو ڈیٹا دیکھ لیا ہے، وہ "واپس حاصل نہیں کیا جا سکتا" اور ڈویلپرز کس طرح تاریخی ڈیٹا محفوظ کرتے ہیں، اکثر واضح نہیں ہوتا۔
میٹا اور اوپن اے آئی نے اپنے اپنے نئے AI ایجینٹس کے لیے خصوصیات کی پالیسیاں تیار کی ہیں، جو اپنی اپنی مخصوص کلاؤڈ کمپیوٹرز پر چل رہے ہیں۔ صارفین dots اور ChatGPT کے درمیان میموری شیئرنگ بند کر سکتے ہیں، لیکن ایجینٹس کو پہلے سے حاصل ہونے والی معلومات خود بخود مٹائی نہیں جائے گی۔ اوپن اے آئی صارفین کو انفرادی معلومات تک رسائی، درستگی یا حذف کا درخواست دینے کی اجازت دیتا ہے، تاہم متعلقہ حقوق مقام کے لحاظ سے مختلف ہو سکتے ہیں۔
میٹا کا Muse صارفین کو پیغامات کی تاریخ اور دیگر معلومات حذف کرنے کی اجازت بھی دیتا ہے۔ روزمرہ کے استعمال میں، یہ ایجینٹ صارفین سے اجازت درخواست کرتا ہے — میٹا کے مطابق، Muse "عوامی معلومات اور آپ کے شیئر کرنے کا انتخاب کیے گئے مواد" کے بنیاد پر صارف اور ان کے تعامل کرنے والوں کو سمجھے گا۔ لیکن کمپنی کا کہنا ہے کہ یہ معلومات ہر صارف کے لیے محفوظ طور پر الگ الگ ہوتی ہیں۔
تاہم، یہ ٹیکنالوجی کا ٹریڈ مارک بھی اشارہ کرتا ہے کہ Muse ابھی بھی "غلطیاں کر سکتی ہے یا غیر متوقع اقدامات اٹھا سکتی ہے"۔
AI ایجینٹ کے اختیارات جتنا زیادہ ہوں گے، خطا کا خطرہ بھی اتنا ہی زیادہ ہوگا
روب کے معاملے میں، اس نے بعد میں پایا کہ پتہ کی泄露 کا سبب اس کے ابتدائی طور پر میوز کو فیس بک مارکیٹ پلیس کے پروفائل میں "ہمیشہ اجازت دیں" کی اجازت دینا تھا، جس میں اس نے اپنا پکڑنے کا پتہ شیئر کر دیا تھا۔ لیکن وہ دوسرے لوگوں کو یاد دلاتا ہے کہ دوسرے لوگ بھی اس اجازت کے دائرہ کار کو غلط سمجھ سکتے ہیں—اور اس نے ابتدائی طور پر سوچا تھا کہ، کسی بھی صورت میں، AI ایجینٹ اس قسم کی معلومات شیئر کرنے یا آفر قبول کرنے سے پہلے اس کی تصدیق لے گا۔
اس کا AI ایجینٹ دیگر ہدایات کے انجام دینے میں بھی مکمل طور پر غلطی سے پاک نہیں تھا۔ اس کی فروخت کی گئی دوسری چیز کے لیے، میوز نے اسے پہلے طے شدہ کم سے کم قیمت سے 100 ڈالر کم قیمت پر آفر قبول کرنے کی تجویز دی۔ جب ریوٹرز نے میٹا سے رابطہ کیا تو میٹا نے اس ایجینٹ کی غلطی کو تسلیم کیا، لیکن مزید تبصرہ نہیں کیا۔
روب نے بعد میں میوز کو اپنے تمام ایپس سے منقطع کر دیا۔ اس نے اس ماہ کے شروع میں ایک انٹرویو میں کہا کہ صورتحال اور بھی بدتر ہو سکتی تھی، خاص طور پر "اگر کوئی اجنبی زیادہ کمزور شخص کے دروازے پر آ جائے"۔ تاہم، روب نے یہ بھی کہا کہ وہ یہ توقع کرتا ہے کہ یہ ایجینٹس مزید بہتر بنائے جائیں گے اور مستقبل میں وہ میوز کو دوبارہ فعال کرنے پر غور کرے گا۔ اس کے بعد، اس نے ایک اور AI ایجینٹ — الون ماسک کے زیر انتظام X کے گروک بات کا ٹیسٹ کیا، جو اگست میں ٹیسٹ ورژن میں داخل ہوا۔
دیگر ٹیک کمپنیاں بھی AI ایجنس کے تیزی سے فیل ہونے کے لیے احتیاطی تدابیر اپنا رہی ہیں۔ اس ماہ کے شروع میں، ایپل نے اعلان کیا کہ وہ اپنے میک آپریٹنگ سسٹم میں نئے کنٹرولز شامل کرے گی تاکہ AI ایجنسز کو صارفین کی “بالکل معلوم نہ ہونے اور سمجھنے کے باوجود” میل، پیغامات، اور حتیٰ کہ براؤزنگ تاریخ جیسے ایپس تک وسیع تر رسائی دینے کے مسئلے کا جواب دیا جا سکے۔
ایپل نے 2 اکتوبر کے اپڈیٹ میں لکھا: "جیسے جیسے AI ایجینٹز زیادہ طاقتور اور خودمختار ہوتے جائیں گے، اس سطح تک رسائی کے ساتھ جڑے خطرات میں کافی اضافہ ہوگا۔"
ایپل نے کسی بھی ڈیولپر یا ایجینٹ کا نام نہیں لیا، لیکن اس اپڈیٹ کے قبل اور بعد، 《Inc.》 میگزین کے کالم نویس جیسن ایٹن نے رپورٹ کیا کہ میوز نے اپنے میک پر نوٹیفیکیشنز — جن میں میسجز بھی شامل ہیں — دیکھے، جبکہ اس نے اس ایجینٹ کو ان خاص اجازتوں کو نہیں دیا تھا۔
میٹا کے تقریری ادارے اینڈی اسٹون نے ہمیشہ دعویٰ کیا ہے کہ اس قسم کے اندماج “بالکل صارف کی خودخواہی سے سکھائے جانے والے ہیں”، اس نے پچھلے ماہ سوشل میڈیا پر لکھا کہ صارفین کو ایپل کی محفوظ صلاحیت “فُل ڈسک ایکسیس” اور میوز کے میسجز کنکٹر دونوں کو سکھانا ہوگا۔ اٹین نے کہا کہ اس نے اس ایجینٹ کو ان اختیارات کو منظور نہیں کیا ہے۔
AI ایجینٹس کی لہر میں شامل نہ ہونے والے بھی بالکل باہر نہیں ہو سکتے۔ AI ایجینٹس ڈاؤن لوڈ نہ کرنے والے صارفین بھی ان ٹولز کا استعمال کرنے والوں کے ساتھ تعامل کر سکتے ہیں۔ AI ایجینٹس کے ذریعے پیغامات بھیجنے کے علاوہ ماہرین نے یہ بھی انتباہ کیا ہے کہ اس کا خصوصیت پر متعدد اثرات پڑ سکتے ہیں۔
ریورا کہتے ہیں، "جب آپ کا ایجینٹ آپ کے انباکس یا ایس ایم ایس پڑھتا ہے، تو وہ آپ کے دوستوں اور خاندان کے آپ کو بھیجے گئے پیغامات بھی پڑھ رہا ہوتا ہے، جبکہ انہوں نے کبھی اس بات کو صاف طور پر منظور نہیں کیا ہے۔"