سگنل کے صدر میریتھ وٹاکر نے بلومنٹ کے ایک انٹرویو میں چیٹ جی پی ٹی، کلاڈ وغیرہ چیٹ بوٹس کے بارے میں کہا کہ صارفین کو ایسے سسٹم کو "دوست" یا ذاتی شعور رکھنے والے مکالمے کے ذریعے نہیں سمجھنا چاہئے۔ انہوں نے خصوصیات اور اختیارات کے مسائل پر توجہ مرکوز کی، اور کہا کہ اگر یہ ٹولز ذاتی خدمات میں گہرائی سے جڑ جائیں تو خطرات فوراً بڑھ جاتے ہیں۔
وٹکر نے AI کے استعمال کی سرحدوں پر بات کی
وٹکر نے کہا کہ وہ اپنے کچھ مخصوص معاملات میں AI ٹولز کا استعمال کرتی ہیں، جیسے دستاویزات کی فارمیٹنگ، لیکن وہ سوالات پوچھنے، سوچنے اور لکھنے کے عمل کو ماڈل پر چھوڑنے کا خواہاں نہیں ہے۔ وہ کہتی ہیں کہ وہ ایک ایسے نظام کو نہیں چاہتیں جو پہلے سے موجود معلومات کے بنیاد پر جوابات تیار کرتا ہے اور جو ذاتی طور پر کیے جانے والے سوچنے کے عمل کو مکمل طور پر بدل دے۔
ایپس کے درمیان حساس اجازتوں کے حصول کی فکر
اس نے مائیکروسافٹ کے AI بزنس کے سربراہ مصطفیٰ سلیمان کے پہلے کیے گئے ایک خیال کا جواب دیا، جس میں صارفین مائیکروسافٹ کوپائلٹ کو عید المولود کی خریداری کے لیے اپنی طرف سے کام کرنے کی اجازت دے سکتے ہیں۔ وٹیکر کا خیال ہے کہ اس سیناریو کو عملی جامہ پہنوانے کے لیے، سسٹم کو بہت ساری ذاتی معلومات پڑھنی ہوگی اور متعدد خدمات کے درمیان عمل کرنا ہوگا۔
- کریڈٹ کارڈ اور ادائیگی کی معلومات
- براؤزر کا اسٹوریج ریکارڈ
- سگنل کا پیغام اور رابطے
اس کے علاوہ، ایسے سسٹم گھر کا پتہ، کیلنڈر کے شیڈولز سے بھی رابطہ رکھ سکتے ہیں اور صارف کی طرف سے دوستوں اور رشتہ داروں کو پیغامات بھیج سکتے ہیں۔ وہ سمجھتی ہیں کہ یہ صرف ایک ٹول کا استعمال نہیں بلکہ متعدد ایپلیکیشنز اور سروسز تک وسیع رسائی ہے۔
سگنل اس قسم کے ایکسیس کو بیک دور کا خطرہ سمجھتا ہے
وٹکر نے مزید کہا کہ اگر ایسی صلاحیتیں سگنل جیسے ایکرپٹ کمیونیکیشن پروڈکٹس میں شامل کر دی جائیں، تو پروڈکٹ سیکورٹی کے لحاظ سے یہ تقریباً ایک "بیک ڈور" قائم کرنے کے برابر ہے۔ اس کے ذریعے وہ زور دے رہی ہیں کہ جتنا AI اسسٹنٹ فنکشن ڈیلیگیٹ اور ایجنٹ کے طور پر کام کرتا جائے، اتنے ہی زیادہ صارفین کو اس کو کون سے اجازتیں دی گئی ہیں، اس بات پر توجہ دینی چاہئیے۔
یہ بیان AI اسٹیلر کے مقابلے میں ایک مستقل تنازع کو بھی ظاہر کرتا ہے: جب مصنوعات صرف سوالات کے جوابات دینے سے آگے بڑھ کر صارفین کے کاموں کو خود سنبھالنے لگیں، تو سہولت اور خصوصیات کے تحفظ کے درمیان تنازع زیادہ براہ راست ہو جاتا ہے۔