في مقابلة مع بلومبرغ، تحدثت ميريديث ويتاكر، الرئيسة التنفيذية لـ Signal، عن روبوتات المحادثة مثل ChatGPT وClaude، قائلةً إن المستخدمين لا ينبغي لهم اعتبار هذه الأنظمة "أصدقاء" أو كائنات تمتلك وعيًا ذاتيًا. وركّزت مناقشتها على قضايا الخصوصية والصلاحيات، مشيرةً إلى أن مخاطر هذه الأدوات تزداد بسرعة كبيرة بمجرد دمجها بعمق في الخدمات الشخصية.
ويتاكير يتحدث عن حدود استخدام الذكاء الاصطناعي
أشارت ويتاكر إلى أنها تستخدم أدوات الذكاء الاصطناعي في سيناريوهات محدودة فقط، مثل تنسيق الوثائق، لكنها لا تُفوّض عملية طرح الأسئلة أو التفكير أو الكتابة للنماذج. وأوضحت أنها لا ترغب في أن يحل نظام يُولّد إجابات بناءً على معلومات موجودة مسبقًا محل عملية التفكير التي ينبغي أن يقوم بها الفرد بنفسه.
القلق من الحصول على صلاحيات حساسة عبر التطبيقات
كما ردّت على فكرة قدمها مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، مفادها أن المستخدمين يمكنهم السماح لـ Microsoft Copilot بإجراء عمليات شراء عيد الميلاد نيابةً عنهم. واعتبرت ويتاكر أنه لتحقيق هذا السيناريو، سيحتاج النظام إلى قراءة كمية كبيرة من المعلومات الشخصية وتنفيذ عمليات عبر خدمات متعددة.
- بطاقات الائتمان ومعلومات الدفع
- سجلات تصفح المتصفح
- محتوى الإشارة والجهات الاتصال
بالإضافة إلى المعلومات المذكورة أعلاه، قد تتفاعل هذه الأنظمة مع عناوين المنازل والجدول الزمني والتقويم، وترسل رسائل نيابة عن المستخدمين لأصدقائهم وعائلاتهم. وهي ترى أن هذا لم يعد استخدامًا مساعدًا لأداة واحدة، بل وصولًا واسع النطاق إلى تطبيقات وخدمات متعددة.
يُعتبر Signal هذا النوع من الوصول خطرًا خلفيًا
أضافت ويتاكر أن إدخال قدرات مشابهة في منتجات تواصل مشفرة مثل Signal يعادل تقريبًا من الناحية الأمنية للمنتج إنشاء "باب خلفي". وقد استخدمت هذا المثال للتأكيد على أنه كلما أصبحت ميزات المساعد الذكي أقرب إلى تنفيذ المهام أو التصرف كوكيل، زادت الحاجة إلى انتباه المستخدمين إلى الصلاحيات التي حصلوا عليها فعليًا.
يُظهر هذا البيان أيضًا جدلًا مستمرًا في سباق المساعدين الاصطناعيين: عندما تنتقل المنتجات من الإجابة على الأسئلة إلى تولي المهام بدلاً من المستخدم، يصبح الصراع بين الراحة وحماية الخصوصية أكثر وضوحًا.