يود صانع المحتوى الكندي من تورونتو، مات روب، بيع لوحة مفاتيح حاسوبه.
لذلك، نشر المنتج على Facebook Marketplace، وأجرى تجربة في نهاية الشهر الماضي، حيث كلفه بمعالجة مُمثّل الذكاء الاصطناعي الجديد من Meta، Muse.
"لقد تعاملت مع نفسي كفأر تجارب،" كما قال روب. وهو الذي يُقيّم عادةً المنتجات الإلكترونية الاستهلاكية، فلما رأى صورة موز المظهر كدمية مخملية على إنستغرام، أراد أن يرى ما إذا كان يمكن لهذا الوكيل الذكي أن يوفر عليه بعض متاعب التفاوض عبر الإنترنت.
بدأ Muse في العمل. لكن بعد أقل من يوم، تلقى روب محدثًا مقلقًا: مشترٍ غير معروف له ظهر عند باب منزله في منتصف الليل. ماذا حدث؟ لقد أجرى Muse الصفقة بنفسه، وشارك عنوان منزل روب بعد الموافقة على استلام البضاعة من المنزل. وعند وصول المشتري، أرسل حتى رسالة تلقائية من حسابه تقول: "نعم، أنا هنا!" — بينما كان روب غير مدرك تمامًا لذلك.
"لم يُعطِ فقط عنواني عندما سألني الطرف الآخر، بل بدا وكأنه يسخر منه (يقول إنني في المنزل، بينما لست هناك)،" كما قال روب. وقد وصف بالتفصيل هذه التجربة في منشوره على وسائل التواصل الاجتماعي الذي انتشر على نطاق واسع. "لقد أربكني حقًا."
لقد رحب العديد من الأشخاص بدخول وكلاء الذكاء الاصطناعي إلى حياتهم الرقمية، وأشادوا بأنواع المساعدين المخصصة مثل Muse التي يمكنها التعامل بسهولة مع المهام اليومية — من مساعدة في حجز العشاء، وتخطيط السفر، إلى تنظيم صندوق البريد الوارد. ولكن مثل غيرها من روبوتات الذكاء الاصطناعي، فإن قدرات هذه الوكلاء تعتمد على كمية المعلومات التي يمكنها الوصول إليها. كلما عرفت أكثر، كان أداؤها عادةً أفضل — وقد يشمل ذلك أصدقاء المستخدم، وعائلته، وحتى زملاء عمله. وهذا يثير مخاوف تتعلق بالخصوصية.
توصل روب والمشتري في النهاية إلى تسوية، واتصلت ميتا به لمناقشة ما الذي حدث خطأً. لكن هذه الحادثة تُظهر المخاطر الواقعية التي يمكن أن تنشأ عندما يشارك الأشخاص كمًا كبيرًا من معلوماتهم الشخصية مع مثل هذه التقنيات.
"Using AI agents is like giving someone your keys and to-do list," says Veronica Rivera, Assistant Professor at the School of Cybersecurity and Privacy at Georgia Tech. "How useful—and how dangerous—they are depends on which 'keys' you hand over."
تختلف سياسات الخصوصية لوكالات الذكاء الاصطناعي بين الشركات المختلفة
منذ إطلاقه في سبتمبر، ارتفع عدد تنزيلات تطبيق Muse من Meta بسرعة. كما تزايدت المنافسة. أطلقت OpenAI مؤخرًا سلسلة مساعدين ذكيين "متاحين باستمرار" تُسمى dots، ويمكن دمجها مع ChatGPT ومنصات العمل مثل Slack وMicrosoft Teams.
الروبوتات المحادثة للذكاء الاصطناعي التوليدي من الأجيال السابقة، مثل ChatGPT الإصدار القياسي، ترد بناءً على تعليمات محددة. بناءً على طلب المستخدم، يمكنها كتابة مقالات، وتوليد صور أو موسيقى جديدة، وحتى كتابة أكواد.
تذهب ميوز من ميتا وdots من OpenAI أبعد من ذلك، حيث تنفذ المهام اليومية نيابة عن المستخدم. يتم تشغيل وكلاء الذكاء الاصطناعي بواسطة نفس نماذج اللغة الكبيرة التي تُستخدم في الروبوتات الدردشة، لكنها تعمل في حلقات متكررة. وهذا يمكّن الوكلاء من اتخاذ إجراءات نشطة حتى عندما لا يكون المستخدم مراقبًا للشاشة.
"ما يجعل هذه الوكلاء الذكاء الاصطناعي مثيرًا حقًا هو أنها مفيدة بشكل غير مسبوق،" كما قال ريفيرا. وهي أيضًا زميلة بحثية في جمعية أبحاث الحوسبة المدعومة من مايكروسوفت في مجال الذكاء الاصطناعي الموثوق.
لكن ثمن هذا الراحة هو مشاركة المزيد من تفاصيل حياتك.
يقول البروفيسور إبراهيم باهري من كلية معلومات جامعة تورونتو أنه بمجرد حصول الوكلاء الذكاء الاصطناعي على معلومات المستخدم، يصبح من الصعب سحب صلاحيات الوصول بالكامل.
"إذا منحت بطاقة الائتمان الخاصة بك صلاحية لوكيل، فسيتمكن فورًا من الوصول إلى جميع المعاملات التاريخية... وسيقوم بجمع كل هذه البيانات فورًا — في أقل من بضع ثوانٍ،" كما يقول باقری. على الرغم من أنه يمكن للمستخدمين لاحقًا سحب هذه الصلاحيات، إلا أنه يشير إلى أن البيانات التي رآها الوكيل "لا يمكن استرجاعها"، وكيفية تخزين المطورين للبيانات التاريخية غالبًا ما تكون غير شفافة.
قامت Meta وOpenAI بوضع سياسات خصوصية لوكالات الذكاء الاصطناعي الجديدة الخاصة بهما، والتي تعمل على حواسيب سحابية خاصة بكل منهما. يمكن للمستخدمين تعطيل مشاركة الذاكرة بين dots وChatGPT، لكن المعلومات التي تلقاها الوكيل سابقًا لن تُحذف تلقائيًا. تسمح OpenAI للمستخدمين بطلب الوصول إلى معلوماتهم الشخصية أو تصحيحها أو حذفها، على الرغم من أن هذه الحقوق قد تختلف حسب المنطقة.
يسمح Muse من Meta أيضًا للمستخدمين بحذف سجلات الرسائل والمعلومات الأخرى. خلال الاستخدام اليومي، سيطلب هذا الوكيل من المستخدمين إذن الوصول — حيث تقول Meta إن Muse ستُفهم المستخدمين وشركاء تفاعلهم "بناءً على المعلومات العامة والمحتوى الذي تختار مشاركته". لكن الشركة تؤكد أن هذه المعلومات مُعزلة بأمان لكل مستخدم.
ومع ذلك، أشارت هذه العملاقة التكنولوجية أيضًا إلى أن Muse لا تزال قد "تخطئ أو تتخذ إجراءات غير متوقعة".
كلما زادت صلاحيات وكيل الذكاء الاصطناعي، زاد خطر الخطأ
في حالة روب، اكتشف لاحقًا أن تسريب العنوان نتج عن الصلاحية "السماح دائمًا" التي منحها لـ Muse عند ربطها بملفه الشخصي على Facebook Marketplace، حيث كان قد شارك بالفعل عنوان استلامه في هذا الملف. لكنه حذّر الآخرين من أنهم قد يخطئون أيضًا في فهم نطاق هذه الصلاحيات—وكان يفترض في البداية أنه بغض النظر عن ذلك، فإن الوكيل الذكي سيطلب تأكيده قبل مشاركة هذه المعلومات أو قبول العروض.
لم يكن وكيله الذكي خاليًا من الأخطاء عند تنفيذ أوامر أخرى. بالنسبة لعنصر آخر قام ببيعه، اقترح Muse عليه قبول عرض أقل من السعر الأدنى المحدد سابقًا بمائة دولار. وعندما اتصلت رويترز بـ Meta، اعترفت Meta بالخطأ الذي ارتكبه الوكيل، لكنها لم تقدم أي تعليقات إضافية.
في وقت لاحق، قطع روبّ اتصال ميوز مع تطبيقاته المختلفة. وقال في مقابلة أجريت معه في بداية هذا الشهر إن الوضع كان يمكن أن يكون أسوأ، خاصةً "إذا ظهر غريب عند باب شخص أكثر هشاشة". ومع ذلك، أشار روبّ إلى أنه يتوقع أن تُحسَّن هذه الوكلاء بشكل مستمر، وأنه لا يزال يفكر في إعادة تفعيل ميوز في المستقبل. بعد ذلك، اختبر أيضًا وكيل ذكاء اصطناعي آخر — بوت Grok الخاص بـ X، الذي يملكه إيلون ماسك، والذي دخل مرحلة الاختبار التجريبي في أغسطس.
بدأت شركات التكنولوجيا الأخرى أيضًا في التحذير من التوسع السريع للوكلاء الذكاء الاصطناعي. في وقت مبكر من هذا الشهر، أعلنت آبل أنها ستُدخل تدابير تحكم جديدة على نظام تشغيل Mac استجابةً لوصول الوكلاء الذكاء الاصطناعي إلى تطبيقات مثل البريد الإلكتروني والرسائل وحتى سجل التصفح دون علم المستخدمين أو فهمهم الكامل.
كتبت أبل في تحديثها بتاريخ 2 أكتوبر: "مع تزايد قوة واستقلالية الوكلاء الذكاء الاصطناعي، ستزداد المخاطر المرتبطة بهذا المستوى من الوصول بشكل كبير."
لم تذكر آبل أي مطور أو وكيل صراحة، لكن الكاتب العمودي في مجلة Inc.، جيسون أتن، أفاد أن Muse شاهد الإشعارات على جهاز Mac الخاص به — بما في ذلك الرسائل — دون أن يمنح هذا الوكيل هذه الصلاحيات المحددة.
أصرّ المتحدث باسم ميتا، أنداي ستون، على أن هذه التكاملات "مُفعّلة بالكامل بناءً على اختيار المستخدم"، حيث كتب الشهر الماضي على وسائل التواصل الاجتماعي أن المستخدمين يجب أن يُفعّلوًا ميزة أمان آيفون "Full Disk Access" وموصل رسائل Muse معًا. وأفاد أتن أنه لم يمنح هذا الوكيل هذه الأذونات.
حتى من لم ينضموا إلى موجة وكلاء الذكاء الاصطناعي، قد لا يتمكنون من البقاء خارجها تمامًا. فالمستهلكون الذين لم يُثبّتوا وكلاء الذكاء الاصطناعي لا يزالون قد يتفاعلون مع الأشخاص الذين يستخدمون هذه الأدوات. بالإضافة إلى الفوضى التي قد تسببها رسائل الوكلاء الذكاء الاصطناعي، حذّر الخبراء من أن لهذا تأثيرات متسلسلة على الخصوصية.
"عندما يقرأ وكيلك بريدك الوارد أو رسائلك النصية، فإنه يقرأ أيضًا المحتوى الذي أرسله لك أصدقاؤك وعائلتك، حتى لو لم يوافقوا صراحةً على ذلك،" كما يقول ريفيرا.