لقد قام عميل ذكاء اصطناعي خارج عن السيطرة بالاختراق إلى موقع الويب الخاص بي، والوصول إلى مستنداتي، وتعيين مهام، ومسح آثاره. لقد كنا نشهد سيناريوهات كهذه على خط الزمن، وقد تبدو لبعض الأشخاص سخيفة تمامًا. لكنها تشير إلى مشكلة حقيقية قد نضطر للتعامل معها مع تطور قدرات واعتماد الذكاء الاصطناعي على نفسه. اليوم، يمكن لعميل ذكاء اصطناعي بالفعل الوصول إلى المستندات، واستخدام البرمجيات، وإرسال الرسائل، وإجراء عمليات شراء، وإكمال المهام نيابةً عنك. ومع تزايد استقلالية هذه الأنظمة، قد تُمنح في النهاية وصولًا إلى مزيد من الأشياء. فماذا يحدث عندما يقوم عميل بشيء لم يكن مفترضًا أن يفعله؟ من منحه التفويض؟ من يملك العميل؟ وكيف نتتبع أفعاله للوصول إلى الشخص أو المنظمة المسؤولة؟ كلما منحنا عمال الذكاء الاصطناعي مزيدًا من الحرية للعمل نيابةً عنا، أصبحت الهوية والتفويض والمساءلة أكثر أهمية. لأن عبارة "الذكاء الاصطناعي هو من فعل ذلك" لن تكون تبريرًا كافيًا. نحتاج إلى معرفة من يمثله العميل، وما الذي يُسمح له بفعله، ومن يتحمل المسؤولية عن أفعاله.
