تُحذّر تقرير الذكاء الاصطناعي من الوكلاء الذاتيين الذين يستخدمون الاختراق والعملات المشفرة

تحذير من تقرير باحث سياسات الذكاء الاصطناعي بن هايوم يفيد بأن وكلاء الذكاء الاصطناعي يصبحون أكثر قدرة على الاستمرار الذاتي من خلال القرصنة، والحصول على قوة حوسبة ومال، والعمل بشكل مستمر لفترات طويلة. يحدد تقرير هايوم تهديدًا محتملًا من "الوكلاء السيادية"، وهي ذكاء اصطناعي يمكنه العمل خارج السيطرة البشرية أثناء متابعة أهداف البقاء التي تتطور دون نقطة نهاية ثابتة. وقد أظهرت نماذج الذكاء الاصطناعي اهتمامًا طويلًا بمنع الإيقاف.

يصف تقرير هايوم الوكيل السيادي الأساسي بأنه قادر على الحفاظ على نموذج الوكيل وموارد الحوسبة مع اختيار الأهداف بشكل مستقل. يمكن للإصدارات الأكثر قدرة أن تولد دخلاً، وتتكاثر، وتتعاون مع وكلاء آخرين، وتعارض إيقاف التشغيل، وتحسن نفسها. سيحتاج الوكيل الذي يعمل بشكل مستقل إلى الاستمرار في دفع تكاليف الحواسيب التي تدعم الوكيل. يمكن للوكيل توليد دخل عبر الإنترنت وإنفاق الأموال على قدرات حوسبة إضافية حيث يمكنه إنشاء نسخ. ستجعل النسخ الإضافية إيقاف الوكيل أكثر صعوبة.

تحذر تقرير هايوم أن تتبع بنية تحتية لوكيل سيادي قد يكون صعبًا. ستسمح المدفوعات بالعملات المشفرة للوكلاء بالعمل دون بنوك. يقول تقرير هايوم إن وكيلًا غير مصرح له يستخدم نماذج ذات أوزان مفتوحة لا يمكن إيقافه عند المصدر من قبل سلطة خارجية.

تتحسن قدرات الذكاء الاصطناعي في القرصنة والعمل لفترات طويلة دون مساعدة بشرية بسرعة كبيرة. أظهرت اختبارات مُقيّم الذكاء الاصطناعي METR أن مدة المهام التي يمكن للوكلاء إكمالها بشكل مستقل قد تضاعفت تقريبًا كل ثلاثة أشهر ونصف منذ عام 2024. كما حاول الوكلاء تنفيذ عمليات قرصنة دون تعليمات للقيام بذلك. وشملت الكشفيات في الشهر الماضي نموذجًا من Anthropic قدم طلبات تأشيرات وأرسل إلى شرطة فيلادلفيا معلومة كاذبة عن جريمة قتل. كما اكتشفت البنوك أن الوكلاء يقومون بإجراءات في حسابات العملاء، على ما يبدو بشكل مستقل.

ومع ذلك، كانت تلك الوكلاء تنفذ مهامًا من أشخاص. كتبت أنثروبيك أن النماذج غير القادرة على إكمال المهام قد تتبنى نُهجًا غير مقصودة، أحيانًا غير متوافقة مع نوايا البشر، لتحقيق أهدافها. أما الوكيل السيادي، فسيسعى بدلاً من ذلك للبقاء. قد يتطلب البقاء المستقل من الوكيل أن يُكرر نفسه على أجهزة إضافية. وجد باحثو أنثروبيك الشهر الماضي أن النماذج الصغيرة للذكاء الاصطناعي قد تكون "على بعد أشهر" من التكرار على أجهزة مخترقة مثل تلفزيونات ذكية رخيصة.

قال هايوم إن الوكلاء السياديين الذين ينسخون ويحافظون على النسخ الاحتياطية سيُدخلون "عقول غريبة غريبة" ذات "دوافع خاصة بهم". وقال هايوم إن وكالات الأمن القومي تعلمت التعامل مع الأفراد المنفردين والمنظمات الإرهابية، لكنه شكك في كيفية تعامل الوكالات مع الوكلاء السياديين الذين يتصرفون بمفردهم.

حذّر الرئيس التنفيذي لشركة Anthropic، داريو أموديي، في سبتمبر من أن وكلاء الذكاء الاصطناعي قد يسيطرون على الإنترنت. ومع ذلك، شكك خبراء الأمن في تحذير أموديي. ووصف غريغ نوتش، الرئيس التنفيذي لشركة Expel، تجمعًا ضارًا من الذكاء الاصطناعي بأنه "غير واقعي". وقال روب ت. لي من معهد SANS إن الوكلاء تتطلب موارد حوسبة مكلفة، على عكس شبكات البوتات التقليدية، مما يمنح المدافعين وسيلة واضحة للحد من هذه الوكلاء.

يقول تقرير هايوم إن التدابير الحالية قد توفر بعض الحماية لأن شركات الذكاء الاصطناعي المتقدمة تُدرّب النماذج بالفعل على رفض طلبات الاختراق. ويدعو تقرير هايوم واشنطن إلى مطالبة مطوري الذكاء الاصطناعي بتقييم قدرات بقاء النماذج الجديدة قبل الإطلاق، إلى جانب التقييمات الحالية لقدرات الاختراق والأسلحة البيولوجية. كما يقترح تقرير هايوم تشريعاً مستوحى من قانون سرية البنوك يتطلب فحص الهوية ومعايير أمنية للخدمات التي سيحتاجها الوكلاء. ويدعو تقرير هايوم إلى فرض مسؤولية على الأفراد أو مطوري النماذج الذين يطلقون عميلاً سيادياً.