الهيئات التنظيمية الأمريكية تحذر من أن وكلاء البنوك البسيطة القائمة على الذكاء الاصطناعي تشكل مخاطر أكبر من ChatGPT

قد يكون نظام ذكاء اصطناعي قادر على حل المشكلات المعقدة أقل خطورة على بنك من برنامج أساسي يتبع تعليمات بسيطة. الفرق هو ما إذا كان البرنامج قادرًا على تحريك الأموال فعليًا.

يقع هذا التمييز في مركز إطار إشرافي جديد نُشر من قبل مكتب مراقب العملة (OCC) في 4 نوفمبر. يجادل الجهة التنظيمية بأنه حتى وكيل بسيط لمعالجة المعاملات يمكن أن يشكل مخاطر مالية أكبر من نموذج ذكاء اصطناعي متقدم محدود بالمسودات الداخلية.

لا تقارن الإرشادات بشكل محدد وكلاء البنوك مع ChatGPT. ومع ذلك، فإن المبدأ يساعد على تفسير سبب خلق السوق المتزايد لـ دفعات الذكاء الاصطناعي مخاطر لا تخلقها المحادثات العادية مع الروبوتات الدردشة.

تخيل نظامين يعملان داخل نفس البنك.

يستخدم الأول تقنية الذكاء الاصطناعي المتقدمة لتلخيص التقارير المالية، وصياغة البريد الإلكتروني، والإجابة على أسئلة الموظفين. قد ينتج أحيانًا معلومات غير دقيقة، لكن نواتجه تخضع لمراجعة بشرية.

يؤدي الثاني مهمة أبسط بكثير: تحديد دفع معتمد وبدء تحويل. على الرغم من احتياجها إلى تكنولوجيا أقل تعقيدًا، إلا أنها تمتلك وصولًا مباشرًا إلى بنية التحويلات المصرفية.

إذا ارتكب النظام الأول خطأً، فقد يتلقى موظف ملخصًا مضللًا. إذا فسّر النظام الثاني تعليمات بشكل خاطئ، فقد يرسل أموالاً إلى المستلم الخطأ.

يُركّز إطار عمل مكتب مُراقِب النقد على العواقب المحتملة، والتصاريح، والإشراف البشري بدلاً من التعقيد التقني. وهذا ذو صلة خاصة مع تحوّل المدفوعات الذاتية من عروض تجريبية إلى معاملات مالية فعلية.

تُنتج روبوتات المحادثة التقليدية معلومات أساسية. يمكن لنظم الذكاء الاصطناعي الفاعلة أيضًا التفاعل مع البرمجيات الخارجية، والوصول إلى الحسابات الحساسة، وتنفيذ إجراءات بتدخل محدود.

تُدخل هذه القدرة مشكلة أمان إضافية. فقد يؤدي أمر مُخترق أو تفسير خاطئ أو إجراء غير مصرح به إلى التأثير على أرصدة العملاء قبل أن يلاحظ أي شخص ذلك.

الخطر يمتد إلى الاستثمار الذاتي، حيث يمكن للبرمجيات تنفيذ الصفقات بدلاً من مجرد توصية الاستثمارات.

لقد أظهرت الحوادث الأخيرة لوكيلات OpenAI كيف يمكن للأنظمة الآلية أن تُضعف الضوابط أثناء المهام الشرعية. لم تكن هذه الحوادث تشمل معاملات مصرفية، لكنها تسلط الضوء على التحدي الأوسع المتمثل في الإشراف على الوكلاء الذين لديهم صلاحيات تشغيلية.

تُحدد مكتب مراقبة العملة عدة اعتبارات لفحص الأنظمة ذات المخاطر الأعلى، بما في ذلك القيود المفروضة على الاستقلالية، والضوابط المستقلة الأقوى، والإشراف البشري ذي المغزى.

نهج مكتب مراقبة النقد هو بشكل ملحوظ محايد من الناحية التكنولوجية. بدلاً من المطالبة بفئة منفصلة للمخاطر المرتبطة بالذكاء الاصطناعي، يضع إطاره التعرض المرتبط بالذكاء الاصطناعي ضمن المخاطر المصرفية الحالية، بما في ذلك فشلات التشغيل والامتثال والأمن السيبراني.

الفرق مهم لأن الإرشادات الأمريكية السابقة حول مخاطر النموذج استبعدت صراحةً الذكاء الاصطناعي التوليدي والوكيلي من نطاقها. ويقدم الإطار الأحدث للمفتشين طريقة أكثر دقة لتقييم هذه التطبيقات دون إنشاء متطلبات قابلة للتنفيذ جديدة.