ایسے یو ایس ریگولیٹرز نے چیٹ جی پی ٹی سے زیادہ خطرناک ہونے کی تنبیہ کی ہے کہ سادہ AI بینکنگ ایجنسٹس

ایک صنعتی ذہانت نظام جو پیچیدہ مسائل حل کرنے میں قادر ہو، ایک بنک کے لیے بنیادی پروگرام سے کم خطرناک ہو سکتا ہے جو سادہ ہدایات پر عمل کرتا ہے۔ فرق یہ ہے کہ کیا سافٹ ویئر اصل میں پیسہ منتقل کر سکتا ہے۔

یہ فرق ایک نیا نگرانی فریم ورک کے مرکز میں ہے جو کرینسی کے کنٹرولر کے دفتر نے 4 نومبر کو جاری کیا۔ ریگولیٹر کا دعویٰ ہے کہ ایک سادہ ٹرانزیکشن پروسیسنگ ایجینٹ ایک پیچیدہ AI ماڈل سے زیادہ مالی خطرات پیدا کر سکتا ہے جو صرف اندر کے منصوبہ بندی تک محدود ہو۔

ہدایات خاص طور پر بینکنگ ایجنسٹس کا موازنہ چیٹ جی پی ٹی سے نہیں کرتیں۔ تاہم، اس اصول سے یہ وضاحت ہوتی ہے کہ AI ادائیگیاں کے بڑھتے ہوئے مارکیٹ کیوں ایسے خطرات پیدا کرتے ہیں جو عام چیٹ بات چیت میں نہیں ہوتے۔

دو نظاموں کو ایک ہی بینک کے اندر کام کرتے ہوئے تصور کریں۔

پہلا تجارتی رپورٹس کو خلاصہ کرنے، ای میلز تیار کرنے اور ملازمین کے سوالات کے جوابات دینے کے لیے جدید AI ٹیکنالوجی کا استعمال کرتا ہے۔ یہ کبھی کبھی غلط معلومات پیدا کر سکتا ہے، لیکن اس کے نتائج انسانی جائزہ کے زیرِ اثر رہتے ہیں۔

دوسرا ایک بہت سادہ کام کرتا ہے: ایک منظور شدہ ادائیگی کی شناخت کرنا اور ٹرانسفر شروع کرنا۔ ہرچند کم ترقی یافتہ ٹیکنالوجی کی ضرورت ہوتی ہے، لیکن اس کا براہ راست بینک کے لین دین کے انفراسٹرکچر تک رسائی ہوتی ہے۔

اگر پہلا نظام غلطی کرے، تو ملازم کو ایک误导یہ خلاصہ مل سکتا ہے۔ اگر دوسرا نظام ہدایت کو غلط سمجھے، تو یہ رقم غلط وصول کنندہ کو بھیج سکتا ہے۔

OCC کے فریم ورک میں تکنیکی پیچیدگی کے بجائے ممکنہ نتائج، اجازتیں اور انسانی نگرانی پر زور دیا گیا ہے۔ یہ اس لیے خاص طور پر متعلقہ ہے جبکہ آٹونومس ادائیگیاں تجرباتی نمائشوں سے حقیقی مالی لین دین کی طرف بڑھ رہی ہیں۔

سنتی شات بوٹس عام طور پر معلومات پیدا کرتے ہیں۔ ایجنٹک AI سسٹم باہری سافٹ ویئر کے ساتھ تعامل کر سکتے ہیں، حساس اکاؤنٹس تک رسائی حاصل کر سکتے ہیں اور محدود مداخلت کے ساتھ ایکشنز انجام دے سکتے ہیں۔

اس صلاحیت ایک اضافی سیکورٹی مسئلہ پیدا کرتی ہے۔ ایک متاثرہ حکم، غلط تشریح یا غیر مجاز کارروائی کسی کو نوٹ ہونے سے پہلے صارفین کے بیلنس کو متاثر کر سکتی ہے۔

خطر خودکار سرمایہ کاری تک بھی پھیلتا ہے، جہاں سافٹ ویئر صرف سرمایہ کاری کی تجویز کرنے کے بجائے ٹریڈز کو انجام دے سکتا ہے۔

حالیہ OpenAI ایجینٹ واقعات نے یہ بھی ظاہر کیا ہے کہ خودکار نظام کس طرح قانونی فرائض کے دوران تحفظات کو نقصان پہنچا سکتے ہیں۔ ان واقعات میں بینکنگ لین دین شامل نہیں تھی، لیکن ان سے آپریشنل اجازتوں والے ایجینٹس کی نگرانی کے بڑے چیلنج کا اظہار ہوتا ہے۔

ای او سی کئی تجاویز کی شناخت کرتی ہے جو اعلیٰ خطرہ والے سسٹمز کے جائزہ کے لیے درکار ہیں، جن میں خودمختاری پر پابندیاں، مضبوط مستقل کنٹرولز اور معنی خیز انسانی نگرانی شامل ہیں۔

OCC کا طریقہ کار صرف ٹیکنالوجی کے لحاظ سے نیوٹرل ہے۔ اس کے بجائے کہ ایک الگ AI خطرہ کی قسم مانگا جائے، اس کا فریم ورک AI سے متعلقہ خطرات کو موجودہ بینکنگ خطرات، جن میں آپریشنل خرابیاں، پابندی اور سائبر سیکورٹی شامل ہیں، کے اندر رکھتا ہے۔

یہ فرق اہم ہے کیونکہ پہلے امریکی ماڈل-ریسک ہدایات نے اپنے دائرہ کار سے جنریٹو اور ایجنٹ AI کو صریحاً مستثنیٰ کر دیا تھا۔ تازہ ترین فریم ورک امتحانی افسران کو ان اطلاقات کا جائزہ لینے کا زیادہ مخصوص طریقہ فراہم کرتا ہے بغیر نئے قابل نفاذ تقاضوں کے قائم کئے بغیر۔