यूएस नियामक चेतावनी देते हैं कि सिम्पल एआई बैंकिंग एजेंट्स चैटजीपीटी से अधिक जोखिम पैदा करते हैं

एक कृत्रिम बुद्धिमत्ता प्रणाली जो जटिल समस्याओं को हल करने में सक्षम हो, वह एक बुनियादी प्रोग्राम की तुलना में एक बैंक के लिए कम खतरनाक हो सकती है जो सरल निर्देशों का पालन करता है। अंतर यह है कि क्या सॉफ्टवेयर वास्तव में पैसा चला सकता है।

यह अंतर केंद्र में स्थित है एक नए नियामक ढांचे का, जिसे करेंसी कंट्रोलर के कार्यालय (OCC) ने 4 नवंबर को प्रकाशित किया है। नियामक का तर्क है कि एक सरल लेन-देन प्रक्रिया एजेंट भी एक जटिल AI मॉडल से अधिक वित्तीय जोखिम पैदा कर सकता है, जो केवल आंतरिक रूपरेखा के लिए सीमित है।

मार्गदर्शन विशेष रूप से बैंकिंग एजेंटों की तुलना ChatGPT से नहीं करता है। हालाँकि, यह सिद्धांत इस बात की व्याख्या करने में मदद करता है कि AI भुगतान के बढ़ते बाजार के कारण ऐसे जोखिम पैदा हो रहे हैं जो सामान्य चैटबॉट बातचीत में नहीं होते।

दो प्रणालियों की कल्पना करें जो एक ही बैंक के अंदर काम कर रही हैं।

पहला उन्नत AI प्रौद्योगिकी का उपयोग वित्तीय रिपोर्ट्स का सारांश बनाने, ईमेल तैयार करने और कर्मचारियों के प्रश्नों के उत्तर देने के लिए करता है। यह कभी-कभी अनुचित जानकारी प्रदान कर सकता है, लेकिन इसके आउटपुट मानव समीक्षा के अधीन रहते हैं।

दूसरा एक बहुत सरल कार्य करता है: एक मंजूर भुगतान की पहचान करें और ट्रांसफ़र करें। हालाँकि इसे कम उन्नत प्रौद्योगिकी की आवश्यकता होती है, इसका सीधा पहुँच होता है एक बैंक के लेन-देन अवसंरचना तक।

यदि पहला सिस्टम गलती करता है, तो कर्मचारी को एक भ्रामक सारांश मिल सकता है। यदि दूसरा एक निर्देश को गलत तरीके से समझता है, तो यह पैसा गलत प्राप्तकर्ता को भेज सकता है।

OCC का ढांचा तकनीकी जटिलता के बजाय संभावित परिणामों, अनुमतियों और मानवीय निरीक्षण पर जोर देता है। यह विशेष रूप से प्रासंगिक है क्योंकि स्वायत्त भुगतान प्रयोगात्मक प्रदर्शनों से वास्तविक वित्तीय लेनदेन की ओर बढ़ रहे हैं।

पारंपरिक चैटबॉट मुख्य रूप से जानकारी पैदा करते हैं। एजेंटिक एआई प्रणालियाँ बाहरी सॉफ्टवेयर के साथ बातचीत कर सकती हैं, संवेदनशील खातों तक पहुँच सकती हैं और सीमित हस्तक्षेप के साथ कार्रवाइयाँ कर सकती हैं।

इस क्षमता से एक अतिरिक्त सुरक्षा समस्या उत्पन्न होती है। एक संक्रमित निर्देश, गलत व्याख्या या अनधिकृत कार्रवाई किसी के ध्यान में आने से पहले ग्राहक के बैलेंस को प्रभावित कर सकती है।

खतरा स्वायत्त निवेश तक फैलता है, जहाँ सॉफ्टवेयर केवल निवेश की सिफारिश करने के बजाय ट्रेड्स को निष्पादित कर सकता है।

हाल के OpenAI एजेंट घटनाएँ ने यह भी दर्शाया है कि स्वचालित प्रणालियाँ कैसे वैध कार्यों के दौरान सुरक्षा उपायों को कमजोर कर सकती हैं। इन घटनाओं में बैंकिंग लेनदेन शामिल नहीं थे, लेकिन ये संचालन अधिकारों वाले एजेंट्स के निरीक्षण की व्यापक चुनौती को उजागर करती हैं।

OCC उच्च-जोखिम वाले प्रणालियों की जांच के लिए कई विचारों की पहचान करती है, जिसमें स्वायत्तता पर प्रतिबंध, मजबूत स्वतंत्र नियंत्रण और अर्थपूर्ण मानवीय निगरानी शामिल हैं।

OCC का दृष्टिकोण उल्लेखनीय रूप से प्रौद्योगिकी-तटस्थ है। इसके बजाय एक अलग AI जोखिम श्रेणी की मांग करने के बजाय, इसका ढांचा AI-संबंधित जोखिम को मौजूदा बैंकिंग जोखिमों, जिनमें संचालन विफलताएँ, पालन और साइबर सुरक्षा शामिल हैं, के भीतर स्थान देता है।

यह अंतर महत्वपूर्ण है क्योंकि पहले के अमेरिकी मॉडल-जोखिम मार्गदर्शन ने जनरेटिव और एजेंटिक AI को अपने दायरे से स्पष्ट रूप से बाहर रखा था। नवीनतम ढांचा निरीक्षकों को इन अनुप्रयोगों का मूल्यांकन करने का अधिक लक्ष्यित तरीका प्रदान करता है बिना किसी नए कार्यान्वयनयोग्य आवश्यकताओं के सृजन किए।