ইউএস নিয়ন্ত্রকগুলি সতর্ক করেছেন যে সিম্পল এআই ব্যাংকিং এজেন্টগুলি চ্যাটজিপিটির চেয়ে বেশি ঝুঁকি তৈরি করে

জটিল সমস্যা সমাধানে সক্ষম একটি কৃত্রিম বুদ্ধিমত্তা সিস্টেম একটি সাধারণ প্রোগ্রামের চেয়ে একটি ব্যাংকের জন্য কম বিপজ্জনক হতে পারে যা সরল নির্দেশাবলী অনুসরণ করে। পার্থক্যটি হল সফটওয়্যারটি আসলে টাকা স্থানান্তর করতে পারে কিনা।

এই পার্থক্যটি কারেন্সি কম্পট্রোলারের কার্যালয় (OCC) দ্বারা 4 নভেম্বর প্রকাশিত একটি নতুন পর্যবেক্ষণমূলক কাঠামো-এর কেন্দ্রে অবস্থিত। নিয়ন্ত্রকটি যুক্তি দেখায় যে, একটি সাধারণ লেনদেন প্রক্রিয়াকরণ এজেন্ট একটি অভ্যন্তরীণ খসড়ার জন্য সীমাবদ্ধ জটিল AI মডেলের চেয়ে বেশি আর্থিক ঝুঁকি তৈরি করতে পারে।

নির্দেশিকাটি ব্যাংকিং এজেন্টদের সাথে ChatGPT-এর সরাসরি তুলনা করে না। তবে, এই নীতিটি ব্যাখ্যা করে যে কেন AI পেমেন্ট-এর বাড়তি বাজার সাধারণ চ্যাটবট কথোপকথনের সাথে তুলনা করলে ঝুঁকি সৃষ্টি করে।

একই ব্যাংকের ভিতরে দুটি সিস্টেম কাজ করছে বলে কল্পনা করুন।

প্রথমটি উন্নত এআই প্রযুক্তি ব্যবহার করে আর্থিক রিপোর্ট সারাংশ করে, ইমেইল তৈরি করে এবং কর্মচারীদের প্রশ্নের উত্তর দেয়। এটি কখনও কখনও অসঠিক তথ্য উৎপাদন করতে পারে, কিন্তু এর আউটপুটগুলি মানুষের পর্যালোচনার অধীনে থাকে।

দ্বিতীয়টি একটি অনুমোদিত পেমেন্ট শনাক্ত করে এবং একটি ট্রান্সফার শুরু করে। কম উন্নত প্রযুক্তির প্রয়োজন হলেও, এটি একটি ব্যাংকের লেনদেন অবকাঠামোতে সরাসরি প্রবেশাধিকার রাখে।

যদি প্রথম সিস্টেম ভুল করে, তাহলে একজন কর্মচারী ভুল সারাংশ পেতে পারেন। যদি দ্বিতীয়টি একটি নির্দেশনা ভুলভাবে ব্যাখ্যা করে, তাহলে এটি অর্থ ভুল প্রাপকের কাছে পাঠাতে পারে।

ওসিসির কাঠামোটি প্রযুক্তিগত জটিলতার পরিবর্তে সম্ভাব্য পরিণতি, অনুমতি এবং মানব পর্যবেক্ষণের উপর জোর দেয়। এটি বিশেষভাবে প্রাসঙ্গিক যখন স্বয়ংক্রিয় পেমেন্ট পরীক্ষামূলক প্রদর্শনগুলি থেকে বাস্তব আর্থিক লেনদেনের দিকে এগিয়ে যায়।

প্রাচীন চ্যাটবটগুলি মূলত তথ্য উৎপাদন করে। এজেন্টিক এআই সিস্টেমগুলি বাহ্যিক সফটওয়্যারের সাথে মিথস্ক্রিয়া করতে পারে, সংবেদনশীল অ্যাকাউন্টগুলির প্রবেশাধিকার পায় এবং সীমিত হস্তক্ষেপের সাথে কার্যক্রম সম্পাদন করে।

এই ক্ষমতা একটি অতিরিক্ত নিরাপত্তা সমস্যা তৈরি করে। একটি ক্ষতিগ্রস্ত নির্দেশ, ভুল ব্যাখ্যা বা অননুমোদিত কার্যক্রম কাস্টমারের ব্যালেন্সকে কারও মনে পড়ার আগেই প্রভাবিত করতে পারে।

ঝুঁকিটি স্বয়ংক্রিয় বিনিয়োগ-এর দিকে বিস্তৃত, যেখানে সফটওয়্যার শুধুমাত্র বিনিয়োগের পরামর্শ দেয় না, বরং ট্রেড সম্পাদন করতে পারে।

সাম্প্রতিক OpenAI এজেন্ট ঘটনাগুলি এও দেখিয়েছে যে স্বয়ংক্রিয় সিস্টেমগুলি বৈধ অ্যাসাইনমেন্টের সময় সুরক্ষা ব্যবস্থাগুলিকে কীভাবে দুর্বল করতে পারে। এই ঘটনাগুলিতে ব্যাংকিং লেনদেন জড়িত ছিল না, কিন্তু এগুলি অপারেশনাল অনুমতি সহ এজেন্টগুলির পর্যবেক্ষণের ব্যাপক চ্যালেঞ্জটি উজাড় করে।

ওসিসি স্বায়ত্তশাসনের সীমাবদ্ধতা, শক্তিশালী স্বাধীন নিয়ন্ত্রণ এবং অর্থপূর্ণ মানব পর্যবেক্ষণ সহ উচ্চ-ঝুঁকিপূর্ণ সিস্টেম পরীক্ষার জন্য কয়েকটি বিবেচনা চিহ্নিত করে।

ওসিসির পদ্ধতি উল্লেখযোগ্যভাবে প্রযুক্তি-নিরপেক্ষ। এটি একটি আলাদা এআই ঝুঁকি শ্রেণীর দাবি করে না, বরং এর কাঠামোটি এআই-সংশ্লিষ্ট প্রকাশকে বিদ্যমান ব্যাংকিং ঝুঁকির মধ্যে রাখে, যার মধ্যে অপারেশনাল ব্যর্থতা, পালন এবং সাইবার নিরাপত্তা অন্তর্ভুক্ত।

এই পার্থক্যটি গুরুত্বপূর্ণ, কারণ আগের মার্কিন মডেল-ঝুঁকি নির্দেশিকা জেনারেটিভ এবং এজেন্টিক এআইকে তার পরিধি থেকে স্পষ্টভাবে বাদ দিয়েছিল। সর্বশেষ কাঠামোটি পরীক্ষকদের জন্য এই অ্যাপ্লিকেশনগুলি মূল্যায়নের জন্য একটি আরও লক্ষ্যনির্দিষ্ট পদ্ধতি প্রদান করে, বিনা নতুন বাধ্যতামূলক প্রয়োগ ছাড়াই।