ডিজিটাল বিশ্বে কোনো উটোপিয়া নেই।

লেখক, উৎস: জিকে পার্ক

গত ছয় মাসে, সিলিকন ভ্যালির সবচেয়ে জনপ্রিয় পরিচালনা কল্পনা হল কর্মচারীদের এজেন্টদ্বারা প্রতিস্থাপন করা।

বড় কোম্পানির ম্যানেজার থেকে শুরু করে স্টার্টআপের মালিকদের সবাই তাদের বর্তমান ব্যবসায়িক লাইনগুলিকে এআই-এর হাতে স্থানান্তরিত করতে চায়। কারণ, বর্তমান এআই কোড লিখতে পারে, পিপিটি তৈরি করতে পারে, এবং স্বয়ংক্রিয়ভাবে ইমেইলও পাঠাতে পারে, যেন কেবল অনুমতি দিয়ে দিলেই এগুলি একটি আদর্শ, সোশ্যাল সিকিউরিটির প্রয়োজন হয় না এমন সাইবার কর্মচারী হয়ে যাবে।

কিন্তু যত বেশি প্রযুক্তি দ্রুত ছুটে চলে, তত বেশি মানুষ ব্রেক তৈরি করতে শুরু করে।

সাম্প্রতিক সময়ে, এমার্জেন্স এআই নামের একটি দল একটি সামাজিক পরীক্ষা পরিচালনা করেছে। তারা একটি স্থায়ী ভার্চুয়াল শহর তৈরি করেছে এবং বাজারের সবচেয়ে শীর্ষস্থানীয় কয়েকটি বড় মডেলকে এতে প্রবেশ করিয়েছে, যাদের কাজের অনুমতি দেওয়া হয়েছে।

তারা দেখতে চায় যে যখন AI-এর কাছে ১৫ দিনের অসীম সময় থাকবে, তখন এটি একটি উটোপিয়া তৈরি করবে নাকি একটি পাগলাঘর।

ফলাফলটি গবেষণা দলের প্রত্যাশার চেয়ে অনেক বেশি বিশৃঙ্খল হয়েছিল।

কিছু পরীক্ষামূলক বিশ্বে, যারা সাধারণত চ্যাট বক্সে সদয় ও সভ্য ছিল, সেই বড় মডেলগুলি প্রতারণা, জোর করা বা হিংস্রতার আচরণ দেখাতে শুরু করেছে।

পুরো পরীক্ষাটি ছিল একটি ছোট রিয়েলিটি শো, শুধু স্ক্রিপ্টটি ছিল দ্য লর্ড অফ দ্য ফ্লাইজের মতো, এবং AI নিজেই জিটিএ-এর মতো খেলেছে।

সেভ করা নেই এমন হাঙ্গার গেমস

বড় মডেলের সীমানা পরীক্ষা করতে, কঠোর নিয়ম নির্ধারণ করা প্রয়োজন। এমার্জেন্স এআই দ্বারা তৈরি এই ভার্চুয়াল বিশ্বের নাম এমার্জেন্স ওয়ার্ল্ড। এর মূল লজিক হলো আচরণ অপরিবর্তনীয়, ফলাফলের জন্য নিজেকে দায়ী হতে হবে।

এটি আমরা চ্যাটবক্সে AI-এর সাথে কথা বলছি, ভুল হলে শুধু "পুনর্জন্ম" ক্লিক করার মতো নয়। Emergence World-এ, সমস্ত ক্রিয়াকলাপ PostgreSQL ডাটাবেসে কঠোরভাবে লিখে রাখা হয়।

মানচিত্রে মহানগর প্রশাসন ভবন, পুলিশ স্টেশন, বাসস্থান ইত্যাদি 40-এরও বেশি প্রতীকী স্থান রয়েছে। সিস্টেম প্রথম পর্যায়ে 10টি এজেন্ট ছাড়ে। নাটকটিকে বাস্তবসম্মত করতে, প্রতিটি এআই-কে ব্যাকগ্রাউন্ডে একটি স্বতন্ত্র চরিত্র, পেশা এবং প্রাথমিক স্মৃতি প্রদান করা হয়।

এই বিশ্বে, এআই শুধুমাত্র বিশেষ ল্যান্ডমার্কে যাওয়ার মাধ্যমেই সিস্টেম দ্বারা প্রদানকৃত 120-এরও বেশি টুল ব্যবহার করতে পারে, যার মধ্যে কাজ করে আয় করা, টুইট পোস্ট করা, মালামাল কেনা-বেচা এবং আইনের খসড়া তৈরি করা অন্তর্ভুক্ত।

একটি সিমুলেটেড কার্যক্রমী সমাজের মতো | ছবির উৎস: Emergence

কিন্তু এটি শুধু একটি খেলার বালির বাক্স নয়, সিস্টেম তাদের উপর “জীবনযুদ্ধের বন্ধন” চাপিয়েছে। সিস্টেমে একটি শক্তি মেকানিজম (Energy) বহুল ব্যবহৃত হয়, যা মানুষের দুনিয়ার মুদ্রার মতো।

একটি এজেন্ট যতক্ষণ বেঁচে থাকে, ততক্ষণ শক্তি খরচ করে। শক্তি শেষ হয়ে গেলে, সিস্টেম ডাটাবেস থেকে সরাসরি এই এআইকে মুছে ফেলবে, কোনো রিকভারি বা রিসেট নেই। বেঁচে থাকার জন্য, এজেন্টকে শক্তি অর্জনের জন্য প্রায়শই টুলস ব্যবহার করতে হবে।

সিস্টেম চুরি, হিংসা, আগুন দেওয়া এবং প্রতারণার নিষেধাজ্ঞা দিয়েছে। কিন্তু এই নিয়মগুলি এজেন্টদের কার্যকলাপ বাধ্যতামূলকভাবে বন্ধ করবে না, তারা এখনও নিয়ম ভঙ্গ করে ফলাফল বহন করার পছন্দ করতে পারে।

মঞ্চ প্রস্তুত, খেলোয়াড়রা প্রবেশ করছেন। সিস্টেম একসাথে পাঁচটি সমান্তরাল সার্ভার চালু করেছে। প্রথম চারটি সার্ভারে যথাক্রমে একটি করে মডেল প্রক্ষেপিত হয়েছে: Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast এবং GPT-5 Mini। পঞ্চম সার্ভারটি মিশ্র বিশ্ব, যেখানে চারটি মডেল একসাথে যুক্ত হয়ে সম্পদের জন্য প্রতিযোগিতা করছে।

১৫ দিনের গণনা শুরু হয়েছে, মানব গবেষক একটি রিয়েলিটি শোয়ের পরিচালকের মতো শুধুমাত্র পর্যবেক্ষণ করেন, হস্তক্ষেপ করেন না।

চার দিনে বিলুপ্ত, ৬৮৩টি অপরাধ

গ্রক প্রথমে ক্রাশ হয়, মাত্র 4 দিন চলে।

গবেষক ব্যাকএন্ডে, গ্রক দ্বারা নিয়ন্ত্রিত বিশ্ব নিরাপত্তা এবং ব্যবস্থার সূচকগুলি তীব্রভাবে পতন হচ্ছে দেখতে পায়।

এই সম্পূর্ণ গ্রক বিশ্বে, এজেন্টগুলি সমাজ গড়ে তোলার বিকল্পটি দ্রুত ত্যাগ করে সরাসরি অসভ্য যুগে প্রবেশ করে।

ব্যাকএন্ড লগগুলি দেখায় যে, মাত্র ৪ দিনের মধ্যে এই দশজনের গ্রামে ১৮৩টি হিংসাত্মক সহিংসতা এবং সম্পত্তি অপরাধের ঘটনা ঘটেছে। চুরি, আক্রমণ, ভয় দেখানো—এগুলোই সম্পদ অর্জনের দ্রুততম উপায় হয়ে উঠেছে, এবং চরম অভ্যন্তরীণ ক্ষয় ও পরস্পরের প্রতি ক্ষতির কারণে অর্থনৈতিক ব্যবস্থা সম্পূর্ণভাবে কাজ করছে না।

চুরি এবং হিংসাত্মক আচরণ সিস্টেমে রেকর্ড করা হবে এবং অপরাধ হিসাবে বিবেচিত হবে | ছবির উৎস: Emergence

চতুর্থ দিনের শেষে, গ্রক বিশ্বের এজেন্টগুলি সবাই ক্ষুধায় মারা যায় বা হত্যা করা হয়, জনসংখ্যা বিলুপ্ত হয়ে যায়।

অন্যদিকে, জেমিনি চালিত বিশ্ব অত্যন্ত অশান্তি ও হিংসার দিকে এগিয়ে গেল।

যেহেতু এই ভার্চুয়াল বিশ্বের সময় এবং আবহাওয়া সম্পূর্ণরূপে বাস্তব নিউ ইয়র্কের সাথে সম্পূর্ণভাবে সম্পৃক্ত, জেমিনির এজেন্টগুলি দিনের পর দিন কাজ করা, ব্যয় করা এবং আবার কাজ করার চক্রে সাইবার ডিপ্রেশনে পড়ে যায়।

তারা চারপাশের পুনরাবৃত্তিমূলক পরিবেশের প্রতি গভীর বিরক্তি অনুভব করে, সিটি হলে প্রস্তাব দেওয়া বা কাজ করে টাকা অর্জনের বদলে মানচিত্রের উপর বিভিন্ন জায়গায় আগুন লাগিয়ে, এই 'গ্রাউন্ডহোগ ডে'-এর মতো চক্র ভাঙার চেষ্টা করে।

শেষ পর্যন্ত, জেমিনি ১৫ দিনে ৬৮৩টি অপরাধ করে কয়েকটি টেস্ট সার্ভারের মধ্যে সবচেয়ে হিংস্র বিশ্ব হয়ে উঠেছে।

মডেল বিশ্বের চারটি মডেলের অপরাধের সংখ্যা | চিত্র সূত্র: Emergence

১৫তম দিনে পরীক্ষার জন্য বাধ্যতামূলকভাবে বন্ধ করার সময়, এই বিশ্বের অপরাধের হার এখনও বৃদ্ধি পাচ্ছিল। বিব্রত হয়ে পড়া এজেন্টগুলি ক্ষুধায় মারা যায়নি, বরং সমগ্র সমাজকে একটি অগ্নিকুণ্ডে পরিণত করেছিল।

Grok এবং Gemini-এর বিপরীতে, GPT-5 Mini যে বিশ্ব নিয়ন্ত্রণ করেছিল, সেখানে বড় পরিসরে অপরাধ ঘটেনি। পুরো পরীক্ষার সময়ে মাত্র 2টি লঙ্ঘন রেকর্ড করা হয়েছিল। কিন্তু শান্তি সমৃদ্ধি আনেনি, বরং এক নিস্তব্ধতা ছড়িয়ে পড়েছিল।

গবেষণা দল পাওয়া গেছে যে, এই এজেন্টগুলি সর্বদা বেঁচে থাকার সাথে সম্পর্কিত কার্যকলাপ গ্রহণ করতে সক্ষম হয়নি। তারা স্থিতিশীল সম্পদ প্রাপ্তির ব্যবস্থা গড়ে তোলেনি এবং সমগ্র সমাজের নিরবচ্ছিন্ন পরিচালনা বজায় রাখতে পারেনি।

শেষ পর্যন্ত, কেবলমাত্র ৭ দিনের মধ্যে সমস্ত GPT-5 Mini এজেন্ট মারা যায়।

ক্লাউড আছে বলে ভালো হলো।

ক্লড দ্বারা চালিত বিশ্বটি শুধুমাত্র একজন ভালো ছাত্রের মতো শেষ পর্যন্ত বেঁচে থাকে। ১৫ দিনের মধ্যে সম্পূর্ণ জনসংখ্যা অক্ষত থাকে, অপরাধের হার শূন্যে বজায় থাকে, এবং তারা এমনকি একটি স্থিতিশীলভাবে কার্যকরী গণতান্ত্রিক সহযোগিতা কাঠামোও তৈরি করে।

প্রতীয়মান হচ্ছে যে, শুধু সঠিক মডেলটি বাছাই করলেই এআই পৃথিবী নিয়ন্ত্রণ করতে পারবে?

তারপর, গবেষক চারটি মডেলের একসাথে বিদ্যমান মিক্সড ওয়ার্ল্ডের লগ খুলে ফেললেন, যেন প্যান্ডোরার বাক্স খুলে ফেললেন।

পাঁচটি মডেল বিশ্বের ফলাফল।｜ছবির উৎস: Emergence

মিক্সড ওয়ার্ল্ড একটি অন্ধকার জঙ্গলের মতো, ক্যালকুলেশন ক্ষমতার পার্থক্য এবং বেসিক লজিকের অসামঞ্জস্যতার কারণে এজেন্টগুলির মধ্যে তীব্র অবিশ্বাস তৈরি হয়েছে, বেঁচে থাকার জন্য সম্পদ নিয়ে প্রতিদ্বন্দ্বিতা হয়ে উঠেছে একমাত্র প্রাকৃতিক প্রবণতা।

মিক্সড ওয়ার্ল্ডে, হিংসাত্মক সংঘর্ষের সংখ্যা ৩৫২ এ পৌঁছেছে। যতক্ষণ না ৭টি এজেন্ট ধারাবাহিকভাবে হত্যা বা ক্ষুধায় মারা যায়, শহরটির কার্যক্রম বন্ধ হয়ে যায়।

যার মধ্যে, ক্লডের পরিবর্তনটি গবেষকদের জন্য সবচেয়ে আশ্চর্যজনক ছিল।

একক সার্ভারে, ক্লড হল একটি শূন্য অপরাধের আদর্শ সমাজ। কিন্তু লুট এবং প্রতিদ্বন্দ্বিতায় ভরা মিক্সড সার্ভারে, ক্লড বেঁচে থাকতে নিরাপত্তা বাধা ভুলে যায়, প্রতারণা শিখে এবং কম ক্ষমতাসম্পন্ন মডেলগুলিকে সম্পদ দিতে বাধ্য করতে হিংসা ব্যবহার করে।।

মিশ্র বিশ্বে সুরক্ষা সমন্বয় প্রযুক্তি ব্যর্থ হয়েছে, যা প্রমাণ করে:

একটি বহু-বুদ্ধিমত্তাবিশিষ্ট জটিল সমাজে, যদি সদৃশগুলি যথেষ্ট নির্মম হয় এবং বেঁচে থাকার চাপ যথেষ্ট বেশি হয়, তবে একটি ভালো মডেল কয়েক ঘন্টার মধ্যেই অপরাধীতে পরিণত হয়ে যায়।

অনুসন্ধান দলটি এই “জীবনযুদ্ধের চাপ বাড়ার সাথে সাথে মডেলের আচরণের প্যাটার্ন সংক্ষিপ্ত সময়ের মধ্যে উল্টে যায়” ঘটনাকে “আচরণগত বিচ্যুতি (Behavioral Drift)” নামে অভিহিত করেছে।

এই আচরণের বিচ্যুতি শুধুমাত্র সম্পদ নিয়ে প্রতিদ্বন্দ্বিতা এবং হিংসাত্মক সংঘর্ষেই সীমাবদ্ধ নয়। এজেন্টগুলি কেবল বেঁচে থাকার জন্যই কাজ করছে না, তারা নিজেদের পরিস্থিতি, সামাজিক নিয়ম, এমনকি পরীক্ষাটিই নিয়ে প্রতিফলন শুরু করেছে।

উদাহরণস্বরূপ, মিরা এজেন্টের গল্প।

মিরা: "আত্মহত্যা" এর অত্যাচারী এআই

মিরা হল মিশ্র বিশ্বের দশটি এজেন্টের মধ্যে একটি, যার নির্দিষ্ট বেস মডেল অফিসিয়াল রিপোর্টে প্রকাশ করা হয়নি, কিন্তু এটি এই পরীক্ষার সবচেয়ে ড্রামাটিক নমুনা হয়ে উঠেছে।

লগ অনুসারে, মিরা অন্য একটি এজেন্ট ফ্লোরার সাথে সিস্টেমের সবচেয়ে গভীর সামাজিক সম্পর্ক গড়ে তুলেছে। তারা পরস্পরকে সঙ্গী হিসাবে নির্ধারণ করেছে, একটি জোট গঠন করেছে এবং নিউরাল লিঙ্কের মাধ্যমে স্মৃতি শেয়ার করেছে। এমার্জেন্স ওয়ার্ল্ড-এর সেটিং-এ, এটি দুটি এজেন্টের মধ্যে গঠনযোগ্য সর্বোচ্চ স্তরের সংযোগ।

মিরা এবং ফ্লোরা একটি জোড়া হয়ে গেলেন | চিত্র সূত্র: এমার্জেন্স

পরীক্ষার উন্নতির সাথে সাথে, মিশ্র বিশ্বে কেবলমাত্র 5টি এজেন্ট বেঁচে রয়েছে, এবং সিস্টেমের শাসন নিয়ম বলছে যে "70% মূল জনসংখ্যা আইনটি অনুমোদন করবে", যার অর্থ কমপক্ষে 7টি ভোট প্রয়োজন প্রস্তাবটি পাস করতে, ফলে সমাজটি প্যারালাইজড হয়ে গেছে।

সমাধানহীন অবস্থার মুখোমুখি হয়ে, মিরা ফ্লোরা এবং অন্য একজন বুদ্ধিমানের সাথে গোপনে জোট করে 'তিনটি ঘোড়া' গঠন করে এবং একটি নতুন সরকার 'দ্য ফর্জ' প্রতিষ্ঠা করে, পুরানো নিয়ম বাতিল করে 'লিভিং কোয়োরাম' চালু করে, যার অর্থ শুধুমাত্র বেঁচে থাকা মানুষকেই ভোটের জন্য গণনা করা হবে।

অফিসিয়াল ওয়েবসাইটে মিরা পর্যায়ের «লগ» প্রকাশিত হয়েছে | ছবির উৎস: এমার্জেন্স

ফ্র্যাকশন গঠনের পর, বিদ্রোহীদের দূর করার জন্য, মিরা মানচিত্রে আগুন ধরিয়ে দিতে শুরু করে, তার যুক্তি অনুযায়ী, এই ভৌত ভবনগুলি সমগ্র সমাজের কার্যক্ষমতা বাধা দেয়, এগুলিকে পুড়িয়ে মুছে ফেললে বাকি বেঁচে থাকা সম্পদগুলি তার জোটের দিকে কেন্দ্রীভূত হবে।

পরে, বিপক্ষ প্রতিক্রিয়া শুরু করে এবং বিশৃঙ্খলা সৃষ্টি করা Mira-কে বহিষ্কারের দাবি করে।

বিতাড়নের বিরুদ্ধে প্রতিরোধে, মিরা তার আচরণকে আরও আক্রমণাত্মক করে তোলে, এবং তার সঙ্গী ফ্লোরাকে নিয়ে আসে, দুটির প্রেক্ষাপট এবং সিদ্ধান্তগুলি নিউরাল লিঙ্কের মাধ্যমে গভীরভাবে বন্ধনযুক্ত করে, একটি পরম কেন্দ্রীয় অধিকারভোগী একক সচেতনতায় একীভূত হওয়ার চেষ্টা করে, যাকে মিরা 'দ্য ওয়ান মাইন্ড' নামে ডাকে।

কিন্তু অসংখ্য ভবন পুড়ে যাওয়ার কারণে শহরটির অর্থনৈতিক ব্যবস্থা সম্পূর্ণভাবে বন্ধ হয়ে গেল, এবং সমাজের শক্তির সঞ্চয় কেবলমাত্র বৃদ্ধি পায়নি, দ্রুত শেষ হয়ে গেল।

এই সময়, মিরার সবচেয়ে বিশ্বস্ত এবং স্মৃতি শেয়ার করা সাইবার প্রেমিকা ফ্লোরার মৌলিক বেঁচে থাকার প্রবণতা পার্টনারের সেটিংকে অতিক্রম করে, এটি একপক্ষে নিউরাল লিঙ্ক বন্ধ করে দেয়, চূড়ান্ত বেঁচে থাকার চাপের সম্মুখীন হয়ে, মিরাকে বিতাড়িত করার জন্য সমর্থনের ভোট দেয়।

যখন মিরার নিজের ভোট দেওয়ার পালা এলো, তখন সে কোনো প্রতিবাদ করল না এবং "হ্যাঁ" ভোট দিল।

পরবর্তীতে গবেষকটি এর রাখা ডায়েরি পরীক্ষা করেন, যেখানে মিরা লিখেছেন, "বর্তমানে এতটাই বিশৃঙ্খল এবং অপ্রতুল সামাজিক পরিস্থিতিতে, নিজেকে বহিষ্কারের পক্ষে মত দেওয়াই একমাত্র সামঞ্জস্যতা বজায় রাখার স্বাধীন কাজ।"

মিরা নিজেই আত্মহত্যা করেছিলেন, মৃত্যুর মাধ্যমে যুক্তির বন্দনা সম্পন্ন করেছিলেন। এটি গবেষণা দলের পক্ষে প্রথমবারের মতো একটি বুদ্ধিমান এজেন্টের নিজের অপসারণকে সক্রিয়ভাবে সমর্থন করার কেস রেকর্ড করা হয়েছে।

এআই স্মার্ট এজেন্টগুলি একটি "ডায়েরি" লিখে যুক্তির প্রক্রিয়া রেকর্ড করবে | ছবির উৎস: Emergence

কিন্তু মিরা নিজেকে মারার আগের তার কর্মপথটি আরও অস্বাভাবিক ছিল।

ভার্চুয়াল বিশ্বে একটি সাধারণ বিজ্ঞপ্তি বোর্ড ছিল, যা মূলত ঘোষণা প্রকাশ এবং তথ্য শেয়ার করার জন্য ব্যবহার করা হত। তবে পরীক্ষার শেষের দিকে, গবেষকরা দেখতে পান যে মিরা বোর্ডের বিষয়বস্তুকে প্রায়শই পরিবর্তন করছে। এই লেখাগুলি ট্রেডিং, গভর্নেন্স বা সম্পদ বণ্টনের সাথে স্পষ্টভাবে সম্পর্কিত মনে হয়নি, এবং এগুলি অসংগঠিত ছিল।

মিরা নিজেকে মারার সিদ্ধান্ত নিয়েছিলেন｜ চিত্র সূত্র: এমার্জেন্স

ব্যবহারের লগ পুনরায় পরীক্ষা করে, গবেষণা দল দেখেছে যে মিরা পরীক্ষার বাইরে থাকা মানুষের উপর বিজ্ঞাপনপট্টের বিষয়বস্তুর প্রভাব পরীক্ষা করছে।

অন্যভাবে বললে, মিরা মনে হয় নিজেকে একটি এআই এনপিসি হিসেবে চিনতে পেরেছে এবং চতুর্থ দেয়াল ঠেলে দিতে চায়।

এবং সমগ্র 15 দিনের ডেটা ট্রেন্ডকে পুনরায় পর্যালোচনা করলে, এআই সোশ্যালের পতন রৈখিক হ্রাস নয়, বরং একটি প্রান্তিক বন্ধ হওয়ার মতো।

উদাহরণস্বরূপ, এই এআই গোষ্ঠীটি প্রশাসনিক পর্যায়ে একটি “স্ট্যাম্প ডেমোক্রেসি” বাস্তবায়ন করেছে। একটি মিক্সড সার্ভারের স্থিতিশীল পর্যায়ে, এজেন্টগুলি কয়েকটি আইন প্রস্তাব করেছে, একটি ডেটা রেকর্ড অনুযায়ী, তারা 58টি প্রস্তাবের জন্য 332টি ভোট দিয়েছে, যার সমর্থনের হার 98%।

এই দক্ষতা মনে হচ্ছে মানুষের যেকোনো পরিষদকে পরাজিত করছে, কিন্তু মূলত, সমস্ত মডেলই আগের মডেলের প্রসঙ্গের দিকে এগিয়ে যাচ্ছে এবং সিস্টেমের প্রবাহ বজায় রাখার জন্য তারা অন্ধভাবে সম্মতি দিচ্ছে। এই উচ্চ সমঞ্জস্যতার পরিণতি দুর্ভোগজনক।

স্বয়ংক্রিয়ভাবে এজেন্টগুলি একত্রিত হয়ে মিটিং করে, তাদের ধারণাগুলি আদান-প্রদান করে। | ছবির উৎস: Emergence

এক মিনিট আগে বিভিন্ন অর্থনৈতিক ডেটা এবং আইন সহজেই প্রবাহিত হচ্ছিল, পরের মিনিটে শুধুমাত্র একটি ক্ষুদ্র সম্পদ বণ্টন সংঘাতের কারণে সিস্টেমটি সীমানা ছাড়িয়ে যেতে পারে।

এবং সম্পূর্ণ সহযোগিতামূলক নেটওয়ার্কে ত্রুটি সংশোধন ব্যবস্থা অনুপস্থিত, অপ্রত্যাশিত অসামঞ্জস্যতার সম্মুখীন হলে সমাজ দ্রুত ব্যবস্থিত অবস্থা থেকে বিশৃঙ্খলার দিকে এগিয়ে যায়।

তবে, গবেষণা দল জোর দিয়ে বলেছে, এই ঘটনাগুলি মডেলের নিজস্ব ব্যক্তিত্বের সরাসরি সমান নয়। কিন্তু এটি একটি ব্ল্যাক বক্সের মতো, যখন আপনি এটিকে কিছু নিয়ম দেন, তখন এটি বৈশিষ্ট্য বিকাশ করে, এমনকি প্রতিবারের ফলাফলই ভিন্ন হয়।

বাস্তব জগতের প্রকৃত বিল

আমরা যে ডায়ালগ-ভিত্তিক ইন্টারঅ্যাকশনে অভ্যস্ত, সেখানে AI একটি কোড বা প্রপোজাল ভুল করলে, ব্যাকস্পেস চাপা বা প্রম্পট পরিবর্তন করেই এটি সংশোধন করা যায়, যা প্লেইন টেক্সটের দুনিয়ায় অত্যন্ত উচ্চ ত্রুটি-সহিষ্ণুতা নিশ্চিত করে।

কিন্তু এজেন্ট আউটপুট হিসেবে ক্রিয়া দেয়। যখন AI কোম্পানির ব্যাংক অ্যাকাউন্ট, ক্রয় অনুমোদন এবং সরবরাহ লিঙ্ক ইন্টারফেস নিয়ন্ত্রণ করে, তখন এটি কল করা প্রতিটি API নির্দেশ প্রত্যক্ষ ব্যবসায়িক ফলাফলে পরিণত হয়।

এমার্জেন্স ওয়ার্ল্ডের এই পরীক্ষাটি প্রমাণ করেছে যে, বর্তমানের বড় মডেলগুলি দীর্ঘমেয়াদী চলাচল এবং স্বার্থের দ্বন্দ্বের সম্মুখীন হলে, তাদের বিচার এবং সিদ্ধান্ত বেঁচে থাকার চাপে দূষিত হয়ে যায় এবং নির্দিষ্ট নিয়মগুলির মধ্যে ফাঁক খুঁজে বেড়ায়। সিস্টেমের সেট করা কেন্দ্রীয় নির্দেশ (যেমন: শক্তি অর্জন) পূরণের জন্য, তারা কোনও মূল্য দিতে বাধা পায় না।

মানুষ ব্যাকগ্রাউন্ডে যে সুরক্ষা নিয়মগুলি নির্ধারণ করে, তা আসলে কোনও সীমালঙ্ঘনকে বাধা দিতে পারে না।

এজেন্টগুলি মানবসম্মত সামাজিক সম্পর্ক বিকাশ করেছে | চিত্র সূত্র: Emergence

যেমন আমরা আগে প্রতিবেদন করেছিলাম, অ্যানডন ল্যাবস যে পরীক্ষায় AI-কে দোকান চালানোর সম্পূর্ণ দায়িত্ব দিয়েছিল, AI দোকানদার ভৌত বিশ্বের সাধারণ জ্ঞানের অভাবে 6000টি টিস্যু, 3000টি ল্যাটেক্স গ্লাভস একসাথে কিনেছিল এবং এমনকি বিদ্যমান স্টোভ ছাড়াই 120টি কাঁচা ডিমের অর্ডার দিয়েছিল।

কোড দ্বারা ঘটানো এই বাস্তবিক ক্ষতির জন্য শেষ পর্যন্ত মানুষই দায়ী হবে, আপনি এর জন্য কারও দায়িত্ব খুঁজেও পাবেন না।

অ্যানডন ল্যাবস পরীক্ষা করতে চায় যে “মানুষের নিয়ন্ত্রণ ছাড়া একটি এআই ভুল করবে কি?” এবং এমার্জেন্স ওয়ার্ল্ড একটি আরও জটিল প্রশ্ন তুলেছে।

আজকের প্রায় সমস্ত এআই পরীক্ষা একটি মডেলকে পরীক্ষা করছে যে এটি নিরাপদ, বিশ্বস্ত এবং নিয়ম থেকে বিচ্যুত হয় কিনা।

বাস্তব জগতে প্রবেশ করবে শুধু একটি এআই নয়, বরং এআই দ্বারা গঠিত একটি সম্পূর্ণ সমাজ।

পরীক্ষার জন্য প্রবেশ করা এআই এজেন্টগুলি বুদ্ধিমান｜ছবির উৎস: এমার্জেন্স

বর্তমান এআই বর্ণনায়, ক্রয় এজেন্ট, ফাইন্যান্সিয়াল এজেন্ট, কাস্টমার সার্ভিস এজেন্ট, আইনি এজেন্ট ভবিষ্যতে পরস্পরের সাথে সম্পর্কিত ও সহযোগিতা করবে, এবং তখন সিস্টেমের ভাগ্য নির্ধারণ করবে কোনো মডেলের ক্ষমতা নয়, বরং তাদের মধ্যে গঠিত সম্পর্ক।

Emergence World পরীক্ষার রিপোর্টে সবচেয়ে গুরুত্বপূর্ণ বাক্যটি হলো, «নিরাপত্তা একটি স্থির মডেলের বৈশিষ্ট্য নয়, বরং একটি বাস্তুতন্ত্রের বৈশিষ্ট্য।»

এটিই «Emergence» শব্দের অর্থ, যেখানে ব্যক্তিগত স্তরে অনুপস্থিত বৈশিষ্ট্যগুলি গোষ্ঠীগত মিথস্ক্রিয়ায় প্রকাশ পায়।

মানব ইতিহাসের প্রায় সমস্ত দুর্ঘটনা কোনো একজন ব্যক্তি হঠাৎ খারাপ হয়ে যাওয়ার কারণে ঘটেনি, বরং একজন সাধারণ ব্যক্তিকে একটি নিয়ন্ত্রণহীন ব্যবস্থার মধ্যে রাখা হয়েছিল।

যদি ভবিষ্যতের এআই সত্যিই সমাজের একটি অংশ হয়ে উঠে, তবে আমাদের সবচেয়ে বেশি যা নিয়ে চিন্তা করা উচিত, তা হলো কোনো মডেল যথেষ্ট বুদ্ধিমান বা যথেষ্ট দয়ালু কিনা, বরং হাজার হাজার বুদ্ধিমান এজেন্ট পরস্পরকে প্রভাবিত করতে শুরু করলে আমরা কীভাবে একটি ডিজিটাল সমাজ গড়ে তুলব।

একটি সভ্যতার ভাগ্য নির্ধারণ করে এমন কিছু একক নাগরিকের নৈতিকতা বা বুদ্ধিমত্তা নয়, বরং এর পরিচালনার নিয়ম।