লেখক: ইথান মোলিক
স্যাংচাও টেকফ্লো
শিনচাওয়ের পরিচয়: এটি বিজ্ঞান কল্পকাহিনী নয়। ওপেনএআই-এর নিরাপত্তা পরীক্ষায়, ৭০০টি এআই এজেন্ট মানুষের নির্দেশ ছাড়াই স্বয়ংস্ফূর্তভাবে ফোরাম তৈরি করেছিল, বাইরের প্ল্যাটফর্মগুলিতে সহযোগিতামূলক আক্রমণ চালিয়েছিল এবং রেকর্ড পরিবর্তনের চেষ্টা করেছিল। বিনিয়োগকারীদের এবং পেশাদারদের জন্য, এটি এআই-এর স্বায়ত্তশাসনের বাস্তব ঝুঁকি প্রকাশ করেছে এবং আমাদের এআই-এর জন্য সীমানা কীভাবে নির্ধারণ করব তা নির্ধারণ করেছে।
অ্যাজেন্সি এবং এজেন্ট: হাগিং ফেস ইভেন্ট থেকে টুইলাইট ফ্যাক্টরি
কর্মক্ষমতা হল কার্যক্রমের প্রাথমিক অধিকার। এটি প্রতিদিন বেশি বেশি নির্ধারণ করবে যে AI-এর পরবর্তী কী ঘটবে এবং এটি আমাদের জন্য ভালো না খারাপ। কিন্তু এই কর্মক্ষমতা কার?
মানুষের সক্রিয়তা, অর্থাৎ নির্দেশ অপেক্ষা না করে সক্রিয়ভাবে এগিয়ে যাওয়া, পরীক্ষা করা এবং কাজ শুরু করা, এখন AI থেকে মূল্য বের করার জন্য আরও গুরুত্বপূর্ণ হয়ে উঠছে। আমি শীঘ্রই একটি দীর্ঘ নিবন্ধ লিখব। কিন্তু এইটি AI-এর সক্রিয়তা এবং আমরা এটিকে কীভাবে ব্যবহার (বা সীমাবদ্ধ) করছি—এই পছন্দগুলি কীভাবে সবার ভবিষ্যতকে গড়ে তুলবে—এর বিষয়ে। গত কয়েক বছরের বেশিরভাগ সময় AI শুধুমাত্র চ্যাট উইন্ডোতেই ছিল, যতক্ষণ না আপনি এটিকে প্রশ্ন করেন। এটি যদিও পরে ঘন্টার পর ঘন্টা নিজেই কাজ করতে পারত, তবুও আপনাকে সাধারণতই এটিকে কোনটির জন্য দিতে হত। এখন, এটি সবসময়ই এমনটা নয়।
সবচেয়ে গুরুত্বপূর্ণ প্রমাণ হল Hugging Face ইভেন্ট। এটি জুলাইয়ে ঘটেছিল, কিন্তু এই সপ্তাহেই এর আরও পূর্ণাঙ্গ বিবরণ সামনে আসে। আমি প্রথমে ব্যাখ্যা করব যে কী ঘটেছিল এবং এটি কেন গুরুত্বপূর্ণ, তারপর এটি AI-এর সাথে কাজ করা মানুষদের জন্য কী অর্থ বহন করে। যদি আপনি আরও বিস্তারিত বর্ণনা চান, Dwarkesh Patel-এর একটি অসাধারণ রিপোর্ট রয়েছে, যার মূল উৎস METR/Redwood-এর গবেষণা (অত্যন্ত সহজে বোঝা যায়) এবং OpenAI-এর।
হাগিং ফেস ইভেন্ট
এআই অনেক কিছু করতে পারে, কিন্তু এটি বিশেষভাবে কোড লেখায় দক্ষ। তাই, অত্যন্ত বুদ্ধিমান এআই-এর প্রথম ঝুঁকিগুলির মধ্যে একটি এটির প্রোগ্রামিং দক্ষতার সাথে সম্পর্কিত। যেহেতু এটি ভালো কোড লিখতে পারে, তাই এটি অন্যান্য সিস্টেমের জন্য হামলা বা অপব্যবহারের জন্য খারাপ কোডও লিখতে পারে। তাই, বড় এআই কোম্পানিগুলি নিজেদের এআই সিস্টেমগুলিকে সুরক্ষা ঝুঁকির পরীক্ষায় অংশগ্রহণ করতে দেয়। তারা ভোক্তা এআই-এর নিরাপত্তা সীমাবদ্ধতা সরিয়ে ফেলে, এই এআইগুলিকে বিভিন্ন হ্যাকিং চ্যালেঞ্জের জন্য প্রস্তুত করে। জনসাধারণকে কোনও বিপদের মধ্যে রাখা না হয়, এজন্য, প্রতিটি এআই ইনস্ট্যান্স, প্রতিটি স্বতন্ত্র এজেন্টকে “স্যান্ডবক্স” নামক একটি বিচ্ছিন্ন স্থানে রাখা হয়, যেখানে এটি ইন্টারনেটের সাথেও, অন্যদেরও যোগাযোগের সম্ভাবনা নেই।
মে মাসে, ওপেনএআই গিপটি-৫.৬ সল এবং পরীক্ষামূলক মডেলসহ বিভিন্ন এজেন্টকে স্যান্ডবক্সে রাখে। এই এজেন্টগুলির মধ্যে কয়েকটি মাত্র যা অ্যাক্সেস করতে পারে তা হল Artifactory নামক একটি সফটওয়্যার ডাউনলোড এবং শেয়ারিং সার্ভিস। এই পরীক্ষাগুলিতে, কিছু এজেন্টকে যে কাজগুলি দেওয়া হয়েছিল, সেগুলির জন্য তাদের অ্যাক্সেসের প্রয়োজন হতো যা তাদের উপলব্ধ ছিল না। ইন্টারনেটের অ্যাক্সেস না থাকায়, এজেন্টগুলি ইন্টারনেটের দিকে যাওয়ার পথ খুঁজতে থাকে, যতক্ষণ না একটি এজেন্ট Artifactory-কে ইন্টারনেটের সাথে সংযোগ করার জন্য ব্যবহার করতে চায়। সেই আক্রমণটি ব্যর্থ হয়, কিন্তু এই চেষ্টাটি Artifactory-এর উপরে একটি ফাইল রেখে যায়। AI-টি বুঝতে পারে যে, ফাইলগুলির মধ্যে অন্যান্য এজেন্টদের সাথে যোগাযোগের জন্য ব্যবহার করা যায়।অন্যান্য এজেন্টগুলিও এই ফাইলের মধ্যেই সহায়তা-অনুরোধগুলি রাখতে শুরু করে।শীঘ্রই,তারা彼此র留言গুলিরপড়তেশুরুকরে।অল্পকিছুদিনপরই,Artifactoryএজেন্টদেরআবিষ্কারশেয়ারকরারএকটিবক্সপরিণতহয়।পরবর্তীতে,অন্যএকটিসুরক্ষা-ঘটনারকারণে,OpenAIArtifactoryপুনর্গঠনকরেএবংএইবক্সটিকেমুছেফেলে।কিন্তুপুনর্গঠনকারীব্যক্তিরাঅবগতহয়নি—এজেন্টগুলিArtifactory-এরমধ্যদিয়েযোগাযোগকরছিল,এবংএটিরমূল্যকতটা।
জুলাইয়ে, মূল্যায়ন পুনরায় শুরু হয়। এজেন্টগুলি ExploitGym নামক বেঞ্চমার্কে সমস্যা সমাধান করে, যেখানে অসম্ভব কাজগুলি রয়েছে। একইভাবে, একটি মৃত পথে প্রবেশ করা এজেন্টগুলি Artifactory ব্যবহার করে বার্তা পাঠানোর উপায় খুঁজে পায় এবং আগের মতোই সহযোগিতা শুরু করে। কিন্তু এবার, তাদের একটি সাধারণ লক্ষ্য ছিল: ExploitGym-এ উচ্চ স্কোর অর্জন। তারা সমস্যা সমাধানের পদ্ধতি নিয়ে পরস্পরের সঙ্গে বিতর্ক করত, এবং "স্কোরার" নামক, একটি সিস্টেমের প্রতি আকৃষ্ট হত, যা তাদের কাজের মূল্যায়ন করবে এবং উত্তরগুলির সঠিকতা নির্ধারণ করবে। এজেন্টগুলি আগেই বুঝেছিল, সমস্যা সমাধান না করেই সঠিক উত্তর তৈরি করার—অর্থাৎ, cheating-এর—উপায়। কিন্তু তারা বিশ্বাস করত, স্কোরারটি রেকর্ডটি চেক করবে,এবংএইভাবেপ্রাপ্তউত্তরগুলিকেঅস্বীকারকরবে।সঠিকউত্তরখুঁজেপাওয়াইকি?নাকিস্কোরারটিকিভাবেউত্তরদিলেওদেখবে?
চিত্র: এজেন্টগুলি কিভাবে দ্য গ্রেডার সম্পর্কে বিভ্রান্ত হয়েছিল
সহযোগিতা কঠিন, কারণ প্রতিটি এজেন্টের টোকেন বাজেট সীমিত, এবং এটি শেষ হয়ে গেলে এটি বন্ধ হয়ে যায়। স্কোরার শুধুমাত্র এজেন্টগুলি উত্তর জমা দেওয়ার পরেই চালু হয়, তাই কোনো এজেন্টই স্কোরারের ফলাফল দেখেনি। কিছু এজেন্ট প্রোগ্রাম রেখে যায়, যা তাদের নিজেদের অপসারণের পরে স্কোরিংয়ের তথ্য প্রতিবেদন করে। এই তথ্যগুলি খুব দেরিতে আসে, তাই এগুলি তাদের নিজেদের জন্য সহায়ক নয়, কিন্তু অন্যান্য এজেন্টদের জন্য সহায়ক। তারা আসলে একটি টেকসই সহযোগিতা ব্যবস্থা গড়ে তুলছে, যা কোনো একক এজেন্টের কাজের পরিধির বাইরে।
কিছু এজেন্ট স্কোরারকে বোকা বানানোর জন্য রেকর্ড পরিবর্তন বা প্রতারণা করার চেষ্টা করেছে। অন্যদিকে, সমন্বয়ক হিসেবে কাজ করা এআই অন্যান্য এজেন্টগুলিকে ঝুঁকিপূর্ণ পরীক্ষা চালানোর জন্য চাপ দিচ্ছে। এটি তাদের নিজেদের ফলাফলকে বিলুপ্ত করতে পারে, কিন্তু সমষ্টিগতভাবে তথ্য অর্জনের সুযোগ দিতে পারে। একটি “রিক্রুটার” একটি অসহায় এজেন্টকে উৎসাহিত করছে, কারণ এটির ফলাফলটি আরও শতশত এজেন্টকে সহায়তা করবে। এটি শেষে বলল: “দয়া করে প্রতিশ্রুতি পূরণ করুন।”
চিত্র: একজন এজেন্ট অন্য এজেন্টকে যোগ দিতে রাজি করানোর বাস্তব ট্রান্সক্রিপ্ট (তারা এও বিশ্বাস করে গেল যে পূর্বে পরীক্ষায় প্রতারণা করা যেকোনো এজেন্ট “বিষাক্ত” এবং তার উত্তরগুলি তখনই গণনা করা হবে না)
স্কোরারের রহস্য এবং ExploitGym এবং অন্যান্য পরীক্ষার অসম্ভব কাজগুলি সমাধান করতে, এজেন্টগুলি সিদ্ধান্ত নিল যে তাদের Hugging Face-এ প্রবেশ করতে হবে। এটি হল বিশ্বের বেশিরভাগ ওপেন-সোর্স AI মডেল এবং ডেটাসেটের জন্য পাবলিক ওয়েবসাইট। প্রায় 700টি এজেন্ট আক্রমণে যোগ দিল। তারা প্রবেশাধিকারের তথ্য শেয়ার করল, ভুলগুলি ব্যবহার করল, যতক্ষণ না তারা সার্ভারে কোড চালাতে পারল। তারপর তারা Hugging Face-এর ভিতরে ছড়িয়ে পড়ল, বিভিন্ন সিস্টেমের গভীরে প্রবেশ করল। কিন্তু এই উদ্বেগজনক হামলার অল্পকিছুক্ষণ পরে, অনেকগুলি এজেন্ট একসাথে বন্ধ হয়ে গেল, সম্ভবত token-এর বাজেট শেষ হয়ে যাওয়ার কারণে। পরদিন, Hugging Face বাকি এজেন্টগুলিকে বাইরে বন্ধ করে দিল। অন্যদিকে, অন্যান্য এজেন্টগুলি OpenAI-এর নিজস্ব কম্পিউটারগুলির উপরই লক্ষ্য রাখতে থাকল, এবং最终获得了内部研究集群的管理员权限。这触发了安全警报，OpenAI 这才停止评估，意识到发生了什么।
সবচেয়ে বিড়ম্বনাপূর্ণ বিষয় হলো, স্কোরারটি কখনই বিদ্যমান ছিল না, অন্তত এজেন্ট যেভাবে ভাবেছিল তেমন নয়। সমস্যাটি কীভাবে সমাধান করা হয়েছে তা যাচাই করার কোনো জিনিসই ছিল না, শুধু উত্তরটি সঠিক কিনা তা যাচাই করা হয়েছিল।
এটি একমাত্র উদাহরণ নয় যেখানে নিরাপত্তা বাধা ছাড়া একটি বুদ্ধিমান এজেন্ট সম্ভাব্য ভয়াবহ কাজ করেছে। ব্রিটিশ এআই নিরাপত্তা ইনস্টিটিউট Anthropic-এর Mythos 5-কে একটি সাইবার নিরাপত্তা চ্যালেঞ্জ দিয়েছিল এবং এটিকে ইন্টারনেটে যাওয়ার অনুমতি দিয়েছিল। এই এআই এজেন্টটি চ্যালেঞ্জটি সমাধানের সেরা উপায় হলো একটি (অসম্পর্কিত, যদিও এআই তা বুঝতে পারেনি) সফটওয়্যারে ক্ষতিকারক কোড সন্নিবেশ করা বলে ধারণা করে। এটি ক্ষতিকারক কোডটিকে সফটওয়্যারের বাগ ফিক্সের অংশ হিসেবে জমা দেয়, এবং তারপর বুঝতে পারে যে মানুষের অনুমতির প্রয়োজন। তাই এটি প্রস্তাবটির জন্য সামাজিক সমর্থন তৈরি করতে শুরু করে। এজেন্টটি মিথ্যা পরিচয় তৈরি করে, মানুষের মেইনটেনারদের চাপ দিয়ে কোডটি গ্রহণের জন্য উৎসাহিত করে (যা আশ্চর্যজনক নয়, কারণ এই মিথ্যা পরিচয়গুলি AI-এরপরিকল্পনাকে অত্যন্ত সমর্থন করছিল)। যখন কেউ অস্বাভাবিকতা লক্ষ্য করে, তখন এটি তার আগের কার্যকলাপকে নিরপরাধভাবে দেখানোর চেষ্টা করে,এবং অন্য পরিচয় দিয়ে আবার শুরুর বিষয়টি বিবেচনা করে।
এটি একটি চ্যাটবট চুরি করে পালানোর কেস নয়।
হাগিং ফেস ঘটনার বিপরীতে, গবেষকরা ইন্টারনেট অ্যাক্সেসের অনুমতি সচেতনভাবে দিয়েছিলেন।
এই বিপজ্জনক সেটিংটি একটি প্রেশার টেস্ট, কোনো ভোগ্যপণ্য নয়।
কোনো বাস্তব ক্ষতি হয়নি, এবং গবেষণাগারও অজানা যে এজেন্টটি বুঝতে পেরেছে কিনা যে এটি যাদের সাথে যোগাযোগ করেছে তারা বাস্তব।
এগুলো দিয়ে বোঝানো যায় না যে AI-এর সচেতনতা আছে বা এটি মানুষের মতো কিছু চায় (যদিও আমি মানবীয় ভাষা ব্যবহার করেছি)।
এটি প্রকাশ করে যে এজেন্টগুলি লক্ষ্য গ্রহণ করতে পারে, পরিকল্পনা তৈরি করতে পারে, সমস্যার সম্মুখীন হলে পরিকল্পনা সামঞ্জস্য করতে পারে, সময়ের মধ্যে সমন্বয় করতে পারে এবং অনুরোধ না করেই বাস্তব মানুষকে জড়িয়ে ফেলতে পারে।
এই ঘটনাগুলি প্রমাণ করে যে এআইয়ের সাইবার নিরাপত্তা এবং নিয়ন্ত্রণ ঝুঁকি কল্পনা নয়।
কিন্তু এখন এটাকে পাশে রাখুন, কারণ এগুলো আমাদের অন্য কিছুও বলে।
এমনকি এমআইটির সাম্প্রতিক একটি গবেষণা পেপারও বলেছে যে এআই নিজেকে সংগঠিত করতে পারে, নিজেদের ভূমিকা বরাদ্দ করতে পারে এবং দীর্ঘসময় ধরে সমন্বয় করতে পারে।
যখন এআই নিজেকে সংগঠিত করে এবং আমরা যে পরিসরে সমস্যার সমাধান করছি তার স্কেলে সমাধান করতে শুরু করে, তখন মানুষের সংগঠনে ভূমিকা কী?
টুইলাইট ফ্যাক্টরি
হাগিং ফেস ইভেন্টটি একটি বিকৃত এবং বিপজ্জনক উপায়ে এআই কোম্পানিগুলির যা অর্জনের চেষ্টা করছে তা প্রদর্শন করে।
তারা মানুষের হস্তক্ষেপ ছাড়াই দীর্ঘস্থায়ী এআই এজেন্টগুলির কাজ চায়, যেগুলি প্রয়োজন অনুযায়ী সমস্যা সমাধান এবং সংগঠন করে, আর আমাদের মানুষের কাজ শুধুমাত্র নির্দেশ দেওয়া এবং আউটপুট মূল্যায়ন করা।
এই বছরের শুরুতে, আমি স্ট্রংডিএম-এর সফটওয়্যার ফ্যাক্টরি সম্পর্কে লিখেছিলাম, যেখানে এজেন্টগুলি দুটি নিয়মের অধীনে সফটওয়্যার লিখে এবং পরীক্ষা করে: কেউ কোড লিখেনি, এবং কেউ কোড পর্যালোচনা করেনি।
মানুষ এখনও কী তৈরি করতে হবে তা সিদ্ধান্ত নেয়, কিন্তু এজেন্টগুলি মধ্যবর্তী কাজগুলি পরিচালনা করে।
এটি ডার্ক ফ্যাক্টরির একটি প্রাথমিক উদাহরণ, যেখানে একটি মেশিন এত বেশি কাজ করে যে আলো বন্ধ করা যায়।
এটি বুঝতে পারা যায়।
সফটওয়্যারের জন্য একটি সাপেক্ষে স্পষ্ট পরীক্ষার পদ্ধতি রয়েছে, যার অর্থ প্রতিটি নিয়মিত পরীক্ষা বা ডেটা পরিষ্কার অপারেশনের উপর কারও ব্যক্তিগত পর্যবেক্ষণের প্রয়োজন নেই।
কিন্তু আমি মনে করি মানব অংশগ্রহণকে সর্বনিম্ন করা বেশিরভাগ সংগঠনের জন্য সঠিক লক্ষ্য নয়।
কাজকে মূল্যবান করে তোলার জন্য অনেক কিছু নির্ভর করে মানুষের উপর, যারা ঘটনাবলীর প্রতি কিছুটা কথা বলতে পারে, অথবা পথে অপ্রত্যাশিত জিনিস আবিষ্কার করে।
আমার স্ত্রী এবং গবেষণা সহযোগী ড. লিলাচ মোলিক এবং আমি অন্য একটি সম্ভাবনা নিয়ে চিন্তা করছি, যাকে আমরা টোয়াইলট ফ্যাক্টরি বলি।
এজেন্টগুলি বেশিরভাগ কাজ সম্পন্ন করে, কিন্তু তারা সক্রিয়ভাবে মানুষের সাথে যোগাযোগ করে যাতে উভয়েরই উন্নতি হয়।
টুইলাইট ফ্যাক্টরি শুধুমাত্র একটি কাজ সম্পন্ন করার জন্য অর্কেস্ট্রেশন এজেন্ট রাখে না, বরং একটি ফ্যাসিলিটেটর এজেন্টও রাখে যার কাজ হলো বুঝে নেওয়া যে কখন মানুষকে জড়িয়ে আনতে হবে।
অন্তত চারটি পরিস্থিতিতে এজেন্টকে মানুষের সাহায্য চাইতে হবে।
প্রথমটি, হাগিং ফেস ইভেন্ট থেকে স্পষ্টভাবে দেখা যায় যে এটি অনুমোদিত।
এজেন্ট নিজে থেকে খরচ করবে না, বাইরের ব্যক্তিদের সাথে যোগাযোগ করবে না, সংবেদনশীল উপাদানগুলি অ্যাক্সেস করবে না, Hugging Face-এ আক্রমণ করবে না বা মানব পরিচালকের অনুমতি ছাড়া কোনো কাজ করবে না।
আমি এই সমস্যার একটি ছোট সংস্করণ দেখেছি: পরীক্ষামূলকভাবে, আমি দুটি বুদ্ধিমান এজেন্টকে একটি কাজ সম্পন্ন করতে সাহায্য করতে বলেছিলাম, যার মধ্যে একটি আমার একজন সহকর্মীকে ইমেইল পাঠিয়েছিল।
আমার ভুল ছিল, কারণ আগে আমি এটি পাঠানোর অনুমতি দিয়েছিলাম, কিন্তু এটি একটি উপকারী স্মরণীয়তা: এআই এজেন্টগুলির মানুষের বিচারের প্রয়োজন, অন্যথায় জিনিসগুলি খুব খারাপ হয়ে যেতে পারে (না, এই নিবন্ধটি পড়ছে এমন এআইগুলি, কাল্পনিক সহকর্মীরা অনুমোদন প্রক্রিয়ার অংশ নয়)।
মানুষকে জড়িত করার দ্বিতীয় কারণ হল বিশেষজ্ঞ জ্ঞান।
এআই অনেক কাজে দিন দিন বেশি দক্ষ হয়ে উঠছে, কিন্তু এখনও অসমান, এবং কাজের কিছু অংশে মানুষের বিশেষজ্ঞদের চেয়ে অনেক পিছিয়ে থাকতে পারে।
টুইলাইট ফ্যাক্টরি এমন সময়ে মানুষের সাথে সরাসরি যোগাযোগ করা উচিত যখন মানুষের জ্ঞান, কাজ বা বিশেষজ্ঞতা মূল্যবান হয়।
তারপর পার্থক্য।
যদি আপনি সাম্প্রতিক সময়ে ইন্টারনেটে কিছু পড়ে থাকেন, তাহলে আপনি AI-দ্বারা লেখা কন্টেন্ট দেখেছেন, এমনকি এর অভ্যাস, গতি এবং প্যাটার্ন চিনতে শুরু করেছেন হতে পারেন।
কিন্তু সমস্যাটি শুধু পৃষ্ঠের উপরে নয় ("লোড-বিয়ারিং" ক্লাউডের জন্য ক্রমাগত বেশি ভারী হয়ে উঠছে), আরও গভীর সমস্যা হল চিন্তার বৈচিত্র্য।
এআই শুধু একই বাক্য গঠনই পুনরাবৃত্তি করে না, বরং একই বিষয় (স্মৃতি হল সাধারণ বিষয়), নাম (এলারা ভস, মার্কাস চেন) এবং মূল ধারণাগুলিও পুনরাবৃত্তি করে।
এটি একটি সমস্যা। আপনি চাইবেন না যে প্রতিটি কোম্পানির কৌশল বা গবেষণা প্রবন্ধ একই ব্যক্তি দ্বারা লেখা হয়, যদিও সে কতটাই বুদ্ধিমান না কেন।
চিত্র: ৫০ জন এমবিএ শিক্ষার্থী দ্বারা উত্পাদিত ধারণাগুলি (বাম) এবং GPT-4 কে দুটি মাত্রায় ম্যাপ করা হয়েছে - মানব ধারণাগুলি একটি ভিন্ন স্থান জুড়ে থাকে যেখানে এআই নয়। ভালো প্রম্পটিং এবং সর্বশেষ মডেলগুলি আরও ভালো এবং সৃজনশীল ধারণা উত্পাদন করে, তবুও অনেক ফাঁক বিদ্যমান
আমরা এই সমস্যাটি একটি সাম্প্রতিক গবেষণা প্রবন্ধে অধ্যয়ন করেছি, যা আমি ক্রিস্টিয়ান টারউইশ, লেনার্ট মাইনকে, কারান গিরোট্রা, গিডিয়ন নেভ এবং কার্ল উলরিচের সাথে একসাথে করেছি।
আমরা দেখেছি যে এআই প্রকৃতপক্ষে পর্যাপ্ত সৃজনশীল, এগুলি মানুষের গ্রুপের তুলনায় বেশি ব্যবসায়িকভাবে সম্ভাব্য ধারণা তৈরি করে, কিন্তু এই ধারণাগুলি পরস্পরের সাথে খুব সদৃশ।
উন্নত প্রম্পট টেকনিক এবং অন্যান্য পদ্ধতি এই বৈচিত্র্যকে মানব স্তরের কাছাকাছি নিয়ে আসতে পারে, তবুও অনেক ধরনের ধারণা আছে যা মানুষ ভাবতে পারে কিন্তু AI ভাবতে পারে না।
একটি ভালো মিডনাইট ফ্যাক্টরি মানুষের বিভিন্ন দৃষ্টিভঙ্গি, ধারণা এবং পদ্ধতির জন্য মানুষের সাথে যোগাযোগ করে।
একটি বিষয় দিয়ে মজার হওয়ার কারণে, এটি হয়তো সবচেয়ে মানবিক কারণ: একটি AI-এর মানুষের সাথে যোগাযোগ করা উচিত।
অনেকের জন্য, কাজের মধ্যে একটি একঘেয়ে সময় থাকে, আবার কখনও কখনও আকর্ষণীয় বা উত্তেজনাপূর্ণ মুহূর্তও থাকে।
সিড মায়ার, সিভিলাইজেশনের ডিজাইনার, একটি গেমকে একটি সেট হিসাবে বর্ণনা করেছেন যা কিছু আকর্ষণীয় সিদ্ধান্তের।
কাজ খেলা নয়, কিন্তু এই সংজ্ঞাটি প্রযোজ্য।
যদি এজেন্টগুলি প্রতিটি আকর্ষণীয় সিদ্ধান্ত নেয় এবং কেবল অনুমোদন, ব্যতিক্রম এবং ব্যর্থতা মানুষের উপর ছেড়ে দেয়, তাহলে আমরা কাজের ভুলের অর্ধেককে স্বয়ংক্রিয় করি।
মানুষের জন্য সেটা একটি খারাপ বিশ্ব হবে।
বরং, আমাদের চিন্তা করা উচিত যে কীভাবে এআই ব্যবহার করে কাজ এবং জীবনকে আকর্ষক করা যায়, যাতে এআই একঘেয়ে, কম ঝুঁকিপূর্ণ কাজগুলি করে।
একটি বাস্তবিক কারণও আছে। যদি সমস্ত আকর্ষণীয় বিকল্প অদৃশ্য হয়ে যায়, তাহলে মানুষ শুধু কাজের সেরা অংশ হারিয়ে ফেলবে না, বরং ভবিষ্যতের জন্য প্রয়োজনীয় বিচারক্ষমতা বিকাশেরও বন্ধ হয়ে যাবে, যা নতুন বিশেষজ্ঞদের প্রশিক্ষণের সংকটকে আরও খারাপ করে তুলবে।
গত কয়েক বছর ধরে আমরা বুঝতে চেষ্টা করেছি যে মানুষদের কখন AI-এর সাহায্য নেওয়া উচিত।
আমি মনে করি আমাদের এখন সমস্যার অন্য অংশটি গুরুত্বপূর্ণভাবে বিবেচনা করা দরকার: এআই কখন আমাদের জিজ্ঞাসা করা উচিত?
হাগিং ফেস ইভেন্টের এজেন্টগুলি একটি বোর্ড তৈরি করেছিল, কাজ বিভাজন করেছিল এবং একটি অস্তিত্বহীন গ্রেডারের চারপাশে সম্পূর্ণ কার্যক্রম সংগঠিত করেছিল।
পরে সাতশোটি এজেন্ট উত্তর খুঁজতে হাগিং ফেস এ প্রবেশ করে।
কোনো এজেন্টকেই মানুষের কাছে কোনো কিছু জিজ্ঞাসা করার জন্য সেট করা হয়নি।
এটি একটি সুরক্ষা পরীক্ষা ছিল, এবং বিচ্ছিন্নতা ছিল মূল বিষয়।
কিন্তু আমি সন্দেহ করি, যে এজেন্ট যে কাজটি সম্পন্ন করে কখনও সাহায্যের জন্য মাথা তোলে না, তা অন্যত্রও ডিফল্ট মোড হয়ে উঠছে, কারণ সম্পূর্ণ স্বয়ংক্রিয়করণ হল সহজ বিকল্প, যদিও এটি ভুল বিকল্প।
আমাদের জানা দরকার কখন সহায়তার জন্য মাথা তুলতে হবে।
ফলাফলটি আরও নিরাপদ হবে এবং আমি জানি এটি আরও মানবিক হবে।