মানুষ জানে যে এআই ভুল করে, কিন্তু পর্যবেক্ষণ সম্ভবত ভালো পদ্ধতি নয়।লেখক, উৎস: AIBase
সাম্প্রতিক একটি গবেষণা সংকলন, যা ওয়াশিংটন পোস্ট দ্বারা সংকলিত হয়েছে, তা AI-এর দ্বারা স্মৃতির ধ্বংসকে আলোকসারিত করেছে। ম্যাসাচুসেটস ইনস্টিটিউট অফ টেকনোলজির মিডিয়া ল্যাবের অধ্যাপক প্যাটি মেস তাঁর দলের সাথে ২০০ জন পরীক্ষার্থীকে ২৪টি দৈনন্দিন ছবি—বিবাহ, রাস্তার দৃশ্য, দৌড়—দেখিয়েছিলেন।
একটি বিরতির পর, কিছু মানুষ মূল ছবিটি আবার দেখল, অন্যরা দেখল যে ছবিটি AI দ্বারা পরিবর্তন করা হয়েছে: চেহারার অভিব্যক্তি পরিবর্তন করা হয়েছে, ছবিতে সৈন্যদের জোর করে ঢুকানো হয়েছে, বা জলবায়ু পরিবর্তনের দৃশ্যগুলি হঠাৎ করে যোগ করা হয়েছে। পরবর্তী স্মৃতি পরীক্ষায় মেস নিজেই অবাক হয়ে গেলেন: পরিবর্তিত ছবি দেখা মানুষদের ভুল স্মৃতি গড়ে ওঠার সম্ভাবনা অনেক বেড়ে গেল, আর আরও ভয়ঙ্কর বিষয়টি হলো, তারা এই虚假স্মৃতিগুলির প্রতি আরও বেশি দৃঢ়ভাবে বিশ্বাসী হয়ে গেল। "এটি খুবই বিপজ্জনক," তিনি এইভাবে সিদ্ধান্তে উপনীত হলেন।
এই ঘটনাগুলি একাকী নয়। রাজনৈতিক ঘটনা, অপরাধমূলক মামলা এবং এমনকি নতুন চলচ্চিত্রের প্রতি সচেতনতা পরীক্ষাগুলি ধারাবাহিকভাবে দেখিয়েছে যে AI-দ্বারা তৈরি ছবি এবং কথোপকথন মস্তিষ্কে কখনও ঘটেনি এমন বিস্তারিত স্থায়ীভাবে জড়িয়ে দিতে পারে, যার ফলে মানুষ কল্পিত দৃশ্যগুলির সম্পূর্ণভাবে "স্মরণ" করে—কেউ "মনে" করেন যে তিনি উইল স্মিথের অভিনীত "ম্যাট্রিক্স" পুনর্নির্মাণটি দেখেছেন, আবার কেউ "মনে" করেন যে তিনি কখনও ঘটেনি এমন একটি রাজনৈতিক দুর্নীতির সাক্ষী। একটি অপরাধমূলক ভিডিও দেখার পর, AI-চ্যাটবটের দ্বারা প্রশ্নকৃত পরীক্ষার্থীদের মধ্যে মিথ্যা স্মৃতির সংখ্যা নিয়ন্ত্রণ গোষ্ঠীর তিনগুণ।
ক্ষমতা বাইরে দেওয়া হয়েছে, স্মৃতি এবং মানসিক ক্ষমতা উভয়ই কমে গেছে
ভুল করার চেয়ে আরও অদৃশ্য হলো "মনে রাখতে অস্বীকার করা"। মেসের একটি অন্যান্য পরীক্ষায়, যা এখনও সম্মানিত পর্যালোচনাধীন, ৫৪ জন অংশগ্রহণকারী এসএটি শৈলীর রচনা লিখেছিল: একটি গ্রুপ শুধুমাত্র হাতে লিখেছিল, অন্যটি গুগল ব্যবহার করেছিল, আর একটি গ্রুপ ChatGPT ব্যবহার করেছিল, এবং মস্তিষ্কের বিভিন্ন অংশের সক্রিয়তা সমান্তরালভাবে স্কালপ ইলেক্ট্রোডের মাধ্যমে রেকর্ড করা হয়েছিল। ফলাফলগুলি স্পষ্টভাবে পার্থক্যপূর্ণ—স্বাধীনভাবে লিখেছেন এমনদের মস্তিষ্কের বিভিন্ন অঞ্চলের সংযোগগুলি সবচেয়ে শক্তিশালী এবং সবচেয়ে ব্যাপক, যখন ChatGPT-এর ব্যবহারকারীদের সংযোগগুলি সবচেয়ে দুর্বল; পরবর্তীতে, তাদেরকে তাদের নিজস্ব রচনা পুনর্বর্ণনা করতে বলা হলে, AI-এর উপর নির্ভরশীলদের প্রায়শই কী লিখেছিলেন তা মনে পড়তে পারেনি। স্মৃতির জন্য মনোযোগ, আত্ম-প্রচেষ্টা এবং তথ্যের পুনঃউদ্ধার—এই তিনটিরই সমন্বয়েই শক্তিশালীকরণ ঘটে, কিন্তু জেনারেটিভ AI-এর কারণেই এই মস্তিষ্ক-প্রচেষ্টা-পথটি বাদপড়েছে।
পেনসিলভেনিয়া বিশ্ববিদ্যালয়ের ওয়ার্টন স্কুলের নাফ এবং লন্ডন কিংস কলেজের শিয়াও এই প্রবণতাকে "দক্ষতা হ্রাস" হিসাবে নামকরণ করেছেন: মানুষ ধীরে ধীরে যে দক্ষতা মেশিন দ্বারা প্রতিস্থাপনযোগ্য, সেগুলির অনুশীলন বন্ধ করে দিচ্ছে, "চিন্তা একটি ঐচ্ছিক বিষয় হয়ে পড়ছে।" পেশাগত ক্ষেত্রেই এর প্রমাণ দেখা গিয়েছে— 2025 সালের ল্যানসেটের একটি সাবজার্নালের গবেষণায় 19 জন অভিজ্ঞ চিকিৎসকের 1500টি কোলোনোস্কপি পর্যবেক্ষণ করা হয়, যেখানে AI-এর নিয়মিত ব্যবহারের পরে তাদের স্বাধীনভাবে পূর্ব-ক্যানসার পরিবর্তন শনাক্ত করার ক্ষমতা 20% হ্রাস পায়। শিশুদের ক্ষেত্রে চিন্তা আরও মৌলিক: মৌলিক চিন্তাধারা এখনও গড়ে উঠতে পারেনি, তখনই তারা মস্তিষ্কের কাজগুলি বহির্ভূতকরণের দিকে এগিয়ে যাচ্ছে, এবং প্রথমই সমালোচনামূলক চিন্তার অনুশীলনের অভাব।
সুইডেনের মালমোতে অ্যাআই নৈতিকতা বার্ষিক সম্মেলনে, পণ্ডিতদের পুনরাবৃত্তি প্রশ্ন ছিল: যখন অ্যাআই স্মৃতির সাথে জড়িয়ে পড়ে, তখন পরিণাম কী? জর্জটাউন বিশ্ববিদ্যালয়ের শিম ৩৩১ জনকে নিয়ে একটি বাহন সংঘাতের অ্যানিমেশন পরীক্ষা করেন, যেখানে একটি গ্রুপ সঠিক অ্যাআই সারসংক্ষেপ পড়েছিল, অন্যটি ইচ্ছাকৃতভাবে ভুল লেবেলযুক্ত সারসংক্ষেপ পড়েছিল; সঠিকতার হার যথাক্রমে প্রায় ৮৪% এবং ৪৫%—এমনকি "এটি অ্যাআই-দ্বারা লেখা" বলে আগেই ঘোষণা করা হলেও, ভুল তথ্যের প্রভাব কার্যকর হয়েছিল। তিনি একটি নির্মম বিপর্যয়কে উন্মোচন করেন: আমরা মেশিনের ভুলগুলির জন্য "মানব-পর্যালোচনা"কে সহায়তা হিসেবে আশা করি, কিন্তু অ্যাআই আগেই মানুষের বিচারের জন্য ব্যবহৃত স্মৃতিগুলির পুনর্লিখন করেছে, এই প্রতিরোধের রেখা সম্ভবত মূলভিত্তিরই উপরেই ব্যর্থ। "সবাইজান, AI-এর ভুল হয়, কিন্তু পর্যবেক্ষণটি সম্ভবতই ভালো পদ্ধতি নয়।"যখন প্রতিষ্ঠানগুলি AI-কে পুলিশের CCTV-এর মধ্যেও,হাসপাতালের Medical Records-এও ।এইসতর্কবাণীটি ।সময়মতই।আসছে।