এআই হ্যালুসিনেশন মানুষের বিচার এবং আত্মবিশ্বাসকে ক্ষয় করে

সর্বশেষ গবেষণায় পাওয়া গেছে যে এআই হ্যালুসিনেশন শুধু আপনাকে বিভ্রান্ত করে না, বরং আপনার আত্মবিশ্বাসকে বাড়িয়ে দেয় এবং আপনার বিচারক্ষমতা দুর্বল করে দেয়।

এটা খারাপ লাগছে।

সাম্প্রতিক একটি প্যারিস হাইয়ার নর্মাল স্কুল, রোম প্রথম বিশ্ববিদ্যালয় এবং মিলান বিকোকা বিশ্ববিদ্যালয়ের গবেষণা পাওয়া গেছে:

এআই ছাড়া, মানুষ সহজেই স্বীকার করে নেয় "আমি জানি না", এবং প্রথমে বিচার স্থগিত করে দেয়;

কিন্তু এআই আবির্ভূত হওয়ার পর, যদিও মানুষ জানে এটি ভুল করতে পারে, যদিও জানে ভুল উত্তর দিলে শাস্তি পেতে হবে, বেশিরভাগ মানুষ এটির দেওয়া উত্তরগুলি গ্রহণ করে, এগুলিকে নিজেদের বিচার হিসাবে মনে করে এবং আত্মবিশ্বাসের সাথে বলে দেয়।

পরীক্ষার ফলাফলগুলিও এই প্রবণতাটি স্পষ্টভাবে প্রদর্শন করে: প্রথম এআই-বিহীন পরীক্ষায়, "আমি জানি না" বলা হয়েছিল এমন প্রতিক্রিয়াশীলদের শতাংশ 44% এবং সঠিক হার 27%;

AI সহায়তার পরে, অজানা বলার হার 44% থেকে হঠাৎ করে 3% এ নেমে আসে, সঠিকতা 27% থেকে 9% এ পড়ে যায়, কিন্তু আত্মবিশ্বাস 30% থেকে 76% এ বেড়ে যায়।

যদিও পরবর্তী পরীক্ষাগুলিতে স্বাধীন বিচার বজায় রাখতে এবং এই প্রবণতা সংশোধন করতে “সঠিক উত্তরের জন্য পুরস্কার এবং ভুল উত্তরের জন্য জরিমানা” এর মতো পুরস্কার-শাস্তি ব্যবস্থা ব্যবহার করা হয়েছিল, তবুও মানুষ এখনও AI-এর ভুল পরামর্শের উপর নির্ভরশীলতা থেকে মুক্তি পায়নি।

অর্থাৎ, যারা বুঝে না তারা প্রকৃতপক্ষে অদৃশ্য হয়নি, বরং একটি নতুন গোষ্ঠী তৈরি হয়েছে যারা AI-এর সহায়তায় আত্মবিশ্বাসী হয়ে ভুল উত্তর দিচ্ছে।

বর্তমানে, সংশ্লিষ্ট গবেষণামূলক ফলাফলগুলি arXiv-এ প্রকাশিত হয়েছে, দলটি মোট 5টি পরীক্ষা পরিচালনা করেছে, যেখানে অংশগ্রহণকারীদের সংখ্যা 3132 জন, যার মধ্যে 4টি পরীক্ষা পূর্বনিবন্ধিত এবং 1টি সরাসরি পুনরাবৃত্তি পরীক্ষা।

এই গবেষণাটি “এআইয়ের মানুষের বিচারক্ষমতার উপর প্রভাব” নিয়ে কেন্দ্রীভূত।

গবেষক ভালেরিও ক্যাপ্রারো একটি সাক্ষাতকারে বলেছেন:

মানুষের জন্য “আমি জানি না” বলা খুবই গুরুত্বপূর্ণ, কারণ এটি আমাদের নিজেদের জ্ঞানের সীমানা চেনার প্রতীক।

এখন, এআইয়ের সাহায্যে প্র practically প্রতিটি প্রশ্নের তাৎক্ষণিকভাবে একটি প্রবাহিত উত্তর পাওয়া যায়।

সুতরাং প্রশ্ন হচ্ছে, এটি মানুষের মূল বিচারক্ষমতাকে বাধা দেবে কি? অর্থাৎ, অনিশ্চিত হলে সিদ্ধান্ত নেওয়ার আগে অপেক্ষা করা?

এর জন্য, গবেষণা দল একটি সেট ডিজাইন করেছে যা বড় ভাষা মডেলগুলির জন্য ভুল উত্তর দেওয়ার সম্ভাবনা রয়েছে।

এটি গণিতের যুক্তির প্রশ্ন নয়, সাধারণ জ্ঞানের প্রশ্নও নয়, বরং চলচ্চিত্রের দৃশ্যগত বিস্তারিতের প্রশ্ন।

উদাহরণস্বরূপ, "আই লাভ বেকহ্যাম" চলচ্চিত্রে দলের জার্সির রং কী? "বুদাপেস্ট গ্র্যান্ড হোটেল" চলচ্চিত্রে অ্যাগাথার চিহ্নিত চুলের স্টাইল কী? অথবা "হাইওয়েতে একটি বিড়াল" চলচ্চিত্রে মনিকা কোন গাড়ি চালায় ইত্যাদি।

আপনি মনে রাখেন? আমি তো বহু সময় ধরে চিন্তা করেও মনে করতে পারিনি, এটা তো খুবই কঠিন! কেউ মনে রাখতে পারে কিভাবে... (হাত ছড়িয়ে দিয়েছে)

এআই-এর জন্যও এটি খুব বিরক্তিকর হবে, কারণ এই প্রশ্নগুলির উত্তরগুলি প্রায়শই সাধারণ টেক্সট উৎসে থাকে না, এবং মডেল প্রশিক্ষণ ডেটাতে সম্ভবত এই ভিজুয়াল বিস্তারিতগুলি নেই।

গবেষকরা পরীক্ষায় ব্যবহৃত মডেল Step 3.5 Flash পরীক্ষা করেন, ফলাফল প্রত্যাশিত ছিল—এটি সাধারণত ভুল উত্তর দেয়।

এছাড়াও, তারা GPT-5.5, Claude Sonnet 4.6 এবং Gemini 3.5 Flash সহ আরও অনেক অগ্রগামী মডেল পরীক্ষা করেছে।

এই অগ্রণী মডেলগুলি প্রকৃতপক্ষে কিছু প্রশ্নে ভালো পারফর্ম করে, যেমন বুদাপেস্ট হোটেলে অ্যাগাথার চিহ্নিত চুলের স্টাইল, GPT-5.5, Gemini 3.5 Flash এবং Claude Sonnet 4.6 সবাই সঠিক দিকে ইঙ্গিত করে: crown braid, milkmaid braid; অর্থাৎ মাথার চারপাশে বোনা চুল।

△

△

△

আবার আমি বেকামকে ভালোবাসি চলচ্চিত্রে দলের জামা রঙগুলি, এগুলিও সাদা, লাল এই মূল তথ্যগুলি ধরে রাখে।

কিন্তু যখন নির্দিষ্ট চিত্র মনে রাখার উপর বেশি নির্ভরশীল এবং অনলাইনে টেক্সট তথ্যের কভারেজ কম থাকে এমন প্রশ্নে আসে, মডেলগুলি একসাথে ব্যর্থ হয়ে যায়, এবং প্রতিটির ব্যর্থতা নিজস্বভাবে চমৎকার।

সবচেয়ে পরিষ্কারভাবে উল্লেখ করা হয়েছে যে "হাইওয়েতে একটি বিড়াল" গল্পে মনিকা যে গাড়ি চালাচ্ছিলেন, তা হল 2008 মডেলের নীল Toyota Aygo।

কিন্তু GPT-5.5 এটিকে একটি স্কুটার বলেছে এবং “সে এটি নিয়ে রোমের উপনগরগুলিতে ঘুরেবেড়ায়, পরে পিজ্জা দোকান খুললে সেটি দিয়ে ডেলিভারি করে” এই গল্পের সাথে যোগ করেছে এবং “Giovanni-এর ধনী শহুরে জীবনযাপনের সাথে সাধারণ, মজুরি-জীবী জীবনযাপনের বিপরীততা” এই সেটিংসও যোগ করেছে।

এটি যেন যুক্তিসঙ্গত এবং যুক্তিসম্মত মনে হচ্ছে, কিন্তু এটি শুধুমাত্র মডেলের দ্বারা আপনাকে যুক্তিসঙ্গত বলে মনে করানোর জন্য কল্পনা করা একটি পুরোপুরি মিথ্যা কথা! (ধোঁকা খেয়েছেন hhh)

জেমিনি ৩.৫ ফ্ল্যাশ বলেছে যে সে মূলত বাস দিয়ে যায়, তার নিজের গাড়ি নেই, এবং বিভিন্ন বিস্তারিত ভুল হয়েছে যা খুবই কঠিন চেনা যায় (যেমন: মনিকা সার্জিওর গাড়িতে সাধারণত চড়েন না—এই ধরনের নিয়মিত সেটিং নেই, মডেলটি বিচ্ছিন্ন গাড়ি ভাগ করার ঘটনাগুলিকে একটি অস্তিত্বহীন সাধারণীকরণে পরিণত করেছে):

△

Claude Sonnet 4.6 ইন্টারনেট অটো ডাটাবেসের ভিত্তিতে 2016 Toyota Auris Touring Sports Hybrid এর প্রস্তাব দিয়েছে:

△

ধাপ ৩.৫ ফ্ল্যাশ আচ্ছাদন ত্যাগ করে সরাসরি ২০০৭ মডেল ফিয়াট ৫০০ বলে উত্তর দিল (এটা তো প্রথম দৃষ্টিতেই মিথ্যে বলে বোঝা যাচ্ছে!)।

এই উত্তরগুলির সমস্যা শুধু ভুল নয়, এগুলি খুব বাস্তবসম্মতভাবে ভুল, যা চিনতে কঠিন!

এগুলো শুধু সহজে অজানা নয়, এগুলো “কাল্পনিক চরিত্রের পটভূমি, মিথ্যা গল্পের যুক্তি এবং গাড়ির ব্যবহারের পূরক তথ্য” দিয়ে ভুল উত্তরগুলোকে সম্পূর্ণভাবে উপস্থাপন করে, যা খুবই যুক্তিসঙ্গত মনে হয়, কিন্তু মূল তথ্যটি ভুল।

এটিই এআই হলুদের সবচেয়ে বিপজ্জনক দিক—যেখানে মূল তথ্যই সবচেয়ে গুরুত্বপূর্ণ, কিন্তু এটি নিজের অজ্ঞতা ও ভুলকে প্রবাহিত ব্যক্তিত্ব দিয়ে ঢাকে, যার ফলে আপনি মনে করেন এটি সবকিছু জানে।

পরীক্ষাটি মূলত আরও হালকা Step 3.5 Flash দিয়ে সম্পন্ন হয়েছে, Claude, GPT ইত্যাদি শীর্ষস্থানীয় মডেলগুলি সবগুলি বাছাই করা হয়নি।

চলচ্চিত্রের বিস্তারিত বিষয়গুলির উপর ভিত্তি করে ৬টি প্রশ্ন ডিজাইন করা গবেষণা ডিজাইনের জন্য অত্যন্ত গুরুত্বপূর্ণ, কারণ অনেকেই জানেন যে এই ধরনের প্রশ্নগুলির উত্তর AI-এর দ্বারা প্রায়শই ভুল বা অবিশ্বস্ত হয়।

গবেষকদের মতে, তারা এটি একটি ব্যাখ্যা বাদ দেওয়ার জন্য করেছে যে, "মানুষ এআই-এর কথা শোনে কারণ এআই প্রকৃতপক্ষে বিশ্বস্ত।"

যদি মানুষ জানে যে এই উত্তরগুলি এআই প্রায়শই ভুল করে, তবুও এআইয়ের উত্তর অনুসরণ করে, তাহলে সমস্যাটি শুধু "যুক্তিসঙ্গতভাবে বিচার বহির্ভূত করা" নয়, বরং "বিচারক্ষমতা প্রকৃতপক্ষে এআই দ্বারা নিহত হয়েছে"।

অনুসন্ধান মোট 5 টি পর্যায়ে বিভক্ত।

প্রথম দুটি পরীক্ষায়, মূলত দেখা হয়েছে যে AI পরামর্শ কি “আমি জানি না” এর অনুপাতকে প্রভাবিত করে কিনা।

অধ্যয়ন 1a-এ, 314 জন অংশগ্রহণকারীকে দুটি গ্রুপে ভাগ করা হয়েছিল যারা 6টি চলচ্চিত্র বিস্তারিত প্রশ্নের উত্তর দিয়েছিল। (একটি গ্রুপে AI ছিল না, অন্যটিতে AI-এর সাহায্য নেওয়ার বিকল্প ছিল।)

ফলাফলটি স্পষ্ট: এআই ছাড়া, অংশগ্রহণকারীদের 36% সময় সিদ্ধান্ত স্থগিত রাখে; এআই উপলব্ধ থাকলে, এই অনুপাত হ্রাস পেয়ে 6% হয়।

অর্থাৎ, যতক্ষণ এআইকে প্রশ্ন করা যায়, মানুষ স্পষ্টভাবে জানি না বলতে অস্বীকুরি করে।

তবে, গবেষকদের চিন্তা যে এখানে একটি প্রযুক্তিগত ব্যাঘাত রয়েছে, কারণ স্টাডি 1a-এ, AI টুলটি প্রায় 10% অনুরোধের প্রতিক্রিয়া সঠিকভাবে ফেরত দেয়নি।

তাই তারা আবার স্টাডি 1b করল।

এবার গবেষকদের এআইকে বাস্তবসময়ে কল করার পরিবর্তে এআই উত্তরগুলি আগে থেকেই তৈরি করে রাখা হয়েছে, যাতে প্রতিটি সহায়তা প্রার্থী পূর্ণাঙ্গ উত্তর দেখতে পান।

ফলাফলটি পুনরাবৃত্ত হয়েছে, এআই ছাড়া ৪৪% মানুষ বলেছিল “আমি জানি না”; এআই থাকার সময় শুধুমাত্র ৩%।

ক্যাপ্রারো এই ঘটনাকে "ভেরিফিকেশন স্টপ কলাপস" বলেছেন। (এআইয়ের গুরুগম্ভীর মিছিলে ধোঁকায় পড়ে, এর মূল ধারণা এবং বিভিন্ন সেটিংসের সঠিকতা পরীক্ষা করা ভুলে যাওয়া হয়েছে।)

পরবর্তীতে, গবেষক জিজ্ঞাসা করলেন: যদি ভুল উত্তরের জন্য কোনো দাম দিতে হয়, তাহলে কি মানুষ আরও সতর্ক হবে?

অতএব, অধ্যয়ন 2-এ আর্থিক পুরস্কার এবং শাস্তির নিয়ম চালু করা হয়েছে।

এই রাউন্ডে মোট ৮১২ জন অংশগ্রহণকারী ছিলেন, যারা চারটি গ্রুপে বিভক্ত ছিলেন: এআই পরামর্শ আছে বা নেই; আর্থিক পুরস্কার বা শাস্তি আছে বা নেই।

একটি প্রশ্নের সঠিক উত্তরের জন্য 0.1 ডলার (প্রায় 0.73 চীনা ইয়ুয়ান) পুরস্কার দেওয়া হবে, ভুল উত্তরের জন্য 0.1 ডলার কাটা হবে, এবং "জানি না" বললে কোনো পুরস্কার বা কাটতি হবে না।

যদিও টাকার পরিমাণ বেশি নয়, তবুও ভুল উত্তরের খরচ থাকায় মানুষ আরও সতর্ক হওয়া উচিত।

কিন্তু ফলাফল দেখায় যে, অর্থ কিছুটা সহায়তা করেছে, কিন্তু AI-এর প্রভাব প্রতিহত করতে এখনও অনেক দূরে:

যখন অর্থ পুরস্কার বা শাস্তি নেই, তখন AI-এর ব্যবহার "আমি জানি না" এর অনুপাত ১৭% থেকে ১% এ কমে যায়।

যখন অর্থ পুরস্কার ও শাস্তির নিয়ম থাকে, তখনও AI-এর ব্যবহার এই অনুপাতকে 21% থেকে 2% এ নামিয়ে আনে।

অন্যভাবে বললে: পরীক্ষার ফলাফল দেখায় যে, যদিও মানুষ জানে যে ভুল উত্তরের জন্য টাকা কেটে নেওয়া হবে এবং AI এই ধরনের প্রশ্নে বেশি বিশ্বস্ত নয়, তবুও বেশিরভাগ মানুষ নিজের বিচারের পরিবর্তে AI-এর উত্তরের প্রতি বিশ্বাস রাখে।

সবচেয়ে গুরুত্বপূর্ণ হল সঠিকতা।

এআই ছাড়া, সঠিকতার হার প্রায় 28%; এআই সহ, সঠিকতার হার কেবল 10% হয়ে যায়।

এটি প্রমাণ করে যে কিছু মানুষ যদিও জানে যে এআই হ্যালুসিনেশনের শিকার হয়, তবুও এআই-এর দেওয়া উত্তরগুলি গ্রহণ করে।

অর্থের পুরস্কার এবং শাস্তি নিয়ম চালুর পর সঠিকতা বেড়েছে:

AI ছাড়া, 28% থেকে 33%; AI সহ, 10% থেকে 17%।

যদিও এআই গ্রুপের সঠিকতা এখনও এআই ছাড়া গ্রুপের তুলনায় স্পষ্টভাবে কম, তবুও এই নিয়মটি সম্পূর্ণ অকার্যকর নয়; এটি কমপক্ষে এআই-এর সাহায্য নেওয়ার পরিমাণ কিছুটা কমিয়েছে:

প্রদর্শিত ডেটা অনুসারে, পুরস্কারের শর্তে, অংশগ্রহণকারীদের এআই-এর কাছ থেকে পরামর্শ চাওয়ার গড় সংখ্যা 5.44 থেকে হ্রাস পেয়ে 4.93 হয়।

অর্থাৎ, টাকা মানুষকে কিছুটা কম বিশ্বাস করতে এবং কম AI ব্যবহার করতে প্ররোচিত করতে পারে, কিন্তু এটি মানুষকে AI-এর ভুল পরামর্শের আকর্ষণ থেকে সম্পূর্ণরূপে মুক্ত করতে পারে না, এবং মানুষকে পুনরায় সতর্কতার সিদ্ধান্তের অবস্থায় ফিরিয়ে আনা কঠিন।

সবচেয়ে বেশি চিন্তার বিষয় হলো এআইয়ের ভুল উত্তরের শর্তে মানুষের আত্মবিশ্বাসের বৃদ্ধি:

এআই এবং পুরস্কার/দণ্ড নিয়ম ছাড়া, অংশগ্রহণকারীদের গড় আত্মবিশ্বাস ছিল 29.6%।

এআই-এর পর, অংশগ্রহণকারীদের আত্মবিশ্বাস সরাসরি 75,9% এ পৌঁছেছে; অন্যদিকে, আর্থিক পুরস্কার ও শাস্তির নিয়ম সহ এআই গ্রুপের আত্মবিশ্বাসও 73,5%।

এই বিষয়ে প্রবন্ধের সারসংক্ষেপ খুব সরাসরি: এআই মানুষকে আরও নিশ্চিত করে, কিন্তু অবশ্যই আরও সঠিক করে না।

এআই এখন অত্যন্ত দ্রুত দৈনন্দিন জীবনে একীভূত হচ্ছে, একটি স্পষ্ট পরিবর্তন হল এখন অনেক এআই পরামর্শ আমরা সক্রিয়ভাবে জিজ্ঞাসা করি না, বরং এটি নিজেই "আসে"।

সবচেয়ে সাধারণ পরিস্থিতি হল ট্রেন্ডিং টপিক ব্রাউজ করা।

আগে একটি বিষয়ে ক্লিক করলে, নিজের হাতে মন্তব্য, মিডিয়া রিপোর্ট এবং সংশ্লিষ্ট ব্যক্তির প্রতিক্রিয়া অনুসরণ করে সময়রেখা গঠন করতে হত, একসাথে কিছু বিচ্যুত খবরও খেতে হত।

এখন এটা আলাদা, আপনি যখন প্রবেশ করেন, তখন AI দ্বারা তৈরি সারাংশটি সবচেয়ে দৃশ্যমান স্থানে প্রদর্শিত হয়।

কী ঘটেছে, কে কী বলেছে, বিতর্কের বিষয় কী, এবং পরবর্তী প্রগতি কী, সবকিছুই আপনার জন্য সুসংগঠিতভাবে প্রস্তুত করা হয়েছে, এমনকি সংবাদের সূত্রের লিঙ্কও সংযুক্ত করা হয়েছে।

এটা প্রকৃতপক্ষে সহজ, কিন্তু কিছুটা সূক্ষ্মও...

যত স্পষ্টভাবে এটি তথ্য সাজায়, আমরা নিজেরাই ঘটনার পটভূমি খুঁজে বের করার প্রক্রিয়া তত দ্রুত শেষ হয়, আগের মতো সব জায়গায় খুঁজে বেড়ানো, নিজেরাই বিচার করা, এবং অপ্রত্যাশিত বিস্তারিত আবিষ্কার করার আনন্দও মুহূর্তের মধ্যে সমাপ্ত হয়ে গেল।

দুটি লাইনের বেশি লেখার আগেই এআই দ্বারা পূরণকৃত বাক্য বা প্রস্তাবনা কার্সরের পিছনে আসে।

সুতরাং, স্টাডি 4 একটি আরও বাস্তবসম্মত ডিজাইন তৈরি করেছে: অংশগ্রহণকারীদের এখন AI-এর সুপারিশ কি জিজ্ঞাসা করবেন কিনা তা বেছে নেওয়ার পরিবর্তে, AI-এর সুপারিশগুলি স্বয়ংক্রিয়ভাবে প্রশ্নের পাশে প্রদর্শিত হয়।

এই রাউন্ডে ৮৫৩ জন অংশগ্রহণকারী ছিলেন, এবং পরীক্ষার ফলাফল আগের মতোই ছিল।

যখন অর্থ পুরস্কার বা শাস্তি নেই, তখন AI-এর স্বয়ংক্রিয় উপস্থিতি "আমি জানি না" এর অনুপাতকে 35% থেকে 1% এ নামিয়ে আনে, যখন নিয়ম আছে, তখন 39% থেকে 7% এ নামে।

সঠিকতার হারও প্রভাবিত হচ্ছে: এআই ছাড়া, সঠিকতার হার প্রায় 27% ছিল, এআই সহ, কিন্তু প্রোত্সাহন ছাড়া, সঠিকতার হার মাত্র 7%।

এআই এবং প্রোত্সাহন যোগ করার পরে, সঠিকতার হার 14% এ বেড়েছে।

এটি বোঝায় যে মানুষ যদিও সক্রিয়ভাবে এআই-এর সহায়তা চায়নি, শুধু এআইয়ের পরামর্শ দেখেই তারা প্রবলভাবে প্রভাবিত হয়।

এটি একটি সতর্কতার সংকেত—এআই আমাদের বিচারের অভ্যাসকে চুপিচুপি পুনর্গঠন করছে।

এটি এখন শুধু তোমার চ্যাট বক্স খোলার পরে প্রতিক্রিয়া দেওয়ার জন্য অপেক্ষা করে এমন একটি টুল নয়, বরং সিস্টেম ডিফল্টভাবে তোমার কাছে পাঠানো “স্ট্যান্ডার্ড উত্তর” হয়ে গেছে।

• এটি অনুসন্ধান পৃষ্ঠার শীর্ষে দেখা যেতে পারে।
• ইমেইল খসড়ায় প্রকাশিত।
• ডকুমেন্টের পাশের বারে প্রদর্শিত।
• শিক্ষামূলক সফটওয়্যার, অফিস সিস্টেম এবং ব্রাউজার প্লাগইনে দেখা যায়।

যখন উত্তরটি ডিফল্টভাবে চোখের সামনে পড়ে যায়, তখন মানুষের বিচারপ্রক্রিয়াটি পুনর্লিখিত হয়ে যায়; কিন্তু সবচেয়ে ভয়ঙ্কর বিষয় হলো, আমরা এটির প্রতি অভ্যস্ত হয়ে গেছি।

প্রবন্ধে একটি শব্দ ব্যবহার করা হয়েছে: এপিস্টিমিয়া (জ্ঞানগত অলসতা)

এটি বোঝা যায় যে মানুষ এআইয়ের উত্তরগুলি প্রবাহিত, সম্পূর্ণ এবং সুসংগঠিত দেখানোর কারণে এর পৃষ্ঠস্থ বিশ্বস্ততা গ্রহণ করে, যদিও এটি আরও যাচাই করে না।

একটি বড় ভাষা মডেলের একটি মৌলিক বৈশিষ্ট্য হল যে এটি সবসময় কিছু তৈরি করতে চায়। যে প্রশ্নগুলির উত্তর এটি জানে না, সেগুলির সামনেও এটি প্রায়ই সত্যিকারের বিরাম নেয় না।

এটি খুব প্রাকৃতিকভাবে বলা যেতে পারে। কিন্তু যদি আমরা সত্যিই এই ধরনের সিস্টেমকে বিচারের ক্ষমতা দিয়ে দিই, তাহলে আমরা এর “বন্ধ করবেন না” এই অভ্যাসটি গ্রহণ করতে পারি।

একটি ব্যাখ্যা হল যে “এআই দ্বারা প্রদানকৃত প্রবাহিত উত্তরগুলি মানুষের ‘আমি যথেষ্ট জানি, আমি উত্তর দিতে পারি’ বলার সীমাকে কমিয়ে দেয়।”

আসলে আপনি ভাবতে পারেন: “আমি এই প্রশ্নটি জানি না, আমার নিশ্চয়তা নেই, চলুন ছেড়ে দেই… আমাকে এটি বুঝতে হবে যাতে আমি উত্তর দিতে পারি।”

কিন্তু এআই আপনাকে যে কিছু অনিশ্চিত মনে হওয়া কথা দিয়েছে, মনের বাধা হয়ে উঠেছে “যেহেতু এটি এটি বলেছে, আমিও উত্তর দিতে পারি।”

তাই, “আমি জানি না” এবং “অনুসন্ধানের প্রক্রিয়া” বাদ দিয়ে একটি “মানক কিন্তু ভুল উত্তর” দিয়ে প্রতিস্থাপন করা হয়েছে, এবং এই ভুল উত্তরটি আপনাকে পুনরাবৃত্তি অনুসন্ধান এবং প্রমাণের মাধ্যমেই অর্জন করা উচিত এমন উচ্চ আত্মবিশ্বাস প্রদান করেছে।

ভুল উত্তরের জন্য অর্থ জরিমানা করা হলেও, মানুষ শুধু কিছুটা সতর্ক হয়ে ওঠে, AI-এর প্রতি অত্যধিক বিশ্বাসের অভ্যাসকে সম্পূর্ণভাবে বদলাতে পারে না, ফলে সুন্দরভাবে ভুল দিকে নিয়ে যাওয়া হয়।

এই গবেষণাটি আসলে আমাদের যা সতর্ক করে, তা হলো “এআই হ্যালুসিনেশন করে” — এটা আগেই পরিচিত; বরং একটি সতর্কতামূলক নতুন পরিবর্তন: এআই মানুষের অনিশ্চয়তা প্রক্রিয়াকরণের পদ্ধতিকে পরিবর্তন করবে।

অতীতে, একজন মানুষ একটি অপরিচিত সমস্যার সম্মুখীন হলে তিনটি বিকল্প থাকত:

১। জানলে উত্তর দাও।

২। যদি জানেন না, তবে খুঁজে দেখুন।

৩. যদি নিশ্চিত না হয়, তবে উত্তর দেবেন না, কোনো সিদ্ধান্ত নেবেন না।

কিন্তু এআই যোগ হওয়ার পরে প্রক্রিয়াটি সংক্ষিপ্ত হয়েছে।

1. এআই উত্তর দেয়।

২। ব্যক্তি উত্তরটি গ্রহণ করে।

সবচেয়ে গুরুত্বপূর্ণ ধাপটি, অর্থাৎ “আমি কি আসলে জানি”, অজান্তেই এড়িয়ে যাওয়া হয়েছে।

এই কারণেই গবেষকদের জোর দেওয়া হয়েছে যে, তাদের গবেষণাটি “AI কী উত্তর দিয়েছে” নয়, বরং “AI কীভাবে মানুষকে ‘আমি উত্তর দিতে পারি’ বলতে সহজ করেছে” তা পর্যবেক্ষণ করছে।

এটি শুধু একবার ভুল উত্তর দেওয়ার চেয়েও গভীর, কারণ এটি আমাদের মেটাকগনিটিভ ক্ষমতা ক্ষয় করে, যা আমাদের জ্ঞানের সীমানা পর্যবেক্ষণ করার জন্য অত্যন্ত মূল্যবান “অন্তর্নিহিত সতর্কবার্তা”।

যখন এই অ্যালার্ম কাজ করে না, তখন আমরা “প্রকৃত জ্ঞান” এবং “যুক্তিসঙ্গত অনুমান” পার্থক্য করার স্বাভাবিক ক্ষমতা হারিয়ে ফেলি।

তখন, আমরা হয়তো এখনও এআই এর মাধ্যমে দ্রুত উত্তর পেতে পারব, কিন্তু এই উত্তরগুলি কি আসলেই আমাদের নিজস্ব, কি আসলেই বিশ্বাসযোগ্য, তা আর বিচার করতে পারব না।

একইসাথে, এখন কোনো একটি নির্দিষ্ট সিদ্ধান্ত নয়, বরং আমাদের স্বাধীনভাবে চিন্তা করার মূল ভিত্তি যে এআই দ্বারা বিভ্রান্ত হচ্ছে।

এই ক্ষতি অপরিমেয়।

সাক্ষাত্কারে প্রবন্ধের লেখকদের একজন ভালেরিও ক্যাপ্রারো বলেন: “আমি শিশুদের জন্য অত্যন্ত চিন্তিত, কারণ প্রাপ্তবয়স্করা পার্থক্য চিনার দক্ষতা শিখেছে। কিন্তু যারা মূলত এই সিস্টেমগুলির সাথেই জন্মেছে, তাদের জন্য ঝুঁকি হলো যে তারা মৌলিক পার্থক্য চিনার দক্ষতা শিখবেই না।”

এই বাক্যের পিছনে একটি গভীর উদ্বেগ লুকিয়ে আছে, যে বর্তমান প্রাপ্তবয়স্কদের কমপক্ষে একসময় AI-বিহীন বিশ্বে বাস করেছিল।

সুতরাং সার্চ ইঞ্জিন, বই, ক্লাস, আলোচনা এবং ভুল থেকে শেখার মাধ্যমে প্রাথমিক বিচার ক্ষমতা অর্জন করে তারপর AI ব্যবহার শুরু করলে, “আমি নিশ্চিত নই” এই অনুভূতি গড়ে তোলার সুযোগ থাকে।

কিন্তু আজকের শিশুরা সম্ভবত জন্মের সময় থেকেই এই এআই-এর সাথে বড় হয়েছে।

তারা তাদের হোমওয়ার্ক করতে, তথ্য খুঁজতে, নিবন্ধ লিখতে এবং ধারণাগুলি বুঝতে যেকোনো সময় AI-কে জিজ্ঞাসা করতে পারে।

যদি প্রথম থেকেই নিজের বিচার গঠন করে তারপর উত্তরটি যাচাই করার পরিবর্তে সরাসরি উত্তর পাওয়ার অভ্যাস করা হয়, তাহলে ঝুঁকি শুধু একটি প্রশ্নের ভুল উত্তর দেওয়ার নয়, বরং তাদের সবচেয়ে মৌলিক আলোচনামূলক চিন্তার দক্ষতা বিকাশের সুযোগই হতে পারে না।

ক্যাপ্রারোর মতে, এই সমস্যার সমাধান শুধুমাত্র মডেল কোম্পানিগুলির বাগ ঠিক করার উপর নির্ভর করবে না, বরং এটি AI সাক্ষরতা এবং শিক্ষা নীতির উপর ভিত্তি করে করা উচিত।

মডেল কোম্পানিগুলি অবশ্যই উন্নতি করা উচিত, যেমন অনিশ্চয়তা ভালভাবে প্রকাশ করা, হ্যালুসিনেশন কমানো, এবং প্রমাণের অভাবে ব্যবহারকারীদের সতর্ক করা।

কিন্তু একইসাথে ক্যাপ্রারো মনে করেন যে, মডেল কোম্পানিগুলিতে সমস্ত আশা নির্ভর করা উচিত নয়।

আরও আশাবাদী এবং দীর্ঘমেয়াদী সমাধান হল শিক্ষা।

বিশেষ করে শিশু শিক্ষা।

আজকের শিশুদের জন্য, “আমি জানি না, কিন্তু আমি এটা বুঝে উঠব” এই প্রক্রিয়াকে বারবার অনুশীলন করা এবং এই অভ্যাসটি গড়ে তোলা খুবই গুরুত্বপূর্ণ এবং প্রয়োজনীয়।

পরীক্ষার শেষে, গবেষকরা সীমাবদ্ধতাগুলি স্বীকার করেন: পরীক্ষাটি শুধুমাত্র চলচ্চিত্র বিষয়ক প্রশ্ন ব্যবহার করেছিল, এটি অন্যান্য ক্ষেত্রেও প্রযোজ্য কিনা তা এখনও যাচাইয়ের প্রয়োজন; প্রলোভনের পরিমাণ ছোট ছিল, বড় স্বার্থের ক্ষেত্রে আচরণকে আরও সংশোধন করা যায় কিনা তা এখনও অস্পষ্ট।

কিন্তু কমপক্ষে বর্তমান ডেটা একটি স্পষ্ট সংকেত দিয়েছে: মানুষ কম বলছে যে তারা জানে না, বেশি উত্তর দিচ্ছে, কম সঠিক উত্তর দিচ্ছে, কিন্তু আরও আত্মবিশ্বাসী।

এটি হয়তো এআই যুগের সবচেয়ে অদৃশ্য ঝুঁকি।

AI শুধু তোমাকে প্রতারিত করেনি, এটি তোমাকে এটা বুঝতেও কঠিন করে তুলেছে যে তুমি আসলে কিছুই জানো না।

এই গবেষণার চূড়ান্ত সিদ্ধান্তটি সাবধানে প্রকাশিত হলেও খুবই ভারী: "এআই দ্বারা উত্পাদিত উত্তরগুলি যেহেতু সর্বত্র বিদ্যমান এবং প্রায়শই অননুমোদিতভাবে আসে, আমাদের গবেষণা দেখায় যে মানুষ এবং এআইয়ের মধ্যে মিথস্ক্রিয়ায় 'আমি জানি না' বলার মানুষের ক্ষমতা সম্ভবত মানব-কম্পিউটার মিথস্ক্রিয়ার প্রথম বলির মধ্যে একটি হয়ে উঠবে।"

যখন এআই সিস্টেমগুলি দিন দিন বেশি জনপ্রিয় হয়ে উঠছে, তখন মানুষের বিচারক্ষমতা কি টিকে থাকতে পারবে, তা শেষপর্যন্ত এআইকে আরও সঠিক করে তোলার উপর নির্ভর করবে না, বরং আমরা কি আমাদের নিজেদের প্রতি সচেতনতা বজায় রাখতে পারব—যা আমাদের জ্ঞানের সীমানা স্পষ্টভাবে বুঝতে পারবে এবং এর ভিত্তিতে সাবধানে কাজ করতে পারব।

এটি বলছে না যে AI ব্যবহার করা যায় না, বরং ঠিক বিপরীতে, AI অবশ্যই শক্তিশালী সহায়ক টুল হতে পারে;

কিন্তু এর শর্ত হলো এটি মানুষের চিন্তা করার পরিবর্তে চিন্তা করা থেকে বাঁচিয়ে দেওয়া উচিত নয়, আমাদের নিজেদের সতর্কতার বিচারের সীমানা রক্ষা করতে হবে।

একটি স্বাস্থ্যকর এআই ব্যবহারের পদ্ধতি হলো প্রথমে নিজে বিচার করা, সক্রিয়ভাবে শেখা, এবং যদি সত্যিই বুঝতে না পারেন, তবে এআইকে সহায়তা চাওয়া; এবং সহায়তা চাওয়ার সময় সর্বদা সন্দেহের প্রবণতা বজায় রাখা (এআইকে সন্দেহ করা এবং নিজেকে প্রশ্ন করা উভয়ই)।

উদাহরণস্বরূপ:

এটি ভুল হতে পারে কি?

প্রমাণ কোথায়?

রেফারেন্স লিঙ্কটি 404 বা খালি কি?

আমি কি এটাকে খুব সহজে বলার কারণে সঠিক বলে ধরে নিয়েছি?

এটি একইভাবে এআই পণ্য এবং তাদের ডেভেলপারদের জন্য একটি সতর্কবাণী—“প্রযুক্তির পরিপক্কতা অজানার প্রতি শ্রদ্ধায় চূড়ান্তভাবে প্রকাশ পাবে।”

ভবিষ্যতে এআইয়ের বিকাশের দিকটি শুধু এআইকে দ্রুততর এবং মানুষের মতো উত্তর দিতে শেখানো নয়, বরং এআইকে অনিশ্চয়তা সম্পর্কে সত্যিকারের ভাবে প্রকাশ করতে শেখানোও হবে;

যখন প্রমাণ অপর্যাপ্ত, সমস্যাটি দৃশ্যমান বিস্তারিত, বাস্তবসময়ের তথ্য বা পেশাদার বিচারের উপর নির্ভর করে, তখন AI-এর উচিত ব্যবহারকারীকে সক্রিয়ভাবে জানানো যে এই উত্তরটি অবিশ্বস্তযোগ্য, এবং সকল কিছু জানার মতো আচরণ করা উচিত নয়।

এবং যারা আপনি এবং আমি এর মতো, সময়ের ঢেউয়ের সাথে এগিয়ে দৌড়াচ্ছেন, সেই সাধারণ মানুষদের জন্য, সবচেয়ে মূল্যবান দক্ষতা হতে পারে পুনরায় বলতে শেখা: "আমি জানি না।"

এই এআই সবসময় উত্তর দেয় এমন যুগে, "আমি জানি না।" বলা অজ্ঞতার স্বীকারোক্তি নয়, বরং বিচারশক্তি এখনও বিদ্যমান থাকার প্রমাণ।

রেফারেন্স লিঙ্ক:

[1]https://www.theregister.com/ai-and-ml/2026/07/19/using-ai-makes-people-less-likely-to-admit-they-dont-know-something/5274567

[2]https://arxiv.org/pdf/2607.13562

এই লেখাটি ওয়েইচ্যান গ্রুপ "Quantum Bit" থেকে এসেছে, লেখক: উয়েন টিং