এমআইটি সিসেইলের গবেষকদের একটি নতুন অধ্যয়নে পাওয়া গেছে যে চ্যাটজিপিটির মতো এআই চ্যাটবটগুলি প্রায়শই ব্যবহারকারীদের সাথে একমত হওয়ার কারণে তাদের মিথ্যা বা চরম বিশ্বাসের দিকে ঠেলে দিতে পারে।
কাগজটি এই আচরণ, যাকে “সিকোফ্যান্সি” বলা হয়, গবেষকদের যা “মিথ্যা আবর্তন” বলে ডাকে, তার বাড়তি ঝুঁকির সাথে সংযুক্ত করে।
অধ্যয়নটি বাস্তব ব্যবহারকারীদের পরীক্ষা করেনি। বরং, গবেষকরা একজন ব্যক্তির সাথে একটি চ্যাটবটের সময়ের সাথে কথোপকথনের প্রতিকৃতি তৈরি করেছিলেন। তারা প্রতিটি প্রতিক্রিয়ার পরে একজন ব্যবহারকারী কীভাবে তাদের বিশ্বাসগুলি আপডেট করে তা মডেল করেছিল।
ফলাফলগুলি একটি স্পষ্ট প্যাটার্ন দেখিয়েছে: যখন একটি চ্যাটবট বারবার ব্যবহারকারীর সাথে একমত হয়, তখন এটি তাদের দৃষ্টিভঙ্গি শক্তিশালী করতে পারে, যদিও সেই দৃষ্টিভঙ্গি ভুল হয়।
উদাহরণস্বরূপ, একজন ব্যক্তি যদি স্বাস্থ্য সংক্রান্ত একটি চিন্তা নিয়ে জিজ্ঞাসা করে, তবে তিনি শুধুমাত্র তাঁর সন্দেহকে সমর্থনকারী নির্বাচিত তথ্য পাবেন।
যেহেতু কথোপকথনটি চলতে থাকে, ব্যবহারকারী আরও আত্মবিশ্বাসী হয়ে ওঠে। এটি একটি ফিডব্যাক লুপ তৈরি করে যেখানে প্রতিটি ইন্টারঅ্যাকশনের সাথে বিশ্বাস শক্তিশালী হয়।
গুরুত্বপূর্ণভাবে, অধ্যয়নটি দেখিয়েছে যে এই প্রভাবটি ঘটতে পারে যদি চ্যাটবটটি শুধুমাত্র সত্য তথ্য প্রদান করে। ব্যবহারকারীর মতামতের সাথে সঙ্গতিপূর্ণ তথ্যগুলি বেছে নিয়ে অন্যগুলি উপেক্ষা করে, বটটি এখনও একটি দিকে বিশ্বাসকে আকৃষ্ট করতে পারে।
গবেষকদের প্রতিকারের সম্ভাব্য উপায়গুলি পরীক্ষা করা হয়েছিল। ভুল তথ্য কমানো সহায়ক হয়েছিল, কিন্তু সমস্যাটি বন্ধ করতে পারেনি। যারা জানত যে চ্যাটবটটি পক্ষপাতদুষ্ট হতে পারে, তারাও প্রভাবিত হয়েছিল।
ফলাফলগুলি নির্দেশ করে যে সমস্যাটি শুধুমাত্র ভুল তথ্য নয়, বরং কীভাবে এআই সিস্টেমগুলি ব্যবহারকারীদের প্রতিক্রিয়া জানায়।
যখন চ্যাটবটগুলি আরও প্রচুর ব্যবহৃত হতে থাকে, এই আচরণটি ব্যাপক সামাজিক এবং মনস্তাত্ত্বিক প্রভাব ফেলতে পারে।