এমআইটি মিডিয়া ল্যাবের একটি নতুন গবেষণা দেখিয়েছে যে, জেনারেটিভ এআই মিথ্যা তথ্য শনাক্তকরণে তাৎক্ষণিক সহায়তা প্রদান করতে পারে, কিন্তু এই সহায়তা সবসময় একটি স্থিতিশীল বিচারক্ষমতায় রূপান্তরিত হয় না। পরীক্ষার অংশগ্রহণকারীরা এআই-সহায়িত অবস্থায় ভালোভাবে পারফর্ম করেছিল, কিন্তু টুলটি থেকে দূরে সরে গেলে তাদের পারফরম্যান্স কমে গিয়েছিল।
চার সপ্তাহের পরীক্ষায় 7000 এর বেশি কথোপকথন রেকর্ড করা হয়েছে
এই গবেষণাটি চার সপ্তাহ ধরে চলেছিল, যেখানে 67 জন অংশগ্রহণকারীকে ট্র্যাক করা হয়েছিল, যার মধ্যে 7,203টি AI-এর সাথে সংলাপ এবং 4,536টি সংবাদের প্রকৃতি নির্ণয় রেকর্ড করা হয়েছিল। অংশগ্রহণকারীদের প্রথমে সংবাদের শিরোনাম এবং সংযুক্ত ছবির প্রকৃতি স্বতন্ত্রভাবে নির্ণয় করতে হয়েছিল, তারপর AI-এর সাথে আলোচনা করেছিল এবং শেষে পুনরায় সিদ্ধান্তে পৌঁছেছিল।
গবেষণা দল একটি চেকিং সিস্টেম তৈরি করেছে যা OpenAI-এর GPT-4o এবং Google Search-এর সংমিশ্রণ ব্যবহার করে অংশগ্রহণকারীদের সংবাদ প্রতিবেদন যাচাই করতে সাহায্য করে। পরীক্ষার শেষে, দলটি একটি AI-মুক্ত পরীক্ষা পরিচালনা করেছে যেখানে পরীক্ষিতদের নতুন কন্টেন্টের সাথে তাদের স্বাধীন বিচারের উন্নতি পর্যবেক্ষণ করা হয়েছে।
এআই সহায়তায় সঠিকতা 21% বৃদ্ধি পেয়েছে
ফলাফল দেখায় যে, অংশগ্রহণকারীদের এআই ব্যবহার করার সময় মিথ্যা তথ্য শনাক্ত করার সঠিকতা 21% বেড়েছে। এটি নির্দিষ্ট কাজে চ্যাটবটগুলির ব্যবহারকারীদের সন্দেহজনক কনটেন্ট শনাক্ত করতে সাহায্য করার ক্ষমতা প্রমাণ করে, বিশেষ করে সত্য ও মিথ্যা খবরের শিরোনাম এবং ছবির পরিস্থিতিতে।
কিন্তু পরবর্তী সহায়তাহীন পরীক্ষার পর্যায়ে, অংশগ্রহণকারীদের সামগ্রিক পারফরম্যান্স আগের তুলনায় 15.3 পার্সেন্টপয়েন্ট কমে গেছে। গবেষকদের মতে, এই পতনটি মূলত মিথ্যা সংবাদ চিহ্নিতকরণের ক্ষমতা হ্রাসের কারণে ঘটেছে, যখন বাস্তব সংবাদের জন্য নির্ভুলতা প্রায় অপরিবর্তিত থাকে।
গবেষণা ঝুঁকির উপর নির্ভরশীলতাকে ইঙ্গিত করে
গবেষণা দল মনে করেন যে, বর্তমানে এই ধরনের এআই টুলগুলি ব্যবহারকারীদের একক সিদ্ধান্ত সংশোধনে সহায়তা করছে, এর পরিবর্তে ব্যবহারকারীদের আরও স্থিতিশীল পরিচয় ক্ষমতা বিকাশে সহায়তা করছে না। অর্থাৎ, এআই বর্তমান ফলাফলকে উন্নত করতে পারে, কিন্তু মানুষের স্বাধীন চিন্তার ক্ষমতা একসাথে বৃদ্ধি করছে না, বরং কিছু ব্যবহারকারীকে টুলগুলির প্রতি আরও বেশি নির্ভরশীল করে তুলছে।
পরবর্তীতে গবেষকদের দ্বারা Anthropic-এর Claude 3.5 Sonnet ব্যবহার করে হাজার হাজার ব্যবহারকারী-এআই সংলাপ বিশ্লেষণ করা হয়। পেপারটির সিদ্ধান্ত হল যে, বর্তমান ডিজাইনগুলি ব্যবহারকারীকে কীভাবে বিচার করতে হয় তা শেখানোর পরিবর্তে ব্যবহারকারীর জন্য বিচার করার দিকে বেশি ঝুঁকে আছে।
যুদ্ধের মিথ্যা ভিডিও আরও বেশি মনোযোগ আকর্ষণ করছে
এই গবেষণা প্রকাশের সময়, জেনারেটিভ এআই প্রতারণামূলক কন্টেন্ট তৈরির বাধা উল্লেখযোগ্যভাবে কমিয়ে দিচ্ছে। আরও বাস্তবসম্মত ছবি, ভিডিও এবং টেক্সট সামাজিক মাধ্যমে মিথ্যা তথ্যের ছড়ানোর গতি বাড়াচ্ছে।
লেখাটি উল্লেখ করে যে, ২০২৫ সালের জুনে ইরানের মিসাইল আক্রমণের পরে, সোশ্যাল মিডিয়ায় তেল আবিব এবং বেন-গুরিয়ন বিমানবন্দরের ক্ষতিগ্রস্ত ভিডিওগুলি ছড়িয়ে পড়ে, যা আসলে AI-দ্বারা তৈরি বলে প্রমাণিত হয়।
যুদ্ধের ছবি প্রতারণার উদ্বেগ বাড়তে থাকছে। এক্স এই বছর মার্চে ঘোষণা করেছিল যে যদি কোনো ক্রিয়েটর অপরিচিত এআই-উত্পাদিত সংঘর্ষের ভিডিও পোস্ট করে, তাহলে তাদের প্ল্যাটফর্মের আয় বিভাজন পরিকল্পনা থেকে স্থায়ীভাবে বহিষ্কৃত করা হবে।