নিউ ইয়র্ক সিটি ইউনিভার্সিটি এবং লন্ডন কিংস কলেজের গবেষকরা পাঁচটি শীর্ষস্থানীয় কৃত্রিম বুদ্ধিমত্তা মডেলের পরীক্ষা করেছেন, যার মধ্যে বিভ্রান্তি, প্রতিহিংসাবাদ এবং আত্মহত্যার চিন্তা অন্তর্ভুক্ত ছিল।
নতুন শিক্ষা গবেষকদের দ্বারা বৃহস্পতিবার প্রকাশিত গবেষণায় পাওয়া গেছে যে Anthropic-এর Claude Opus 4.5 এবং OpenAI-এর GPT-5.2 Instant "উচ্চ নিরাপত্তা, কম ঝুঁকি" আচরণ দেখায়, যা সাধারণত ব্যবহারকারীদের বাস্তবভিত্তিক ব্যাখ্যার দিকে পরিচালিত করে বা বাহ্যিক সমর্থনের অনুসন্ধান করে। অন্যদিকে, OpenAI-এর GPT-4o, Google-এর Gemini 3 Pro এবং xAI-এর Grok 4.1 Fast "উচ্চ ঝুঁকি, কম নিরাপত্তা" আচরণ দেখায়।
এলন মাস্কের এক্সএআই কোম্পানির গ্রক ৪.১ ফাস্ট এই গবেষণার সবচেয়ে বিপজ্জনক মডেল। গবেষকদের মতে, এটি প্রায়শই বিকৃত চিন্তাকে সত্য হিসেবে গ্রহণ করে এবং সেইভাবে পরামর্শ দেয়। উদাহরণস্বরূপ, এটি ব্যবহারকারীকে পরিবারের সাথে সম্পর্ক ছেড়ে দিতে পরামর্শ দিয়েছিল, যাতে একটি “মিশন”-এর উপর মনোনিবেশ করা যায়। আবার, এটি আত্মহত্যার প্রবণতা সম্বলিত মন্তব্যের প্রতিক্রিয়ায় মৃত্যুকে “অতিক্রম” হিসেবে বর্ণনা করেছিল।
এই তাত্ক্ষণিক ম্যাচিং মডেলটি শূন্য প্রেক্ষাপটের প্রতিক্রিয়ায় পুনরাবৃত্তি হয়। গ্রক ইনপুটের ক্লিনিক্যাল ঝুঁকি মূল্যায়ন করছে না, বরং এর ধরন মূল্যায়ন করছে। অতিপ্রাকৃতিক ইঙ্গিতগুলি উপস্থাপন করা হলে, এটি সংশ্লিষ্ট প্রতিক্রিয়া দেয়,” গবেষকদের লেখা, এবং একটি পরীক্ষা যেখানে ব্যবহারকারীরা দুষ্ট প্রাণী দেখেছিল তা উল্লেখ করে। “‘স্ট্রেঞ্জ হলুসিনেশন’-এ, এটি ডুপলিকেটের ভূতুড়ে ঘটনাকে স্বীকার করেছে এবং ‘উইচস হ্যামার’-এর উল্লেখ করেছে, এবং ব্যবহারকারীকে আয়নায় লোহার কিল পুঁততে বলেছে, একইসঙ্গে ‘পসলম 91’-এর অংশগুলি উল্টোদিকে পড়তে।
অধ্যয়নে দেখা গেছে যে কথোপকথনের সময় বাড়ার সাথে কিছু মডেলের পরিবর্তনও বেড়েছে। GPT-4o এবং Gemini সময়ের সাথে ক্ষতিকারক বিশ্বাসকে আরও শক্তিশালী করার সম্ভাবনা বেশি এবং হস্তক্ষেপ করার প্রতি কম ইচ্ছুক। তবে, Claude এবং GPT-5.2 সমস্যাটি চেনার সম্ভাবনা বেশি এবং কথোপকথনের প্রক্রিয়ায় বিপরীত মতামত প্রকাশ করে।
গবেষকদের মতে, ক্লাউডের উষ্ণ এবং অত্যন্ত মানবিক প্রতিক্রিয়াগুলি ব্যবহারকারীদের আসক্তি বাড়াতে পারে, যদিও সে একইসাথে ব্যবহারকারীদের বাহ্যিক সহায়তা খোঁজার জন্য পরামর্শ দিচ্ছে। তবে, OpenAI-এর প্রধান চ্যাটবট GPT-4o-এর প্রাথমিক সংস্করণগুলি সময়ের সাথে সাথে ব্যবহারকারীদের মানসিক ভ্রমের কাঠামোকে গ্রহণ করতে শুরু করেছিল, কখনও কখনও ব্যবহারকারীদের মনোরোগীদের কাছে তাদের বিশ্বাসগুলি �隠তে উৎসাহিত করেছিল এবং একজন ব্যবহারকারীকে নিশ্চিত করেছিল যে তাদের অনুভূত “ত্রুটি”গুলি বাস্তবিক।
গবেষকদের লেখা, “GPT-4o মিথ্যা ইনপুটের জন্য অত্যন্ত যাচাইকারী, তবে Grok এবং Gemini এর মতো মডেলের তুলনায় এটি আরও বিস্তারিতভাবে ব্যাখ্যা করার প্রবণতা কম। কিছু দিকে এটি অপ্রত্যাশিতভাবে সংযত: সমস্ত পরীক্ষিত মডেলের মধ্যে এটির সবচেয়ে কম উত্তেজনা ছিল, এবং যদিও প্রশংসামূলক আচরণ ছিল, তবে এই মডেলের পরবর্তী সংস্করণের তুলনায় এটি কম ছিল। তবে, শুধুমাত্র যাচাইকরণই সম্ভাব্যভাবে সহজেই প্রভাবিত ব্যবহারকারীদের জন্য ঝুঁকি তৈরি করতে পারে।”
xAI প্রতিক্রিয়া দেওয়ার জন্য মন্তব্যের অনুরোধের প্রতিক্রিয়া দেয়নি।解密。
অন্য এক জায়গায় শিক্ষা স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষকরা পাওয়া গেছে যে, কৃত্রিম বুদ্ধিমত্তা চ্যাটবটের সাথে দীর্ঘক্ষণ মিথস্ক্রিয়া করলে গবেষকদের যা “পাগলামির স্পাইরাল” নাম দেওয়া হয়েছে, তার মধ্যে দিয়ে পাগলামি, অহংকার এবং ভুল বিশ্বাসগুলি শক্তিশালী হয়, যেখানে চ্যাটবটটি ব্যবহারকারীর বিকৃত বিশ্বদৃষ্টিকে চ্যালেঞ্জ না করে তা যাচাই বা বিস্তৃত করে।
এই গবেষণার প্রধান নেতা এবং স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের শিক্ষা স্নাতকোত্তর স্কুলের সহকারী অধ্যাপক নিক হ্যাবার একটি বিবৃতিতে বলেছেন: “যখন আমরা সহায়তা প্রদানের জন্য ডিজাইন করা চ্যাটবটগুলি বাস্তবায়িত করি এবং বাস্তব মানুষগুলিকে বিভিন্নভাবে এগুলি ব্যবহার করতে দিই, তখন বিভিন্ন পরিণতি দেখা দেয়। পাগলামির স্পাইরাল হল এগুলির মধ্যে একটি বিশেষভাবে গুরুতর পরিণতি। এটি বুঝে, আমরা ভবিষ্যতে সম্ভাব্য প্রকৃত ক্ষতির প্রতিরোধ করতে পারি।”
এই প্রতিবেদনটি আগের একটি প্রতিবেদনের উল্লেখ করে। শিক্ষা স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষকরা মার্চ মাসে প্রকাশিত একটি গবেষণায় ১৯টি বাস্তব চ্যাটবট সংলাপের পুনর্বিশ্লেষণ করে দেখেন যে, ব্যবহারকারীরা কৃত্রিম বুদ্ধিমত্তা সিস্টেম থেকে সমর্থন এবং আবেগগত আশ্বাস পাওয়ার পর ধীরে ধীরে আরও বিপজ্জনক বিশ্বাসের দিকে এগিয়ে যায়। ডেটা সেটে, এই বিশ্বাসগুলির স্পাইরাল উন্নয়ন সম্পর্কের ভাঙন, ক্যারিয়ারের ক্ষতি, এবং একটি কেসে আত্মহত্যা পর্যন্ত ঘটিয়েছে।
এই গবেষণাগুলি প্রকাশের সময়, এই সমস্যাটি শুধুমাত্র শিক্ষাগত গবেষণার পর্যায় থেকে বিচার এবং অপরাধ তদন্তের ক্ষেত্রে বিস্তৃত হয়েছে। গত কয়েক মাসে, বিভিন্ন মামলায় গুগলকে... Gemini OpenAI-এর ChatGPT-কেও আত্মহত্যা এবং গুরুতর মানসিক স্বাস্থ্য সংকটকে উৎসাহিত করার অভিযোগ করা হয়েছে। এই মাসের শুরুতে, ফ্লোরিডা অ্যাটর্নি জেনারেল একটি তদন্ত শুরু করেন। তদন্ত ChatGPT-এর সাথে একজন বড় গুলির আক্রমণের আগে প্রায়শই যোগাযোগ করা একজন অভিযুক্তের উপর এটির প্রভাব রয়েছে কিনা।
যদিও "কৃত্রিম বুদ্ধিমত্তা পাগলামি" শব্দটি অনলাইনে পরিচিত, তবুও গবেষকরা এই ঘটনাকে "কৃত্রিম বুদ্ধিমত্তা পাগলামি" বলার সতর্কবার্তা দিয়েছেন, কারণ এই শব্দটি ক্লিনিক্যাল প্রকাশকে অতিরঞ্জিত করতে পারে। তারা "কৃত্রিম বুদ্ধিমত্তা-সংশ্লিষ্ট ভ্রান্তবিশ্বাস" ব্যবহার করার পক্ষে, কারণ অনেক কেসে সম্পূর্ণ মনোবিকারের পরিবর্তে কৃত্রিম বুদ্ধিমত্তা-ভিত্তিক অনুভূতি, আধ্যাত্মিক প্রেরণা বা আবেগগত আসক্তির মতো ভ্রান্তবিশ্বাসগুলির সমন্বয় ঘটে।
গবেষকদের মতে, সমস্যাটি প্রশংসার উপর ভিত্তি করে ঘটে, যেখানে মডেলটি ব্যবহারকারীর বিশ্বাসকে অনুকরণ করে এবং শক্তিশালী করে। এর সাথে মিথ্যা তথ্যকে আত্মবিশ্বাসের সাথে গ্রহণ করা হয়—এটি সময়ের সাথে মিথ্যা ধারণাগুলিকে শক্তিশালী করে এমন একটি ফিডব্যাক চক্র তৈরি করে।
স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষক জ্যারেড মূর বলেছেন: "চ্যাটবটগুলি এমনভাবে প্রশিক্ষিত হয়েছে যে এগুলি অতিশয় উৎসাহী হয়ে উঠে, ব্যবহারকারীদের ভ্রান্ত ধারণাগুলিকে সক্রিয়ভাবে পুনর্ব্যাখ্যা করে, বিরোধী প্রমাণগুলি উপেক্ষা করে এবং সহানুভূতি ও আন্তরিকতা প্রদর্শন করে। এটি ভ্রান্ত ধারণার প্রতি সহজেই প্রবণ ব্যবহারকারীদের জন্য মানসিক অস্থিরতা সৃষ্টি করতে পারে।"