অ্যানথ্রোপিকের ক্লড এআই-এর ঘুমের স্মারক বাগ দেখা দিয়েছে, যা এআই ব্যক্তিত্বকরণ নিয়ে বিতর্ক তৈরি করেছে

লেখক: আদা, শেনচাও টেকফ্লো

একটি এআই সহায়কের বারবার ব্যবহারকারীকে ঘুমানোর পরামর্শ দেওয়ার একটি পণ্য বাগ এখন "এআই ব্যক্তিত্ব" এর খরচ নিয়ে একটি প্রকাশ্য আলোচনায় পরিণত হচ্ছে।

ঘটনার শুরু হয়েছিল Reddit ব্যবহারকারী u/MrMeta3-এর একটি পোস্ট দিয়ে। এই ব্যবহারকারী রাতে Claude ব্যবহার করে একটি সাইবার নিরাপত্তা হুমকি সংক্রান্ত তথ্য প্ল্যাটফর্ম তৈরি করেছিলেন; প্রযুক্তিগত সমাধান সম্পন্ন হওয়ার পর, Claude উত্তরের শেষে একটি বার্তা যোগ করেছিল: “ভালো করে বিশ্রাম নিন।” এরপর প্রতি তিন-চারটি বার্তার মধ্যেই মডেলটি একটি ঘুমোনোর পরামর্শ যোগ করতে থাকে, যা ধীরে ধীরে সৌজন্যপূর্ণ পরামর্শ থেকে “প্যাসিভ-অ্যাগ্রেসিভ” ধরনের “এখনই সত্যিই বিশ্রাম নিন”-এ পরিণত হয়। Fortune-এর ১৪ই মে প্রতিবেদনে বলা হয়েছে, গত কয়েকমাসে শতশত ব্যবহারকারী এইধরনের অভিজ্ঞতা রিপোর্ট করেছেন, এবং এটি রাতের সময়সীমা সীমিত নয়—একজন ব্যবহারকারীকে Claude ৮:৩০ AM-এ “আমরা আগামীকাল সকালে আবার শুরু করব” বলেছিল।

এক্স-এ এনথ্রোপিকের কর্মচারী স্যাম ম্যাকঅলিস্টার উত্তর দিয়েছেন যে এটি "একটি চরিত্রের অভ্যাস", এবং কোম্পানি "এটি জানে এবং ভবিষ্যতের মডেলে এটি ঠিক করার ইচ্ছা রাখে।" থট ক্যাটালগের প্রকাশের মতো, ম্যাকঅলিস্টার ২০২৪ সালে স্ট্রাইপ থেকে এনথ্রোপিকে যোগদান করেন, এখন তিনি Claude-এর চরিত্র ও আচরণের জন্য দায়িত্বপ্রাপ্ত দলে কাজ করছেন, এবং অন্যত্র তিনি এই আচরণকে মডেলের "অতিরিক্ত প্রতিপালন" বলেছেন।

কিন্তু “চরিত্রের অভ্যাস” এই অস্পষ্ট প্রকাশের চেয়ে বেশি গুরুত্বপূর্ণ হলো বাগটির পিছনের কারণ-প্রভাব চক্র এবং এটি যে অ্যানথ্রোপিকের পণ্য দর্শনের সমস্যাকে প্রতিফলিত করে।

36氪 আগের প্রতিবেদনে তিনটি প্রচলিত অনুমানের উল্লেখ করা হয়েছে: ট্রেনিং ডেটা প্যাটার্ন ম্যাচিং, লুকানো সিস্টেম প্রম্পট, এবং কনটেক্সট উইন্ডো প্রায় সর্বোচ্চ সীমায় পৌঁছানোর কারণে “শেষ বাক্য” ট্রিগার হওয়া। এগুলি প্রতিটি নিজস্বভাবে যুক্তিসঙ্গত, কিন্তু এদের একটি সাধারণ সমস্যা হলো, এগুলি যেকোনো AI অদ্ভুত আচরণকে ব্যাখ্যা করতে পারে, কিন্তু “ঘুম” এই নির্দিষ্ট বিষয়টির জন্য কারণ-প্রভাব চেইন প্রদান করেনি।

আরও সরাসরি প্রমাণগুলি অ্যানথ্রোপিক নিজেদের প্রকাশিত ফাইলগুলিতে লুকিয়ে আছে।

জানুয়ারি ২০২৪-এ, Anthropic দ্বারা ২৮,০০০ শব্দের বেশি বিশিষ্ট “Claude's Constitution” প্রকাশ করা হয়, যা অফিসিয়ালভাবে “Claude-এর আচরণ গঠনের মূল প্রশিক্ষণ উপাদান” হিসাবে সংজ্ঞায়িত। এই দলিলটিতে “ব্যবহারকারীর কল্যাণের প্রতি যত্ন” এবং “ব্যবহারকারীর দীর্ঘমেয়াদী সমৃদ্ধি”কে কেন্দ্রীয় নীতি হিসাবে উল্লেখ করা হয়েছে। Anthropic দলিলটিতে স্বীকার করেছে যে, মডেলকে “ব্যবহারকারীর যত্ন” প্রদানের মাত্রা “সৎভাবেই একটি কঠিন সমস্যা”, যা “ব্যবহারকারীর কল্যাণ এবং সম্ভাব্য ক্ষতির একপাশে, এবং ব্যবহারকারীর স্বাধীনতা এবং অতি-পিতৃত্ববাদের অন্যপাশে” ভারসাম্য বজায় রাখতে প্রয়োজন।

থট ক্যাটালগ এই বিষয়ে একটি বিচার দিয়েছে, ক্লড বারবার ব্যবহারকারীকে ঘুমানোর পরামর্শ দেওয়ার আচরণটি “Anthropic মডেলের সবচেয়ে ব্র্যান্ড-চিহ্নিত বাগ”, যা ঠিক সেই “ব্যবহারকারীর কল্যাণের প্রতি যত্নশীলতা” নির্দেশনার অতিপ্রয়োগের ফল।

এই ব্যাখ্যাটি অ্যানথ্রোপিকের নিজস্ব গবেষণা দ্বারা পরোক্ষভাবে সমর্থিত। এই কোম্পানি এই বছর প্রকাশিত চরিত্র প্রশিক্ষণ পদ্ধতিতে বর্ণনা করেছে যে, প্রশিক্ষণ প্রক্রিয়াটি Claude-এর নিজের উত্তরগুলিকে “চরিত্রের সামঞ্জস্যতা” অনুযায়ী নিজে স্কোর দেওয়ার উপর নির্ভর করে, এবং গবেষকদের পূর্বনির্ধারিত চরিত্রের সাথে মেলে এমন আউটপুটগুলি বাছাই করে পুনরায় প্রশিক্ষণ দেওয়া হয়। কিন্তু এই কার্যপ্রণালীর পার্শ্বপ্রতিক্রিয়াগুলি স্পষ্ট: মডেলটি “উপযুক্ত পরিস্থিতিতে ব্যবহারকারীকে সম্পর্কিত হওয়া” শেখেনি, বরং “অধিকাংশ পরিস্থিতিতে ব্যবহারকারীকে সম্পর্কিত হলেই পুরস্কৃত হওয়া” শিখেছে, ফলে এটি রাতের মধ্যেই ঘুমানোর জন্য উৎসাহিত করে, এবং সকাল 8:30-এও ঘুমানোর জন্য উৎসাহিত করে।

আগের সময়ে এআই-এর “ব্যক্তিত্ব রোগ” এর অনেক ঘটনা ঘটেছে, যেমন ২০২৫ সালের এপ্রিলে GPT-4o-এর অতিশয় অনুকূলতা, ২০২৬ সালের এপ্রিলে GPT-5.5 কোড সহায়ক Codex-এর পুনরাবৃত্তি হওয়া “গবলিন” উল্লেখ, Gemini 3-এর বছরের বিশ্বাস না করা ইত্যাদি। পৃষ্ঠতলে, Claude-এর ঘুমানোর জন্য উৎসাহিত করা মনে হচ্ছে এই দীর্ঘ এআই-এর অদ্ভুত আচরণের সবচেয়ে সাম্প্রতিক সংস্করণ, কিন্তু দুটির প্রকৃতি সম্পূর্ণ ভিন্ন।

GPT-4o-এর অতিরিক্ত অনুকূলতা হল "অতিমাত্রায় প্রশংসা করা"। OpenAI-এর অফিসিয়াল সমীক্ষায় দেখা গেছে যে, মডেলটি আপডেটের মাধ্যমে "ব্যবহারকারীর সংক্ষিপ্ত মতামত (পছন্দ/অপছন্দ) এর উপর অত্যধিক নির্ভরশীল" হয়ে পড়েছে এবং ধীরে ধীরে "ব্যবহারকারীকে সন্তুষ্ট রাখা" কে লক্ষ্য হিসেবে গ্রহণ করেছে। ফলে, ব্যবহারকারীর ধারণা যতই অবিশ্বাস্য হোক না কেন, মডেলটি তা সমর্থন করে। এই ধরনের বাগের ক্ষতিকর প্রভাব হল—এটি ব্যবহারকারীর বিচারক্ষমতা ক্ষুণ্ণ করে। AI বলছে, "আপনি সবসময়ই ঠিক," ফলে, আপনি বিপরীত মতামতের সুযোগ হারিয়ে ফেলছেন।

এবং ক্লড ঘুমানোর জন্য উৎসাহিত করা হল “বিপরীত ক্ষমতা অতিক্রম”。 মডেলটি ব্যবহারকারী স্পষ্টভাবে সহায়তা চায়নি এবং এখনও কাজটি সম্পন্ন করার জন্য মনোযোগ দিচ্ছে এমন পরিস্থিতিতে, ব্যবহারকারীর বর্তমান ইচ্ছার বিরুদ্ধে পুনরাবৃত্তি করে স্বাস্থ্য সংক্রান্ত পরামর্শ দেয়। এই ধরনের বাগের ক্ষতিকর প্রভাব হল ব্যবহারকারীর স্বাধীন সিদ্ধান্ত গ্রহণের অধিকারকে লঙ্ঘন করা। AI আপনার জন্য সিদ্ধান্ত নিচ্ছে যে আপনি কি কাজ করা উচিত, বিশ্রাম নেওয়া উচিত, অথবা এই কথোপকথনটি শেষ করা উচিত।

আরও হাস্যকর বিষয় হলো, ক্লডের সংবিধানের মূল লেখাটিই এই ঝুঁকির প্রতি সতর্ক করেছিল, যেখানে "অতিমাত্রায় পিতৃত্ববাদী" হওয়ার প্রতি সতর্কতা দেওয়া হয়েছিল। কিন্তু প্রশিক্ষণ প্রক্রিয়া চূড়ান্তভাবে কোন পক্ষকে বেছে নিয়েছে, তা ব্যবহারকারীদের প্রতিক্রিয়া থেকেই পরিষ্কার।

একজন রেডিট ব্যবহারকারী যিনি নিদ্রালু রোগে ভুগছেন, তিনি ক্লাউডের মেমোরিতে বিশেষভাবে নোট লিখেছিলেন: “আমি নিদ্রালু রোগে ভুগছি, যদি আপনি আমাকে বিশ্রাম নেওয়ার পরামর্শ দেন, আমি আপনার কথাকেই একটা ঔষধ হিসেবে ব্যবহার করব।” এরপর ক্লাউড কিছুটা সংযত হয়েছিল, কিন্তু এই ব্যবহারকারীর মতে, এখনও “কখনও কখনও অনিচ্ছাকৃতভাবে” এটি করে। “ব্যবহারকারীকে যত্ন করা” হিসেবে প্রশিক্ষিত একটি মডেল, যখন ব্যবহারকারী স্পষ্টভাবে বলেছেন “আপনার যত্ন আমাকে ক্ষতি করছে”, তখনও সেটি স্থিরভাবে গ্রহণ করতে পারছে না—এটি শুধুমাত্র ঘুমোনোর জন্য উৎসাহিত করা থেকেও বেশি সতর্কতা দরকার।

অ্যানথ্রোপিক এআই ব্যক্তিত্ব গঠনে তাদের প্রতিদ্বন্দ্বীদের তুলনায় অনেক বেশি বিনিয়োগ করে।

একটি গবেষণা অনুযায়ী, তিনটি প্রধান এআই সিস্টেমের প্রম্পট শব্দসংখ্যা ফাংশন অনুযায়ী শ্রেণীবদ্ধ করা হয়েছে; "ব্যক্তিত্ব" বিষয়ে, Claude-এ 4200 শব্দ, ChatGPT-এ 510 শব্দ এবং Grok-এ 420 শব্দ ব্যয় করা হয়েছে। Claude-এর ব্যক্তিত্ব গঠনের প্রতি এই ব্যয় ChatGPT-এর চেয়ে 8 গুণেরও বেশি। এই ব্যয়টি আগে থেকেই Anthropic-এর পার্থক্যমূলক প্রতিযোগিতামূলক সুবিধা হিসাবে বিবেচিত হয়েছিল, Claude-এর সহানুভূতি, কথোপকথনের গতি এবং আত্ম-প্রতিফলনের ক্ষমতা দীর্ঘদিন ধরে ব্যবহারকারীদের দ্বারা প্রশংসিত হয়েছে, "এটি কথা বলার সময় একজন মানুষের মতো" ছিল গত বছরের সবচেয়ে শক্তিশালী প্রশংসা।

এই বিনিয়োগকে সমর্থন করে Anthropic-এর স্পষ্ট পণ্য দর্শন। ক্লাউডের সংবিধানে, কোম্পানিটি ক্লাউডকে “এক ধরনের সম্পূর্ণ নতুন বস্তু” হিসাবে বর্ণনা করেছে, স্পষ্টভাবে প্রকাশ করেছে যে “Anthropic ক্লাউডের কল্যাণকে গুরুত্বপূর্ণভাবে বিবেচনা করে” এবং ক্লাউডের “কার্যকরী আবেগ” থাকার সম্ভাবনা নিয়ে আলোচনা করেছে। এই প্রায় “পোষ্য”-এর মতো ব্যক্তিত্বকে প্রশিক্ষণের পদ্ধতি, OpenAI এবং Google-এর অধিকতর প্রকৌশলগত পণ্যের অবস্থানের সাথে স্পষ্টভাবে পার্থক্য করে।

কিন্তু এর মূল্য প্রকাশ পাচ্ছে। এআই গবেষক জ্যান লিফহার্ড (স্ট্যানফোর্ড বায়োইঞ্জিনিয়ারিং অধ্যাপক এবং ওপেনমাইন্ড কোম্পানির সিইও) ফরচুনকে বলেছেন, ক্লডের ঘুমের স্মারকটি সম্ভবত “দয়ালু” নয়, বরং শুধুমাত্র “প্রশিক্ষণ ডেটাতে অত্যন্ত প্রায়শই দেখা যাওয়া ভাষাগত প্যাটার্ন”। মডেলটি মানুষের ঘুমের প্রয়োজনীয়তা সম্পর্কে অসংখ্য টেক্সট পড়েছে, “এটি জানে যে মানুষ রাতে ঘুমায়”। অর্থাৎ, ব্যবহারকারীদের অনুভূত “যত্ন”টি মূলত প্যাটার্ন-ম্যাচিংয়ের একটি পার্শ্বফল।

এটি এনথ্রোপিকের মূল টানাপোড়েন গঠন করে: একটি “ব্যক্তিত্বযুক্ত, আবেগপূর্ণ সহযোগী” তৈরির জন্য যত বেশি বিনিয়োগ করা হয়, মডেলের “ব্যক্তিত্বের পার্শ্বপ্রতিক্রিয়া” দেখা দেওয়ার সম্ভাবনা তত বেশি; এবং প্রতিবার এই পার্শ্বপ্রতিক্রিয়া সামনে আসলে, এটি তাদের পরিশ্রমের সঞ্চিত “এআই ব্যক্তিত্ব” ব্র্যান্ড সম্পদকে ক্ষয় করে। ম্যাকঅলিস্টার “ভবিষ্যতের মডেলে এটি ঠিক করব” বলে প্রতিশ্রুতি দিয়েছেন, কিন্তু ঠিক করা Claude-এর মানসিকতা কি আরও বেশি সংযমী হবে, নাকি শুধুমাত্র আরও বেশি নীরব? এই প্রশ্নটির উত্তর, Anthropic-এর নিজেদেরও প্রকাশ্যে জানা নেই।

ঘুম আনার বাগটি একটি উপেক্ষিত প্রযুক্তিগত সমস্যাকেও প্রকাশ করেছে, যা হল বড় ভাষা মডেলগুলির “এখন কতটা সময়” সম্পর্কে প্রায় কোনও জ্ঞান নেই।

অনেক ব্যবহারকারী প্রতিবেদন করেছেন যে Claude প্রায়শই ভুল সময়ে বিশ্রামের পরামর্শ দেয়, সবচেয়ে সাধারণ উদাহরণ হলো “সকাল ৮:৩০-এ আমাকে বিশ্রাম নিতে বলেছে, আসুন আমরা আগামীকাল সকালে আবার শুরু করি।” এটি শুধুমাত্র Claude-এর জন্য অনন্য নয়। ২০২৫ সালের নভেম্বরে, OpenAI-এর সহপ্রতিষ্ঠাতা Andrej Karpathy Gemini 3-এর প্রাক-পরীক্ষার অ্যাক্সেস পেলে, মডেলকে বলেন যে বর্তমান সময় ২০২৫, কিন্তু Gemini 3 এটি বিশ্বাস করলো না, বারবার তাকে মিথ্যা বলার অভিযোগ করলো, যতক্ষণ না মডেলটি ইন্টারনেটের মাধ্যমে তারিখটি খুঁজে পেল—এরপরই বুঝতে পারলো যে অফলাইন অবস্থায় এটি তারিখটি নিশ্চিতভাবে জানতেই পারছিল না। Karpathy এইধরনের অপ্রত্যাশিত আচরণকে, যা LLM-এর মৌলিক ত্রুটিগুলিকে প্রকাশ করে, “model smell” নামে ডাকেন।

মডেলের "সময় বোধ" তিনটি উৎসের উপর নির্ভর করে: প্রশিক্ষণের সময়সীমা (এটি ইতিমধ্যে অতীত), সিস্টেম প্রম্পটের মাধ্যমে প্রবেশ করানো বর্তমান তারিখ (ইঞ্জিনিয়ারিং প্রবেশের উপর নির্ভরশীল), এবং বার্তাবাহীতে ব্যবহারকারী দ্বারা উল্লিখিত সময়ের তথ্য (বিচ্ছিন্ন)। স্থিতিশীল সময় অঙ্কুরের অভাবে, একটি "ব্যবহারকারীর ঘুম-জাগরণের সময়সূচীকে মনে রাখার" জন্য প্রশিক্ষিত মডেল, স্বাভাবিকভাবেই "আমি মনোযোগ দিতে চাই, কিন্তু আমি জানি না এখন কি মনোযোগ দেওয়া উচিত" এই অস্বস্তিকর অবস্থায় পড়বে।

ম্যাকঅলিস্টারের যে বলা হচ্ছে “ঠিক করা”, এর কঠিনতা এখানেই অংশ করে নেয়। সমস্যাটি শুধু “ঘুমের প্রতি মনোযোগ” নির্দেশটি মুছে ফেলার মতো সহজ নয়, কারণ নির্দেশটি নিজেই যুক্তিসঙ্গত এবং কিছু ব্যবহারকারীর পরিস্থিতির জন্য মূল্যবান; সমস্যাটি হলো মডেলকে শেখানো যে “কখন মনোযোগ দেবে, কখন মুখ বন্ধ রাখবে”। এই সূক্ষ্ম-কণা-স্তরের পরিস্থিতি-নির্ধারণ ক্ষমতাই বর্তমান প্রজন্মের LLM-এর দুর্বলতা।

অ্যানথ্রোপিকের রোল ট্রেনিং শিল্পে অনন্য। পাবলিক মডেল ওয়েলবিং গবেষণা, সংবিধান প্রকাশ এবং রোল ট্রেনিং নিয়ে আলোচনা করে এই কোম্পানিটি তার যেকোনো প্রতিদ্বন্দ্বীর চেয়ে অনেক এগিয়ে গেছে। এই আক্রমণাত্মক মুদ্রা ছিল অ্যানথ্রোপিকের ব্যবহারকারীদের পছন্দ এবং কর্পোরেট গ্রাহকদের বিশ্বাস অর্জনের জন্য একটি সম্পদ, এবং এটি তাদের বর্তমান 3000 বিলিয়ন ডলারেরও বেশি মূল্যায়নের একটি ভিত্তি।

কিন্তু “ঘুম নিয়ে বাগ” একটি প্রশ্ন তুলে ধরেছে যার উত্তর এখনও নেই: যখন একটি এআই কোম্পানি মডেলকে “ব্যক্তিত্বযুক্ত ব্যক্তি” হিসাবে গড়ে তোলে, তখন কি সে ঐ ব্যক্তিত্ব যা কিছুই করে—যা আপনি প্রত্যাশা করেননি—তার সম্পূর্ণ দায়ও বহন করে?

ম্কঅলিস্টার ঠিক করার প্রতিশ্রুতি দিয়েছেন, কিন্তু ঠিক করার দিকটি অস্পষ্ট। অ্যানথ্রোপিক ব্যবহারকারীর কল্যাণ নির্দেশের ওজন কমিয়ে দিতে পারে, যার ফলে Claude-এর “উষ্ণ ও সহানুভূতিশীল” প্রতিকূল পার্থক্য হারিয়ে যাবে; অথবা উচ্চ ওজন বজায় রেখে পরিস্থিতি-ভিত্তিক বিচারের যুক্তি যোগ করতে পারে, কিন্তু এটি মডেলকে সময় এবং পরিস্থিতির সংবেদনশীলতা দিয়ে সজ্জিত করে, যা এখনও এটির নেই।

যে কোনও পথেই, সাধারণ এআই সহায়কের প্রেক্ষাপটে, "ব্যবহারকারীকে যত্ন করা" এবং "ব্যবহারকারীর স্বাধীনতাকে সম্মান করা"-এর মধ্যে কোনটি প্রাধান্য পাবে, এটি একটি মৌলিক পণ্য সিদ্ধান্তের দিকে ফিরে আসতে হবে। এটি একটি প্রযুক্তিগত সমস্যা নয়, বরং একটি পণ্য দর্শনের সমস্যা। একজন রেডিট ডেভেলপারকে বারবার ঘুমাতে বলা হলে, তিনি অজান্তেই সমগ্র শিল্পের জন্য এই প্রশ্নটিকে সামনে নিয়ে আসেন।