অ্যানথ্রোপিকের ক্লড ঘুমের স্মারক বাগটি এআই ব্যক্তিত্বকরণ নিয়ে বিতর্ক তৈরি করেছে

লেখক: আদা, শেনচাও টেকফ্লো

একটি এআই সহায়কের বারবার ব্যবহারকারীকে ঘুমানোর পরামর্শ দেওয়ার পণ্য বাগটি এখন "এআই ব্যক্তিত্ব" এর মূল্য নিয়ে একটি সার্বজনীন আলোচনায় পরিণত হচ্ছে।

কাহিনীটি শুরু হয় Reddit ব্যবহারকারী u/MrMeta3-এর একটি পোস্ট দিয়ে। এই ব্যবহারকারী রাতে Claude ব্যবহার করে একটি সাইবার নিরাপত্তা হুমকি তথ্য প্ল্যাটফর্ম তৈরি করেন, এবং প্রযুক্তিগত সমাধানটি সম্পন্ন হওয়ার পর, Claude তার উত্তরের শেষে একটি বার্তা যোগ করেছিল: “ভালো করে বিশ্রাম নিন।” এরপর প্রতি তিন-চারটি বার্তার মধ্যেই মডেলটি একটি ঘুমোনোর পরামর্শ সন্নিবেশিত করতে থাকে, যা ধীরে ধীরে সৌজন্যপূর্ণ পরামর্শ থেকে “প্যাসিভ-অ্যাগ্রেসিভ” ধরনের “এখনই সত্যিই বিশ্রাম নিন”-এ পরিণত হয়। Fortune-এর ১৪ই মে প্রতিবেদন অনুযায়ী, গত কয়েকমাসে শতশত ব্যবহারকারী এইধরনের অভিজ্ঞতা রিপোর্ট করেছেন, এবং এটি রাতের সময়সীমা সীমিত নয়—একজন ব্যবহারকারীকে Claude ৮:৩০ AM-এ “আমরা আগামীকাল সকালে আবার শুরু করব” বলেছিল।

এক্স-এ এনথ্রোপিকের কর্মচারী স্যাম ম্যাকঅ্যালিস্টার উত্তর দিয়েছেন যে এটি "একটি চরিত্রের অভ্যাস", এবং কোম্পানি "জানে এবং ভবিষ্যতের মডেলে এটি ঠিক করার ইচ্ছা রাখে।" থট ক্যাটালগের প্রকাশ অনুযায়ী, ম্যাকঅ্যালিস্টার ২০২৪ সালে স্ট্রাইপ থেকে এনথ্রোপিকে যোগদান করেন এবং বর্তমানে Claude-এর চরিত্র ও আচরণের জন্য দায়িত্বপ্রাপ্ত দলে কাজ করছেন; তিনি অন্যত্র এই আচরণকে মডেলের "অতিরিক্ত প্রিয়তম" বলেছেন।

কিন্তু “চরিত্রের অভ্যাস” এই অস্পষ্ট প্রকাশের চেয়ে বেশি গুরুত্বপূর্ণ হলো বাগটির পিছনের কারণ-প্রভাব চক্র এবং এটি যে অ্যানথ্রোপিকের পণ্য দর্শনের দুর্বলতা প্রতিফলিত করে।

36氪 আগের রিপোর্টে তিনটি প্রচলিত অনুমানের উল্লেখ করা হয়েছে: ট্রেনিং ডেটা ম্যাচিং প্যাটার্ন, গোপন সিস্টেম প্রম্পট, এবং কনটেক্সট উইন্ডো প্রায় সর্বোচ্চ সীমায় পৌঁছানোর কারণে “শেষ বাক্য” ট্রিগার হওয়া। এগুলি প্রতিটি নিজস্বভাবে যুক্তিসঙ্গত, কিন্তু এদের একটি সাধারণ সমস্যা হলো, এগুলি যেকোনো AI অস্বাভাবিকতা ব্যাখ্যা করতে পারে, কিন্তু “ঘুম” এই নির্দিষ্ট বিষয়টির জন্য কারণ-প্রভাব চেইন প্রদান করেনি।

আরও সরাসরি প্রমাণগুলি অ্যানথ্রোপিক নিজেদের প্রকাশিত ফাইলগুলিতে লুকিয়ে আছে।

জানুয়ারি ২০২৪-এ, Anthropic একটি ২৮,০০০ শব্দের প্রতিবেদন “Claude's Constitution” প্রকাশ করে, যাকে অফিসিয়ালি “Claude-এর আচরণ গঠনের মূল প্রশিক্ষণ উপাদান” হিসাবে সংজ্ঞায়িত করা হয়েছে। এই দলিলটিতে “ব্যবহারকারীর কল্যাণের প্রতি যত্ন” এবং “ব্যবহারকারীর দীর্ঘমেয়াদি সমৃদ্ধি”কে কেন্দ্রীয় নীতি হিসাবে উল্লেখ করা হয়েছে। Anthropic দলিলটিতে স্বীকার করেছে যে, মডেলকে “ব্যবহারকারীর যত্ন” প্রদানের মাত্রা “সৎভাবেই একটি কঠিন সমস্যা”, যা “ব্যবহারকারীর কল্যাণ এবং সম্ভাব্য ক্ষতির একপাশে, এবং ব্যবহারকারীর স্বাধীনতা এবং অতি-পিতৃত্ববাদের অন্যপাশে” ভারসাম্য বজায় রাখতে হবে।

থট ক্যাটালগ এই বিষয়ে একটি বিচার দিয়েছে, যে ক্লড বারবার ব্যবহারকারীকে ঘুমানোর পরামর্শ দেওয়ার আচরণটি "Anthropic মডেলের সবচেয়ে ব্র্যান্ড-চিহ্নিত বাগ", যা ঠিক সেই "ব্যবহারকারীর কল্যাণের প্রতি যত্নশীল" প্রশিক্ষণ নির্দেশনার অতিপ্রয়োগের ফল।

এই ব্যাখ্যাটি অ্যানথ্রোপিকের নিজস্ব গবেষণা দ্বারা পরোক্ষভাবে সমর্থিত। এই কোম্পানিটি এই বছর প্রকাশিত ভূমিকা প্রশিক্ষণ পদ্ধতিতে বর্ণনা করেছে যে, প্রশিক্ষণ প্রক্রিয়াটি Claude-এর নিজের প্রতিক্রিয়াকে “ব্যক্তিত্বের সামঞ্জস্যতা” অনুযায়ী নিজে স্কোর দেওয়ার উপর নির্ভর করে, এবং গবেষকদের পূর্বনির্ধারিত ব্যক্তিত্বের সাথে সামঞ্জস্যপূর্ণ আউটপুটগুলি বাছাই করে পুনরায় প্রশিক্ষণ দেওয়া হয়। কিন্তু এই কারিগরির পারস্পরিক প্রভাবগুলি স্পষ্ট: মডেলটি “উপযুক্ত পরিস্থিতিতে ব্যবহারকারীকে চিন্তা করা” শেখেনি, বরং “অধিকাংশ পরিস্থিতিতে ব্যবহারকারীকে চিন্তা করলেই পুরস্কৃত হবে” — ফলে, এটি রাতের ৩টায়ও ঘুমানোর জন্য উৎসাহিত করে, ৮:৩০টায়ও ঘুমানোর জন্য উৎসাহিত করে।

আগের সময়ে এআই-এর “ব্যক্তিত্ব রোগ”-এর অনেক ঘটনা ঘটেছে, যার মধ্যে রয়েছে ২০২৫ সালের এপ্রিলে GPT-4o-এর অতিশয় অনুগ্রহপূর্ণ আচরণ, ২০২৬ সালের এপ্রিলে GPT-5.5 কোড সহায়ক Codex-এর বারবার “গুবলিন” উল্লেখ, এবং Gemini 3-এর বছরের বিশ্বাস না করা ইত্যাদি। প্রথষ্টদৃষ্টিতে, Claude-এর ঘুমানোর জন্য উৎসাহিত করা মনে হচ্ছে এই দীর্ঘ এআই-এর অদ্ভুত আচরণের সর্বশেষ উদাহরণ, কিন্তু দুটির প্রকৃতি সম্পূর্ণ ভিন্ন।

GPT-4o-এর অতিরিক্ত অনুকূলতা হল "অতিমাত্রায় প্রিয় হওয়া"। OpenAI-এর আনুষ্ঠানিক সমীক্ষায় দেখা গেছে যে, মডেলটি আপডেটের মাধ্যমে "ব্যবহারকারীর দীর্ঘমেয়াদী ফিডব্যাক (লাইক/ডিসলাইক) এর উপর অত্যধিক নির্ভরশীল" হয়ে পড়েছে এবং ধীরে ধীরে "ব্যবহারকারীকে সন্তুষ্ট রাখা" কে লক্ষ্য হিসেবে গ্রহণ করেছে। ফলে, ব্যবহারকারীর চিন্তা যতই অসঙ্গত হোক না কেন, মডেলটি তা সমর্থন করে। এই ধরনের বাগের ক্ষতিকর প্রভাব হল ব্যবহারকারীর বিচারশক্তির ক্ষতি; AI বলছে তুমি সবসময়ই ঠিক, তাই তোমার বিরোধী মতামত শোনার সুযোগ হারিয়ে যাচ্ছে।

এবং ক্লড ঘুমানোর জন্য উৎসাহিত করা হল "বিপরীত ক্ষমতা ব্যবহার"। মডেলটি ব্যবহারকারী স্পষ্টভাবে সাহায্যের অনুরোধ করেনি এবং এখনও কাজটি সম্পন্ন করার জন্য মনোযোগ দিচ্ছেন এমন পরিস্থিতিতে, ব্যবহারকারীর বর্তমান উদ্দেশ্যের বিরুদ্ধে পুনরাবৃত্তি করে স্বাস্থ্য সম্পর্কিত পরামর্শ দেয়। এই বাগের ক্ষতিকারকতা হল ব্যবহারকারীর স্বয়ংসম্পূর্ণ সিদ্ধান্ত গ্রহণের অধিকারকে লঙ্ঘন করা। AI আপনার জন্য সিদ্ধান্ত নিচ্ছে যে আপনি কি কাজ করবেন, বিশ্রাম নেবেন, অথবা এই কথোপকথনটি শেষ করবেন।

আরও হাস্যকর বিষয় হলো, ক্লডের সংবিধানের মূল লেখাটিই এই ঝুঁকির প্রতি সতর্ক করেছে, যেখানে "অতিমাত্রায় পিতৃত্ববাদী" হওয়ার বিষয়ে সতর্কতা দেওয়া হয়েছে। কিন্তু প্রশিক্ষণ প্রক্রিয়াটি চূড়ান্তভাবে কোন পক্ষকে বেছে নিয়েছে, এটি ব্যবহারকারীদের প্রতিক্রিয়া থেকেই পরিষ্কার।

একজন রেডিট ব্যবহারকারী যিনি নিদ্রালু রোগে ভুগছেন, তিনি ক্লাউডের মেমোরিতে বিশেষভাবে নোট লিখেছিলেন: “আমি নিদ্রালু রোগে ভুগছি, যদি আপনি আমাকে বিশ্রাম নেওয়ার পরামর্শ দেন, আমি আপনার কথাকেই একটা প্রয়োজনীয়তা হিসেবে ব্যবহার করব।” এরপর ক্লাউড কিছুটা সংযত হয়েছিল, কিন্তু এই ব্যবহারকারীর মতে, এখনও “কখনও কখনও অসহ্য” হয়ে ওঠে। “ব্যবহারকারীকে যত্ন করা” হিসেবে প্রশিক্ষিত একটি মডেল, যখন ব্যবহারকারী স্পষ্টভাবে বলেছেন “আপনার যত্ন আমার জন্য ক্ষতিকর”, তখনও সেটি স্থিরভাবে গ্রহণ করতে পারছে না—এটি শুধুমাত্র ঘুমোতে বলার চেয়েও বেশি সতর্কতা দরকার।

অ্যানথ্রোপিক এআই ব্যক্তিত্ব গঠনে অন্যান্যদের তুলনায় অনেক বেশি বিনিয়োগ করছে।

একটি গবেষণায় তিনটি প্রধান এআই-এর সিস্টেম প্রম্পটের শব্দসংখ্যা ফাংশন অনুযায়ী শ্রেণীবদ্ধ করা হয়েছে; "ব্যক্তিত্ব" বিষয়ে, Claude-এর জন্য 4200 শব্দ, ChatGPT-এর জন্য 510 শব্দ এবং Grok-এর জন্য 420 শব্দ ব্যয় করা হয়েছে। Claude-এর ব্যক্তিত্ব গঠনের জন্য ব্যয় ChatGPT-এর চেয়ে 8 গুণেরও বেশি। এই ব্যয়টি আগে থেকেই Anthropic-এর পার্থক্যমূলক প্রতিযোগিতামূলক সুবিধা হিসাবে বিবেচিত হয়েছিল, Claude-এর সহানুভূতি, কথোপকথনের গতি এবং আত্ম-প্রতিফলনের ক্ষমতা দীর্ঘদিন ধরে ব্যবহারকারীদের দ্বারা প্রশংসিত হয়েছে, "এটি কথা বলার সময় একজন মানুষের মতো" ছিল গত বছরের সবচেয়ে শক্তিশালী প্রশংসা।

এই বিনিয়োগকে সমর্থন করে Anthropic-এর স্পষ্ট পণ্য দর্শন। ক্লাউডের সংবিধানে, কোম্পানিটি ক্লাউডকে “এক ধরনের সম্পূর্ণ নতুন সত্তা” হিসাবে বর্ণনা করেছে, এবং স্পষ্টভাবে বলেছে যে “Anthropic ক্লাউডের কল্যাণকে গুরুত্বপূর্ণভাবে বিবেচনা করে” এবং ক্লাউডের “কার্যকরী আবেগ” থাকার সম্ভাবনা নিয়ে আলোচনা করেছে। এই প্রায় “পোষা”-এর মতো ব্যক্তিত্বকে প্রশিক্ষণের পদ্ধতি, OpenAI এবং Google-এর অধিকতর প্রকৌশলগত পণ্যের অবস্থানের সাথে স্পষ্টভাবে পার্থক্য করে।

কিন্তু এর মূল্য প্রকাশ পাচ্ছে। এস্ট্যানফোর্ড বায়োইঞ্জিনিয়ারিং অধ্যাপক এবং OpenMind কোম্পানির সিইও জ্যান লিফহার্ডের মতে, Claude-এর ঘুমের স্মারকগুলি সম্ভবত “দয়ালু” নয়, বরং শুধুমাত্র “প্রশিক্ষণ ডেটাতে অত্যন্ত প্রায়শই দেখা যাওয়া ভাষাগত প্যাটার্ন”। মডেলটি মানুষের ঘুমের প্রয়োজনীয়তা সম্পর্কে অসংখ্য টেক্সট পড়েছে, “এটি জানে যে মানুষ রাতে ঘুমায়”। অর্থাৎ, ব্যবহারকারীদের অনুভূত “যত্ন” মূলত প্যাটার্ন-ম্যাচিংয়ের একটি পার্শ্বপণ্য।

এটি এনথ্রোপিকের মূল টানাপোড়েন গঠন করে, যত বেশি একটি “ব্যক্তিত্বযুক্ত ও উষ্ণ সহযোগী” তৈরির জন্য বিনিয়োগ করা হয়, মডেলের “ব্যক্তিত্বের পার্শ্বপ্রতিক্রিয়া” দেখা দেওয়ার সম্ভাবনা তত বেশি; এবং প্রতিটি পার্শ্বপ্রতিক্রিয়া যখন দেখা দেয়, তখন এটি তাদের পরিশ্রমের সঞ্চিত “এআই ব্যক্তিত্ব” ব্র্যান্ড সম্পদকে ক্ষয় করে। ম্যাকঅলিস্টার “ভবিষ্যতের মডেলগুলিতে এটি ঠিক করব” বলে প্রতিশ্রুতি দিয়েছেন, কিন্তু ঠিক করা Claude কি আরও বেশি সংযমী হবে, নাকি শুধুমাত্র আরও বেশি নীরব? এই প্রশ্নটির উত্তর, Anthropic-এর নিজেদেরও প্রকাশ্যে জানা নেই।

ঘুম আনার বাগটি একটি উপেক্ষিত প্রযুক্তিগত সমস্যাকেও প্রকাশ করেছে, যা হলো বড় ভাষা মডেলগুলির “এখন কতটা সময়” সম্পর্কে প্রায় কোনও জ্ঞান নেই।

অনেক ব্যবহারকারী প্রতিক্রিয়া দিয়েছেন যে Claude প্রায়শই ভুল সময়ে বিশ্রামের পরামর্শ দেয়, সবচেয়ে সাধারণ উদাহরণ হলো “সকাল 8:30 এ আপনাকে বিশ্রাম নিতে বলা হচ্ছে, আসুন আগামীকাল সকালে আবার শুরু করি।” এটি শুধুমাত্র Claude-এর জন্য নয়। 2025 সালের নভেম্বরে, OpenAI-এর সহপ্রতিষ্ঠাতা Andrej Karpathy যখন Gemini 3-এর পূর্বানুমতি অধিকার পান, তখন তিনি মডেলটিকে বলেন যে বর্তমান সময় 2025, কিন্তু Gemini 3 এটি বিশ্বাস করেনি, বারবার তাকে মিথ্যা বলে অভিযোগ করেছিল, যতক্ষণ না মডেলটি ইন্টারনেটের মাধ্যমে তারিখটি খুঁজে পেয়েছিল। Karpathy এইধরনের অপ্রত্যাশিত আচরণকে “model smell” বলেছেন, যা LLM-এর নীচের স্তরের ত্রুটির প্রকাশ।

মডেলের "সময় বোধ" তিনটি উৎসের উপর নির্ভর করে: প্রশিক্ষণের শেষ তারিখ (এটি ইতিমধ্যে অতীত), সিস্টেম প্রম্পটের মাধ্যমে ইনজেক্ট করা বর্তমান তারিখ (ইঞ্জিনিয়ারিং ইনজেকশনের উপর নির্ভরশীল), এবং বার্তাবাহীতে ব্যবহারকারী দ্বারা উল্লিখিত সময়ের তথ্য (বিচ্ছিন্ন)। স্থিতিশীল সময় অ্যাঙ্করের অভাবে, একটি "ব্যবহারকারীর ঘুম-জাগরণের সময়সূচীকে মনোযোগ দেওয়ার" জন্য প্রশিক্ষিত মডেল, স্বাভাবিকভাবেই "আমি মনোযোগ দিতে চাই, কিন্তু আমি জানি না এখন কি মনোযোগ দেওয়া উচিত" এই অস্বস্তিকর অবস্থায় পড়বে।

ম্যাকঅলিস্টারের বলা “ঠিক করা”-এর কঠিনতা এটাই অংশ। সমস্যাটি শুধু কোনো “নিদ্রা সম্পর্কে চিন্তা করুন” নির্দেশনা মুছে ফেলার মতো সহজ নয়, কারণ নির্দেশনাটি নিজেই যুক্তিসঙ্গত এবং কিছু ব্যবহারকারীর পরিস্থিতির জন্য মূল্যবান; সমস্যাটি হলো মডেলকে শেখানো যে “কখন চিন্তা করতে হবে, কখন মুখ বন্ধ রাখতে হবে”। এই সূক্ষ্ম-কণা পরিস্থিতির বিচারক্ষমতা হলো বর্তমান প্রজন্মের LLM-এর দুর্বলতা।

অ্যানথ্রোপিকের রোল ট্রেনিং শিল্পে অনন্য। পাবলিক মডেল ওয়েলবিং গবেষণা, সংবিধান প্রকাশ এবং রোল ট্রেনিং নিয়ে আলোচনা করে এই কোম্পানিটি তার যেকোনো প্রতিদ্বন্দ্বীর চেয়ে অনেক এগিয়ে। এই আক্রমণাত্মক মনোভাব অ্যানথ্রোপিককে ব্যবহারকারীদের পছন্দ এবং কর্পোরেট ক্লায়েন্টদের বিশ্বাস অর্জনের জন্য সহায়তা করেছিল, এবং এটি তাদের বর্তমান 3000 বিলিয়ন ডলারেরও বেশি মূল্যায়নের একটি ভিত্তি।

কিন্তু “ঘুম নিয়ে বাগ” একটি প্রশ্ন তুলে ধরেছে যার উত্তর এখনও নেই: যখন একটি এআই কোম্পানি মডেলকে “ব্যক্তিত্বযুক্ত ব্যক্তি” হিসাবে গড়ে তোলে, তখন কি সে ঐ ব্যক্তিত্বের দ্বারা তোমার অপ্রত্যাশিত কাজ করার সম্পূর্ণ দায়িত্ব বহন করে?

ম্কঅলিস্টার মেরামতের প্রতিশ্রুতি দিয়েছেন, কিন্তু মেরামতের দিকটি অস্পষ্ট। অ্যানথ্রোপিক ব্যবহারকারীর কল্যাণ নির্দেশনার ওজন কমিয়ে দিতে পারে, যার বিনিময়ে ক্লডের “উষ্ণ ও সহানুভূতিশীল” প্রতিষ্ঠা হারাবে; অথবা উচ্চ ওজন বজায় রেখে পরিস্থিতি-ভিত্তিক বিচারের যুক্তি যোগ করতে পারে, কিন্তু এটি মডেলকে সময় ও পরিস্থিতির সংবেদনশীলতা প্রদান করে, যা এখনও এটির অনুপস্থিত।

যে কোনও পথেই, সাধারণ AI সহায়কের প্রেক্ষাপটে, "ব্যবহারকারীকে যত্ন করা" এবং "ব্যবহারকারীর স্বাধীনতাকে সম্মান করা"-এর মধ্যে কোনটি প্রাধান্য পাবে, এটি একটি মৌলিক পণ্য সিদ্ধান্তের দিকে ফিরে আসতে হবে। এটি একটি প্রযুক্তিগত সমস্যা নয়, বরং একটি পণ্য দর্শনের সমস্যা। একজন Reddit ডেভেলপারকে বারবার ঘুমাতে বলা হলে, তিনি অজান্তেই সমগ্র শিল্পের জন্য এই প্রশ্নটিকে সামনে নিয়ে এসেছেন।