টোকেন খরচ বাড়ছে যখন এআই কোম্পানিগুলি 'ফ্রি ব্যবহার' থেকে 'প্রিসিশন অপ্টিমাইজেশন'-এ সরে যাচ্ছে

iconMetaEra
শেয়ার
AI summary iconসারাংশ
এআই কোম্পানিগুলি মেটাএরা কম্পিউট খরচ বৃদ্ধির প্রতিবেদন করার পর বিনামূল্যে টোকেন অ্যাক্সেস থেকে দূরে সরে যাচ্ছে। সাবসিডি শেষ হওয়ার পর, ডেভেলপাররা এখন প্রতিটি টোকেন ট্র্যাক করছে, সেমেনটিক ক্যাশিং এবং প্রম্পট কম্প্রেশন ব্যবহার করে। ওপেনক্লস এবং হারমিস দক্ষ সম্পদ ব্যবস্থাপনা প্রদান করে। বাজেট কঠোরকরণের মধ্যে মুদ্রাস্ফীতির বিরুদ্ধে হেজ হিসাবে BTC এখনও একটি প্রধান ফোকাস। CFT নিয়মাবলীও কোম্পানিগুলির AI ব্যয় বণ্টনের উপর প্রভাব ফেলছে।
এখন আপনার টোকেনগুলি একজন প্রচলিত দোকানদারের মতো হিসাব করার সময়।

লেখক, উৎস: 0x9999in1, ME News

TL;DR

  • পাওয়ার হাইপার বৃদ্ধির শেষ হল বিলের অবিচল বৃদ্ধি। বড় কোম্পানিগুলির সাবসিডির মধুর সময়কাল আনুষ্ঠানিকভাবে শেষ হয়েছে, টোকেন হয়ে উঠেছে ডিজিটাল যুগের কঠিন মুদ্রা, প্রতিটি বুঁদ পাওয়ারের জন্য দাম নির্ধারিত হয়েছে।
  • অপচয় সর্বত্র এবং চোখে পড়ে। অপ্রয়োজনীয় প্রম্পট, অনিয়ন্ত্রিত RAG (রিট্রিভাল-অ্যাডেড জেনারেশন) বর্জ্য এবং অসীম চক্রে আটকে যাওয়া এজেন্টগুলি কোম্পানির নগদ প্রবাহকে চুপিচুপি এবং দ্রুত শোষণ করছে।
  • অত্যন্ত প্রকৌশলগত আত্মরক্ষা অত্যন্ত প্রয়োজন। বৈষম্য ক্যাশ (Semantic Cache), প্রম্পট সংকুচন (Prompt Compression) এবং মডেল রাউটিং (Model Routing) এখন অপরিহার্য নয়, বরং জীবন-মৃত্যুর তিনটি মূল হাতিয়ার।
  • ফ্রন্টিয়ার এজেন্ট ফ্রেমওয়ার্ক দিকনির্দেশ করেছে। ওপেনক্লস এবং হারমিসের মতো এজেন্টগুলি সঠিক প্রেক্ষাপট ব্যবস্থাপনা এবং স্ট্রাকচারড আউটপুটের মাধ্যমে মোবাইল ডিভাইসের মতো কম প্রসেসিং ক্ষমতা সম্পন্ন পরিস্থিতিতে প্রকৃত “টোকেন অর্থনীতি” প্রদর্শন করছে।
  • চূড়ান্ত ঔষধ হল আরওআই (বিনিয়োগ ফেরত) চিন্তাধারার জাগরণ। কার্যক্রমের উপর কাঁচা চাপ দেওয়া বন্ধ করুন এবং সূক্ষ্ম পরিচালনার দিকে যান। ক্যালকুলেশন বৃদ্ধি শিল্পের শেষ নয়, বরং একটি কঠোর পরিষ্কারকরণ, যা শুধুমাত্র খরচের প্রতি সত্যিকারের শ্রদ্ধা রাখতে জানে এমন খেলোয়াড়দের রেখে যায়।

হ্যালুসিনেশন ভাঙ্গা: ক্যালকুলেশন বিল যখন মৃত্যুর আহ্বান হয়ে ওঠে

বাতাস থমকে গেল।

গত দুই বছর ধরে, আমরা একটি মূলধন এবং বৃহৎ প্রতিষ্ঠান দ্বারা সুন্দরভাবে পরিকল্পিত মিথ্যার জগতে বাস করেছি। এই মিথ্যার জগতে, ক্যালকুলেশন ক্ষমতা মনে হচ্ছে পানির নল। নলটি খুলে দিলে, বড় মডেলগুলি অবিরামভাবে সুন্দর শব্দ, জটিল কোড এবং যেন সবকিছু জানা উত্তরগুলি বের করে।

আমরা অপব্যয় করি। আমরা কয়েক সহস্র শব্দের দীর্ঘ দলিলগুলি নিঃশেষে প্রম্পটে পুরিয়ে দিই। আমরা কয়েক শত বিলিয়ন প্যারামিটারের শীর্ষস্থানীয় মডেলকে “এই অংশটির প্রথম অক্ষরগুলি বড় হাতের অক্ষরে রূপান্তর করুন” এর মতো অবিশ্বাস্য ক্ষুদ্র কাজগুলির জন্য ব্যবহার করি।

কেন? কারণ এটি সস্তা। কারণ OpenAI, Anthropic ইত্যাদি বিনিয়োগকারীদের টাকা দিয়ে আমাদের জন্য পেমেন্ট করছে।

এখন, স্বপ্ন শেষ হয়ে গেল।

ক্যালকুলেশন ক্ষমতা সম্পূর্ণভাবে বেড়েছে। এটি ভয় ফেলার কথা নয়, এটি ঘটছে এমন একটি কঠোর বাস্তবতা। নভিডিয়া H100 চিপের জন্য প্রতিযোগিতা ব্যবসায়িক প্রতিযোগিতা থেকে ভূ-রাজনৈতিক পর্যায়ের খেলায় পরিণত হয়েছে। ডেটা সেন্টারের শক্তি খরচ গ্রিডের সীমানা প্রায় ছুঁয়েছে। প্রতিটি API কলের পিছনে রয়েছে সিলিকন চিপের পোড়ানো এবং কুলিং টাওয়ারের গুঞ্জন।

বড় বড় কোম্পানিগুলি এখন দান করছে না। API-এর চার্জিং ইউনিট এখনও সেই অত্যন্ত ক্ষুদ্র “1K Tokens” হিসাবেই রয়ে গেছে, কিন্তু যখন আপনার ব্যবসার পরিসর বাড়তে শুরু করে, যখন আপনার দিনের কল সংখ্যা লাখ, কোটি পার করে, তখন সেই সংখ্যাটি আর ছোট্ট কিছু থাকে না।

এটি জলপ্রপাত। এটি রক্ত চুষে নেওয়ার যন্ত্র। এটি যেকোনো স্টার্টআপের সিএফওকে রাতের বেলা জাগিয়ে তুলতে পারে এমন একটি স্বপ্নভঙ্গ।

টোকেন, এই বড় মডেল যুগের সবচেয়ে মৌলিক পরমাণু একক, এখন ডলার এবং চীনা ইয়ুয়ানের সমান হয়ে গেছে। এক শব্দে হাজার সোনা, এখন অতিশয়োক্তিমূলক শৈল্পিক বর্ণনা নয়, বরং বাস্তব সোনা ও রৌপ্যের আর্থিক বিবরণী।

ক্যালকুলেশন প্রাইস বাড়ার পর টোকেন সাশ্রয় করবেন কিভাবে?

এটি শুধু একটি জটিল প্রযুক্তিগত সমস্যা নয়। এটি একটি ব্যবসায়িক মডেলের সাফল্য বা ব্যর্থতার জন্য একটি জীবন-মৃত্যুর প্রশ্ন।

গোপন কোণ: আপনার টোকেন কীভাবে হারিয়ে যায়?

রক্তপাত বন্ধ করতে, প্রথমে আহত স্থানটি খুঁজে বার করতে হবে।

অনেকেই টোকেন ব্যয়ের কথা বুঝতে পারে না। তারা প্রতি মাসের বাড়তি বিল দেখে, যেন একটি অবোধ্য গ্রন্থ দেখছে। আসলে, টোকেনের ক্ষয় প্রায়শই সবচেয়ে কম মনোযোগ দেওয়া গোপন কোণাগুলিতেই ঘটে।

সৌজন্যের মূল্য এবং "জ্যাঙ্ক টক" ফাঁদ

আপনি কি এআই-এর সাথে সৌজন্যপূর্ণভাবে কথা বলেন?

হ্যালো, আপনি কি আমাকে একটি সাহায্য করতে পারেন? আপনাকে অনেক ধন্যবাদ, আমাকে একজন অভিজ্ঞ মার্কেটিং বিশেষজ্ঞের ভূমিকা পালন করতে হবে...

থামুন। থামুন।

মানুষ হিসাবে তুমি একজন জেন্টলম্যান। কিন্তু টোকেন অর্থনীতিতে তুমি একজন বর্বর।

বড় মডেলের কোনো আবেগ নেই। এটি আপনার “দয়া করে” এবং “ধন্যবাদ” প্রয়োজন করে না। এটি সেই সব অপ্রাসঙ্গিক সামাজিক অভিবাদনেরও প্রয়োজন করে না। প্রতিটি অক্ষর, প্রতিটি বিরামচিহ্ন, এমনকি প্রতিটি স্পেস, একটি টোকেন। এগুলোর জন্য চার্জ করা হয়।

আরও ভয়ঙ্কর হলো ফ্রেমওয়ার্ক দ্বারা তৈরি করা “বেকার কথা”। অনেক ডেভেলপার অ্যাপ্লিকেশন তৈরির সময় আউটপুটের স্থিতিশীলতা নিশ্চিত করতে অত্যন্ত দীর্ঘ, অতিরিক্ত জটিল সিস্টেম প্রম্পট (System Prompt) ব্যবহার করেন। “আপনাকে নিম্নলিখিত দশটি নীতি মেনে চলতে হবে…” “যদি আপনি জানেন না, তবে ‘জানি না’ বলুন, কোনো কিছু গড়ে তুলবেন না…”

এই কথাগুলি কি উপকারী? হ্যাঁ। কিন্তু প্রতিটি কথোপকথন, প্রতিটি মাল্টি-রাউন্ড ইন্টারঅ্যাকশনে এই হাজার হাজার টোকেন পুনরায় গণনা করতে হলে, এর অপচয় অবিশ্বাস্য। কনটেক্সট উইন্ডো একটি বিনামূল্যের স্টোরেজ ক্যাবিনেট নয়, এটি একটি ম্যানহাটনের সিবিডি।

অনিয়ন্ত্রিত RAG: হিংস্র ডকুমেন্ট ডাম্পিং

RAG (রিট্রিভাল-অ্যাডভান্সড জেনারেশন) কে বড় মডেলের হ্যালুসিনেশন সমাধানের জন্য একটি সিলভার বুলেট হিসেবে প্রশংসা করা হয়।

কিন্তু বাস্তবে RAG প্রায়শই একটি দুর্ঘটনা।

আদর্শ RAG: সবচেয়ে সংশ্লিষ্ট তিনটি বাক্য সঠিকভাবে খুঁজে বার করে মডেলকে দিন, যাতে আদর্শ উত্তর পাওয়া যায়।

বাস্তবসম্মত RAG: ব্যবহারকারী একটি প্রশ্ন করল, ভেক্টর ডাটাবেস এক ঝলকে দশটি দশহাজার শব্দের PDF ডকুমেন্ট মডেলের মুখের উপর ঠেলে দিল।

“তুমি নিজেই উত্তর খুঁজে বের করো।” ডেভেলপার ভাবল।

এটি শুধু আলসেমি নয়। এটি ক্যালকুলেশন পাওয়ারের বিরুদ্ধে অপরাধ।

অত্যধিক অসম্পর্কিত প্রেক্ষাপট তথ্য শুধু মডেলের মনোযোগ মেকানিজমকে বিঘ্নিত করে না (যা "মিডল লস্ট" ঘটনার কারণ হয়), বরং এটি খুব বেশি টোকেন খরচ করে। আপনি মনে করছেন আপনি শুধু একটি সহজ প্রশ্ন জিজ্ঞাসা করেছেন, কিন্তু বাস্তবে আপনি মডেলকে অর্ধেক লাইব্রেরি পড়তে দিয়েছেন। এই পড়ার খরচটি আপনারই বহন করতে হবে।

সিসিটি চক্রে আটকে যাওয়া এজেন্ট

RAG-এর চেয়ে ব্যয়বহুল হল নিয়ন্ত্রণহীন এজেন্ট।

এআইকে পরিকল্পনা, চিন্তা এবং টুল ব্যবহারের ক্ষমতা প্রদান করা বর্তমানের অপরিহার্য বিষয়। রিয়্যাক্ট (যুক্তি এবং কার্য) মডেলটি এআইকে মানুষের মতো কাজ করতে দেখায়।

আমাকে আজকের আবহাওয়া চেক করতে হবে।

ওয়েদার এপিআই কল করুন।

পর্যবেক্ষণ: প্রাপ্তি ব্যর্থ হয়েছে।

ভাবছিলাম, আগে ব্যর্থ হয়েছিলাম, আবার চেষ্টা করছি।

ওয়েদার এপিআই কল করুন।

কি বুঝতে পারলেন? যদি API হঠাৎ বন্ধ হয়ে যায় বা এজেন্টের লজিক একটি অন্ধকূপে আটকে যায়, তাহলে এটি এই চক্রের মধ্যে অবিরাম ঘুরতে থাকবে। প্রতিটি পর্যায়ের “চিন্তা” এবং “কাজ” অত্যন্ত মহঙ্গা আউটপুট টোকেন খরচ করে।

এবং আউটপুট টোকেনের দাম সাধারণত ইনপুট টোকেনের কয়েকগুণ।

একটি কাটঅফ মেকানিজম এবং সর্বোচ্চ পুনরাবৃত্তি সীমা না রাখা এজেন্ট হল একটি টোকেন খাওয়া অনন্ত গহ্বর। এটি আপনি ঘুমাচ্ছেন তখন আপনার ক্রেডিট কার্ডটি ব্যবহার করে ফেলতে পারে।

刮骨疗毒:硬核的工程自救指南

দাম বাড়ানোর বিরুদ্ধে অভিযোগ করা অকার্যকর। পরিপক্ক পর্যবেক্ষকরা কেবলমাত্র প্রতিক্রিয়ার উপায় দেখেন।

যখন ক্রুদ্ধ ক্যালকুলেশন ক্ষমতা পুরনো হয়ে যায়, তখন সূক্ষ্ম প্রকৌশল ক্ষমতাই একমাত্র প্রতিরক্ষা প্রাচীর হয়ে দাঁড়ায়। কিভাবে বাঁচাবেন? একটি তোয়ালের শেষ ফোঁটা জল চেপে বের করার মতো, প্রতিটি টোকেনের মূল্য চরম পর্যন্ত চেপে তুলুন।

সেমেন্টিক ক্যাশ: একই প্রশ্নের জন্য দুইবার পেমেন্ট করবেন না

এটি সবচেয়ে সরাসরি এবং সবচেয়ে কঠোর অর্থ বাঁচানোর উপায়।

মানুষের স্বভাব হল পুনরাবৃত্তি করা, ব্যবহারকারীদের প্রশ্নগুলি প্রায়শই অত্যন্ত সদৃশ। "পাসওয়ার্ড কীভাবে রিসেট করব?" "ইনভয়েস কীভাবে জমা দেব?" এই ধরনের প্রশ্নগুলি প্রতিদিন শত শতবার জিজ্ঞাসা করা হয়।

প্রতিবার GPT-4 কল করা মানে মশাকে তোপ দিয়ে গুলি করা।

সেমান্টিক ক্যাশ চালু করা হয়েছে। যখন ব্যবহারকারী প্রশ্ন করে, তখন এটিকে ভেক্টরে রূপান্তরিত করা হয় এবং ক্যাশ ডাটাবেসে সাদৃশ্য মিলিয়ে দেখা হয়। যদি আগে কেউ অনুরূপ প্রশ্ন (যেমন “পাসওয়ার্ড ভুলে গেছি কীভাবে পাব?”) করে থাকে এবং মিলের মাত্রা অত্যন্ত উচ্চ হয়, তবে ক্যাশেড উত্তরটি সরাসরি ফিরিয়ে দেওয়া হয়।

বড় মডেল ছাড়া। কোনো টোকেন খরচ হয় না। ল্যাটেন্সি সেকেন্ড থেকে মিলিসেকেন্ডে কমে গেছে।

এটি শুধু টাকা বাঁচানোর বিষয় নয়, এটি অভিজ্ঞতার হ্রাস।

প্রম্পট কম্প্রেশন: অ্যালগরিদম লেভেলের “সরলতা”

যেহেতু দীর্ঘ প্রেক্ষাপটই পাপ, তাই এগুলোকে সংক্ষিপ্ত করুন।

এটি মানুষের দ্বারা বাক্যাংশ মুছে ফেলার জন্য নয়, বরং অ্যালগরিদমের উপর নির্ভর করে। বর্তমানে শিল্পে ইনফরমেশন এনট্রপি ভিত্তিক প্রম্পট সংকুচিতকরণ প্রযুক্তির বিভিন্ন ধরন উদ্ভাবিত হয়েছে। এই টুলগুলি একটি দীর্ঘ টেক্সটের মধ্যে বিশ্লেষণ করতে পারে যে কোন শব্দগুলি বড় মডেলের জন্য অর্থবোধের জন্য অপরিহার্য, এবং কোনগুলি অপ্রয়োজনীয় স্টপওয়ার্ড বা অতিরিক্ত তথ্য।

তারা 1000 টোকেনের একটি টেক্সটকে কোর অর্থ বজায় রেখে অক্ষত (বা সামান্য ক্ষতি সহ) 300 টোকেনে সংকুচিত করতে পারে।

মেশিনগুলোকে মেশিনের সাথে কথা বলতে দিন। মানুষের জন্য অস্বাভাবিক, এমনকি ব্যাকরণহীন একটি “মঙ্গল ভাষা” ব্যবহার করে বড় মডেলের সাথে কথা বলুন। কারণ বড় মডেলের স্ব-দৃষ্টি প্রক্রিয়াটি যথেষ্ট শক্তিশালী, এটি বুঝতে পারবে।

আপনি 70% টল ফি বাঁচিয়েছেন।

মডেল রাউটিং: সঠিক ব্যক্তিকে সঠিক কাজ দিন

এটি এখনকার সবচেয়ে বেশি আর্কিটেক্টের দক্ষতা পরীক্ষা করে।

সব কাজই সবচেয়ে ব্যয়বহুল এবং সবচেয়ে শক্তিশালী মডেলের উপর ছেড়ে দেওয়ার দরকার নেই। মুরগি মারার জন্য বাফলো ব্যবহার করবেন না।

একটি উত্তম AI অ্যাপ্লিকেশনের ভিতরে একটি মাল্টি-মডেল কোঅপারেশন ম্যাট্রিক্স থাকা উচিত। আমাদের একটি “রাউটার (Router)” দরকার যা বিতরণ করবে।

  • সহজ এন্টিটি এক্সট্র্যাকশন, ফরম্যাট রূপান্তর, বহুভাষিক অনুবাদ? সরাসরি স্থানীয়ভাবে ডিপ্লয় করা ওপেন-সোর্স ছোট মডেলে (যেমন Llama 3 8B) বা অত্যন্ত সস্তা API-এ (যেমন Claude 3 Haiku) রাউট করুন। খরচ প্রায় উপেক্ষণীয়।
  • গভীর যৌক্তিক যুক্তিবিদ্যা, জটিল কোডিং, বা একাধিক ধাপের পরিকল্পনা প্রয়োজন? তখন GPT-4o বা Claude 3.5 Sonnet-এর মতো বড় হাতিয়ার ব্যবহার করুন।

একটি দক্ষভাবে পরিচালিত কোম্পানির মতো। ফ্রন্ট ডেস্ক যা সমাধান করতে পারে, তা সিইওকে বিরক্ত করে না। ক্যালকুলেশন শক্তির সমস্ত দাম বৃদ্ধির পর, যে কেউ এই রাউটিং মেকানিজমকে সবচেয়ে বেশি মসৃণ এবং সঠিকভাবে পরিচালনা করতে পারবে, তার সমন্বিত টোকেন খরচ প্রতিযোগীদের এক-দশমাংশে নামিয়ে আনা যাবে।

অগ্রগামী অন্বেষণ: ওপেনক্লক এবং হারমেসের মাধ্যমে এজেন্টের "টোকেন অর্থনীতি" দেখুন

প্রকৃত প্রযুক্তিগত অগ্রগতি ইতিমধ্যেই ক্ষমতার দাম বাড়ার রক্তের গন্ধ পেয়েছে।

যখন আমরা বর্তমানের সবচেয়ে অগ্রণী এজেন্ট ইকোসিস্টেমের দিকে তাকাই—বিশেষ করে যেসব ফ্রেমওয়ার্ক ক্লাউড-ভিত্তিক কম্পিউটিং বন্ধন ভাঙতে প্রান্তিক এবং মোবাইল দিকে এগিয়ে যাচ্ছে—তখন আপনি দেখতে পাবেন যে টোকেনের জন্য একটি চরম অপ্টিমাইজেশন যুদ্ধ শুরু হয়েছে।

মোবাইলের চাপ: কোনো অতিরিক্ত প্রেক্ষাপট নেই

আমি মোবাইল একীকরণের কথা বিশেষভাবে উল্লেখ করছি কারণ এটি টোকেনের দক্ষতা পরীক্ষার চূড়ান্ত পরীক্ষার ক্ষেত্র।

পিসি বা ক্লাউডে, আপনি কয়েক সেকেন্ডের ল্যাটেন্সি এবং বিশাল কনটেক্সট উইন্ডোকে সহ্য করতে পারেন। কিন্তু মোবাইলে, বিভিন্ন সংস্থান-সীমিত হার্ডওয়্যার পরিবেশে এজেন্ট চালানোর সময়, ব্যান্ডউইথ বাধা, মেমোরি বাধা এবং ব্যাটারি শক্তি বাধা।

এটি ফ্রেমওয়ার্ককে অত্যন্ত কৃপণ হতে বাধ্য করে।

OpenClaw-এর বিকাশ পথ পর্যবেক্ষণ করলে আপনি দেখতে পাবেন যে এটি টোকেন ব্যবহারের উপর প্রায় অ্যাসিস্টিভ পর্যায়ের নিয়ন্ত্রণ রাখে। জটিল কাজ সম্পাদনের সময়, OpenClaw কখনও কখনও বৃহৎ কনটেক্সট স্লাইস ব্যবহার করে না। বরং, এটি স্ট্রাকচারড আউটপুটের অপ্টিমাইজেশনের উপর প্রচুর নির্ভরশীল।

এটি জানে যে মডেলকে মুক্তভাবে কাজ করতে দিলে অনিয়ন্ত্রিত টোকেন প্রবাহ তৈরি হয়। কঠোর JSON Schema-এর পাশাপাশি আরও নিচের স্তরের বাইনারি-বান্ধব ফরম্যাটে মডেলকে আউটপুট দিতে বাধ্য করে, OpenClaw জেনারেশন প্রক্রিয়া থেকে অপ্রয়োজনীয় অক্ষরগুলি ব্যাপকভাবে সরিয়ে ফেলে। এটি AI-কে “চ্যাট” করতে দেয় না, এটি AI-কে সরাসরি “ফর্ম” জমা দিতে বাধ্য করে।

এই আউটপুট ফরম্যাটের কঠোর সীমাবদ্ধতা প্রথম দৃষ্টিতে ডাউনস্ট্রিম প্রোগ্রামের পার্সিংয়ের জন্য সহজ করার জন্য, কিন্তু বর্তমানে ক্যালকুলেশন ক্ষমতা সীমিত হওয়ার পরিস্থিতিতে, এটি বাস্তবে একটি দক্ষ “ডেটা সংকুচিতকরণ” অপারেশন সম্পন্ন করেছে।

হার্মেস এজেন্ট: সার্জিক্যাল কনটেক্সট ম্যানেজমেন্ট

নুস রিসার্চ দ্বারা প্রকাশিত হারমেস সিরিজ মডেল এবং এর এজেন্ট-ভিত্তিক প্রয়োগ পুনরায় দেখুন।

অনেক ওপেন সোর্স মডেল ফাংশন কল করার সময় বুঝতে অক্ষম হওয়ায় বারবার ভুল করে এবং অনেক টোকেন ব্যয় করে। হারমেসের বিশেষত্ব হল এর নির্দেশ অনুসরণের সঠিকতা।

সঠিক অর্থ হলো একবারে সঠিকভাবে করা। একবারে সঠিকভাবে করা হলো সবচেয়ে বড় সঞ্চয়।

বহু পর্যায়ের ইন্টারঅ্যাকশনে, কথোপকথনের গভীরতা বাড়ার সাথে সাথে কনটেক্সট উইন্ডো বরফের গুচ্ছের মতো বড় হয়ে যায়। হারমিস এজেন্ট ইকোসিস্টেমের উন্নত ব্যবহারকারীরা ইতিমধ্যেই "সমস্ত ইতিহাস সংরক্ষণ করা" এর অযৌক্তিক পদ্ধতি পরিত্যাগ করেছেন।

তারা ডাইনামিক মেমোরি মেকানিজম চালু করেছে।

  • কাজের স্মৃতি (Working Memory): শেষের 3-5 রাউন্ডের সরাসরি কথোপকথন মাত্র রাখুন, সংক্ষিপ্ত রাখুন।
  • দীর্ঘমেয়াদী স্মৃতি (Long-term Memory): উইন্ডো সীমা অতিক্রম করলে, একটি অত্যন্ত হালকা ব্যাকগ্রাউন্ড মডেল ট্রিগার হয়, যা আগের কথোপকথনকে কয়েকটি কথায় সারাংশে পরিণত করে ভেক্টর ডাটাবেসে সংরক্ষণ করে।

পুরানো কথোপকথন বাতিল করা হয়েছে, কিন্তু জ্ঞান বজায় রাখা হয়েছে।

তারা কোনো বর্জ্য ফেলছে না, বরং সার্জিক্যাল মেমোরি রিমুভাল এবং সিলিং করছে। এই সূক্ষ্ম কনটেক্সট ম্যানেজমেন্ট শুধুমাত্র টোকেন দৈর্ঘ্যের ভৌত সীমাবদ্ধতা ভাঙছে, বরং ম্যাক্রো লেভেলে ক্যালকুলেশন খরচের হঠাৎ পতনও সাধন করছে।

OpenClaw-এর স্ট্রাকচার্ড কন্ট্রোল বা Hermes-এর ডাইনামিক মেমোরি ম্যানেজমেন্ট—এগুলো একটি প্রবণতা প্রকাশ করে: ভবিষ্যতের Agent-দের মধ্যে প্রতিযোগিতা আর কোনোটি কতগুলো টুল কল করতে পারে তার উপর নয়, বরং কোনটি সর্বাধিক জটিল টাস্কটি চরম Token বাজেটের মধ্যে সম্পন্ন করতে পারে।

এটি শৃঙ্খল পরে নাচা। এবং যে সবচেয়ে ভালোভাবে নাচবে, সে পরবর্তী যুগের জন্য বিজয়ী হবে।

চিন্তার পরিবর্তন: ভোগ্যপণ্য চিন্তাধারা থেকে বিনিয়োগ চিন্তাধারায় (ROI-এর জাগরণ)

সমস্ত প্রযুক্তিগত শব্দের বাইরের আবরণ খুলে ফেলুন, আসুন ব্যবসার মূল কথায় ফিরে আসি।

ক্যালকুলেশন শক্তির সম্পূর্ণ দাম বৃদ্ধি এনেছে সবচেয়ে বড় পরিবর্তন, যা ইঞ্জিনিয়ারদের কোড পরিবর্তনের জন্য রাতজুড়ে কাজ করতে বাধ্য করার মতো নয়। এটি সম্পূর্ণ AI শিল্পের চিন্তাভাবনাকে বাধ্যতামূলকভাবে পুনর্মূল্যায়ন করেছে।

অল্প খরচের যুগে, আমরা টোকেনকে "কনজিউমার-লেভেল চিন্তাভাবনা" দিয়ে বিবেচনা করি।

একটি সুপারমার্কেটের মতো, ডিসকাউন্ট প্রোডাক্ট দেখলেই এটিকে কার্টে ফেলে দিন। আমরা এই ফিচারটি কি আসলেই বড় মডেলের প্রয়োজন হয় কিনা তা নিয়ে চিন্তা করি না, আমরা শুধু মনে করি “এটি খুব কুল দেখাচ্ছে।”

অনেক কোম্পানি তাদের অভ্যন্তরীণ সিস্টেমে অনিয়ন্ত্রিতভাবে LLM যোগ করে, প্রতিটি কর্মচারীকে অ্যাকাউন্ট দেয়, এমনকি ক্যান্টিনের মেনুও AI-এর মাধ্যমে তৈরি করে। ফলে মাসের শেষে বিল আসলে তারা চমকে যায়।

এখন, আমাদের "ইনভেস্টমেন্ট-গ্রেড চিন্তাভাবনার" দিকে মনোযোগ দিতে হবে।

প্রতিটি টোকেন ব্যয় একটি বিনিয়োগ। বিনিয়োগ থাকলে, ROI (বিনিয়োগের রিটার্ন) গণনা করা প্রয়োজন।

এই টোকেনটি ব্যয় করে আমি কী পেলাম?

কি কাস্টমার সাপোর্ট টিকেট বন্ধ হওয়ার হার বৃদ্ধি পেয়েছে?

কি প্রোগ্রামারদের বাগ ঠিক করার সময় সংক্ষিপ্ত করেছে?

কিন্তু শুধু একটি অর্থহীন ব্যবহারকারীর প্রতিক্রিয়া “হাহা, এই এআই তো মজার” পেলেন?

যদি কোনো ফিচার ব্যবহার করতে রুল ইঞ্জিন বা প্রাচীন মেশিন লার্নিং শুধু ১০ সেন্ট খরচ করে, আর বড় মডেলের সাথে যুক্ত হতে ১ ডলারের টোকেন খরচ হয়, কিন্তু রূপান্তর হারের বৃদ্ধি মাত্র ২%—যা অত্যন্ত ক্ষুদ্র।

তাহলে, এটি কেটে ফেলুন। অনিচ্ছার সাথে এটি কেটে ফেলুন।

বড় এবং সম্পূর্ণ এআই বিপণনের পরিবর্তে ছোট এবং সুন্দর সঠিক আক্রমণের দিকে যাওয়া হচ্ছে। ব্যবসায়িক প্রক্রিয়ার পুনর্গঠন অবশ্যই ক্যালকুলেশন খরচের প্রতি অত্যন্ত সংবেদনশীল হওয়ার উপর ভিত্তি করে হতে হবে।

আমাদের ব্যবসায়িক দলকে "না" বলা শিখতে হবে। যখন তারা জিজ্ঞাসা করে, "কি করে AI এই ১০০,০০০টি গবেষণা প্রতিবেদন পড়ে একটি সারাংশ দিতে পারে?", আপনাকে জিজ্ঞাসা করতে হবে: "আপনার ব্যবসায়িক লাভ, এই কয়েক কোটি Token-এর API খরচ কভার করতে পারবে?"

হিসাব করুন। সাবধানে ব্যয় করুন। আপনার টোকেনগুলিকে একজন প্রাচীন দোকানদারের মতো হিসাব করুন।

এটা কোনও সাইবারপাঙ্ক মনে হচ্ছে না। এটা খুব প্রাচীন।

কিন্তু এটিই এআইয়ের পরিপক্কতার পথে অবশ্যই অতিক্রম করতে হবে।

শেষ কথাঃ জোয়ার প্রসারিত হওয়ার পরের দৃশ্য

ঘূর্ণিঝড়ের উত্সব সবসময় অস্থায়ী হয়, ব্যবসায়িক মহাকর্ষের নিয়ম চূড়ান্তভাবে কার্যকর হবে।

ক্যালকুলেশন ক্ষমতার সম্পূর্ণ দাম বৃদ্ধি একটি সংকট হিসাবে নয়, বরং একটি দেরি করা পবিত্রীকরণ হিসাবে বিবেচিত হওয়া উচিত। এটি অসীম সাবসিডি দ্বারা ফুলিয়ে তোলা বুদবুদকে ক্রুদ্ধভাবে ফাটিয়ে দেয় এবং সবাইকে শীতল বাস্তবতায় ফিরিয়ে আনে।

কিন্তু এটি খারাপ কিছু নয়।

এটি আমাদের প্রতি “বড় প্রচেষ্টায় অসাধ্য সাধন” এর অন্ধ বিশ্বাস ত্যাগ করতে বাধ্য করে, এবং ইঞ্জিনিয়ারিং দক্ষতার প্রতি আমাদের শ্রদ্ধা পুনরুজ্জীবিত করে। এটি কয়েকটি প্রম্পট লিখে সব জায়গায় প্রতারণা করা “কোর” খেলোয়াড়দের বাদ দিয়ে, বাস্তবিকভাবে লো-লেভেল আর্কিটেকচার, মডেল রাউটিং এবং মোবাইল ডিভাইসে ক্যালকুলেশন পাওয়ারকে চরম সীমায় চাপিয়ে ধরতে জানা হার্ডকোর টিমগুলিকেই মঞ্চে রেখেছে।

যখন সবকিছু শান্ত হয়ে যায়, তখন যারা বেঁচে থাকবে এবং ভালোভাবে বেঁচে উঠবে, তারা অবশ্যই সবচেয়ে ব্যয়বহুল মডেল নিয়ে থাকা মানুষ হবে না।

যারা ড্যাশবোর্ডে দ্রুত পরিবর্তনশীল টোকেন সংখ্যা দেখেও শান্ত থাকেন এবং নিশ্চিত থাকেন যে তারা ব্যয়ের চেয়ে বেশি আয় করছেন।

কারণ, যখন জোয়ার প্রস্থান করে, তখনই আমরা জানতে পারি কে নগ্ন ভাবে সাঁতার কাটছে। এবার, যে জোয়ার প্রস্থান করছে, তা হলো ক্যালকুলেশন লাভের জোয়ার।

যে ব্যক্তি প্রতিটি টোকেনকে সোনার মতো গলায় তৈরি করে, সেই ব্যক্তিই সত্যিকারের কবর পরিধান করতে পারে।

উৎস উদ্ধৃত:

  1. Nvidia Corporation. (2025). Data Center Compute Constraints and Global Supply Chain Outlook. Investor Relations Report.
  2. Anthropic. (2025). Prompt Caching and Context Window Economics in Claude Managed Agents. Anthropic API Documentation.
  3. OpenAI. (2025). টোকেন অপ্টিমাইজেশন এবং RAG বাস্তবায়নের জন্য সেরা পদ্ধতি. OpenAI ডেভেলপার প্ল্যাটফর্ম।
  4. Nous Research. (2025). Hermes Agent Framework: Efficient Context Management for Edge Computing. Nous Research Technical Blog.
  5. OpenClaw কমিউনিটি। (2026)। মোবাইল ইন্টিগ্রেশন এবং ডিপ এজেন্টিক ওয়ার্কফ্লোতে জিরো-ওয়েস্ট টোকেন কৌশল. গিটহাব রিপোজিটরি / টেকনিক্যাল হোয়াইটপেপার।
  6. Bloomberg. (2026). The End of the AI Subsidy Era: How Datacenter Energy Caps are Restructuring Cloud Pricing. Bloomberg Technology.
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।