বড় পরিসরে এআই টুলস চালুর পর, নতুন সমস্যাগুলি কেন্দ্রীয়ভাবে প্রকাশ পেতে শুরু করেছে: মডেলগুলি যথেষ্ট শক্তিশালী নয়, বরং বিলগুলি খুব দ্রুত বাড়ছে। অনেক প্রযুক্তি এবং ইন্টারনেট কোম্পানি দেখেছেন যে, একক টোকেনের দাম কমে গেলেও, এআই কোডিং, অটোমেশন সহায়ক এবং স্মার্ট টুলসের普及ের ফলে মোট খরচ দ্রুত বৃদ্ধি পাচ্ছে।
অনেক কোম্পানির বাজেট আগে থেকেই শেষ হয়ে গেছে
টেকক্রাঞ্চ রিপোর্ট করেছে যে, ২০২৬ সালের এআই বাজেট বছরে কিছু কোম্পানি খুব তাড়াতাড়ি বাজেট শেষ করে ফেলেছে। ইউবার ৪ মাসের মধ্যেই বছরের সম্পূর্ণ এআই কোডিং বাজেট ব্যয় করে ফেলেছে; মাইক্রোসফট কয়েক মাস খোলা থাকার পর, কিছু ডেভেলপারদের ক্লড কোড ব্যবহারের অনুমতি বাতিল করেছে; প্রাইসলাইনের একজন কর্মচারীর মতে, কার্সরের নিয়মিত পুনঃনবীকরণের প্রস্তাব আগের চেয়ে ৪ থেকে ৫ গুণ বেশি।
এই পরিবর্তনটি গত কয়েক মাসের মধ্যে প্রকাশিত শক্তিশালী মডেলগুলির সাথে সম্পর্কিত। এনথ্রোপিক, ওপেনএআই এবং গুগল ২০২৩ সালের নভেম্বরের পর এজেন্ট স্কেনারিওর জন্য উপযুক্ত নতুন মডেলগুলি প্রকাশ করেছে, যা ব্যবহারের পরিমাণকে আরও বাড়িয়েছে। একটি প্রতিষ্ঠান এমনকি কর্মচারীদের ব্যবহারের জন্য কোনো সীমা না রাখার কারণে ৫ বিলিয়ন ডলারের ক্লাউড বিল দেখেছে।
উৎপাদনশীলতা বৃদ্ধি অবশ্যই খরচ কভার করবে এমন নয়
অ্যালেকজান্ডার এমব্রে অ্যাপি প্রতিষ্ঠানের ব্যবসায়িক প্রধান বলেছেন, ছয় মাস আগে গ্রাহকরা মডেলের ক্ষমতা যথেষ্ট কিনা তা নিয়ে চিন্তিত ছিল, এখন আলোচনার কেন্দ্রে রয়েছে ব্যয়ের দৃশ্যমানতা, অডিট ক্ষমতা, টোকেন নিয়ন্ত্রণ এবং মডেলের দক্ষতা। প্রতিষ্ঠানগুলির AI ক্রয়ের প্রশ্নগুলি “এটি কী করতে পারে” থেকে “কতটা খরচ হয়েছে, এটি কি মূল্যবান?”-এর দিকে সরে গিয়েছে।
এআই কোডিং টুলগুলির রিটার্ন অন ইনভেস্টমেন্ট নিয়ে শিল্পের মধ্যে পুনরায় গণনা শুরু হয়েছে। মার্চে ফ্যারস এআই-এর ২০,০০০ ডেভেলপারের উপর ভিত্তি করে পরিচালিত সমীক্ষায় দেখা গেছে যে ডেভেলপমেন্ট আউটপুট বেড়েছে, কিন্তু বাগ এবং রিওয়ার্কও বাড়ছে। ইঞ্জিনিয়ারিং ম্যানেজমেন্ট প্ল্যাটফর্ম জেলিফিশের গবেষণা অনুসারে, এআই-এর প্রচুর ব্যবহারকারীদের উৎপাদনশীলতা কম ব্যবহারকারীদের চেয়ে প্রায় দ্বিগুণ, কিন্তু টোকেন খরচ ১০ গুণ বেশি।
- অত্যধিক AI ব্যবহারকারীদের উৎপাদনশীলতা কম ব্যবহারকারীদের চেয়ে প্রায় দ্বিগুণ।
- প্রতিটি টোকেনের ব্যয় প্রায় 10 গুণ বেশি
- একজন ডেভেলপার মাত্র 9 মাসে খরচ প্রায় 18.6 গুণ বেড়েছে
খরচ ব্যবস্থাপনা টুলটি দ্রুত আকার নিচ্ছে
বিল সমস্যাগুলি বৃদ্ধি পাওয়ার সাথে সাথে এআই খরচ ব্যবস্থাপনার জন্য টুলসের বাজারও উত্তপ্ত হয়ে উঠছে। লিনাক্স ফাউন্ডেশন এই সপ্তাহে টোকেনোমিক্স ফাউন্ডেশন প্রতিষ্ঠার ঘোষণা দিয়েছে, যা ক্লাউড খরচ ব্যবস্থাপনার মতো ফিনঅপসের মতোই এআই টোকেন ব্যয়ের জন্য একটি এককভাষা এবং ব্যবস্থাপনা মানদণ্ড তৈরির লক্ষ্যে।
এই সংগঠনটি টোকেন ব্যবহার এবং বিলিংয়ের জন্য খোলা মানদণ্ড, একক মেট্রিক্স এবং “প্রতি ইউনিট স্মার্ট কস্ট” বা “প্রতি ওয়াট টোকেন” এর মতো খরচ দক্ষতা সম্পর্কিত নতুন মেট্রিক্স তৈরির পরিকল্পনা করছে। আনুষ্ঠানিক শুরুর সময় জুলাইয়ের প্রত্যাশা করা হচ্ছে, এবং পরবর্তী সপ্তাহের FinOps X সম্মেলনে আরও বেশি সদস্যদের ঘোষণা করা হবে।
এর মধ্যে, স্টার্টআপ এবং প্রতিষ্ঠিত প্রস্তুতকারকরা উভয়ই বিন্যাস ত্বরান্বিত করছে। Pay-i, Paid ইত্যাদি কোম্পানিগুলি AI খরচ ট্র্যাকিং, মাপ এবং অপ্টিমাইজেশনের উপর জোর দেয়; Jellyfish, Waydev, Faros AI AI স্মার্ট এজেন্ট মনিটরিং সেবা প্রদান করে; Ramp, Datadog এবং New Relicও AI খরচ ব্যবস্থাপনা, টোকেন-লেভেল অবজারভেবিলিটি এবং GPU মনিটরিং ফাংশন যোগ করছে।
মডেল রাউটিং খরচ কমানোর দিকে পরিণত হচ্ছে
কিছু বিনিয়োগকারী এবং ব্যবসায়িক প্রতিনিধি মনে করেন, ভবিষ্যতে এই ধরনের ক্ষমতা বেশি প্রয়োগ স্তর বা মডেল রাউটিং স্তরে দেখা যাবে। উদাহরণস্বরূপ, এই সপ্তাহে ব্যবসায়িক AI স্টার্টআপ Factory মডেল রাউটার চালু করেছে, যা কাজের ভিত্তিতে স্বয়ংক্রিয়ভাবে উপযুক্ততম মডেলটি নির্বাচন করে কল খরচ কমায়। কিছু ব্যবসায়িক বিলেও এই ধরনের পদ্ধতি প্রয়োগ করা হয়েছে, যেখানে উচ্চ-স্তরের মডেলটি কল করা হলেও, সিস্টেমটি কিছু অনুরোধকে কম খরচের মডেলের দিকে প্রেরণ করে।
অতিরিক্ত তথ্য: গোল্ডম্যান স্যাক্স পূর্বানুমান করেছে যে ২০৩০ সালের মধ্যে বিশ্বব্যাপী টোকেন ব্যবহার ২৪ গুণ বৃদ্ধি পাবে। যারা ইতিমধ্যে উচ্চ বিনিয়োগের পর্যায়ে প্রবেশ করেছে, তাদের জন্য AI ব্যবহার বাড়ানোর সময় খরচ নিয়ন্ত্রণ করা পরবর্তী পর্যায়ের বাস্তব চ্যালেঞ্জ হয়ে দাঁড়িয়েছে।