AWS re:Invent 2025-এ, AWS-এর সিইও ম্যাট গারম্যান একটি সরল কিন্তু গুরুত্বপূর্ণ ডেটা পয়েন্ট উপস্থাপন করেন: এখন AI ইনফারেন্স সমস্ত AI কম্পিউট চাহিদার প্রায় দুই-তৃতীয়াংশ অংশ নিয়ে গঠিত। 2023-এ এটি প্রায় এক-তৃতীয়াংশ ছিল।
প্রশিক্ষণ হলো একটি মডেলকে চিন্তা করতে শেখানো। ইনফারেন্স হলো বাস্তবিকভাবে এটিকে চিন্তা করানো। শিল্পটি এই মডেলগুলিকে শেখানোর জন্য বিলিয়ন ডলার খরচ করেছে, এবং এখন ব্যয় তাদের কাজে লাগানোর দিকে সরে যাচ্ছে।
জুন ২০২৪-এ অ্যাডাম সেলিপস্কির পর এডিটি সিইও হিসেবে দায়িত্ব গ্রহণকারী গার্ম্যান ইনফারেন্সকে কম্পিউটিংয়ের “একটি নতুন লেগো” হিসেবে বর্ণনা করেছেন। তিনি বলছেন যে ইনফারেন্স একটি মৌলিক গঠন ব্লকে পরিণত হচ্ছে, যা প্রতিষ্ঠানগুলি কাজগুলি স্বয়ংক্রিয়করণ, এআই এজেন্টগুলি চালানো এবং ব্যবসাগুলির পরিচালনা পদ্ধতি মৌলিকভাবে পরিবর্তন করতে একসাথে সংযুক্ত করবে।
তিনি আরও এগিয়ে যান এবং ভবিষ্যদ্বাণী করেন যে এন্টারপ্রাইজ AI-এর ৮০-৯০% মূল্য চূড়ান্তভাবে ইনফারেন্স-পাওয়ার্ড এজেন্টগুলির মাধ্যমে আসবে। আপনার ইমেইলগুলি সারাংশ করার জন্য চ্যাটবটগুলি নয়, কিন্তু স্বয়ংক্রিয় সিস্টেমগুলি যেগুলি বাস্তবিকভাবে কাজগুলি সম্পন্ন করে।
AWS এই বিনিয়োগের পিছনে হার্ডওয়্যারও ব্যবহার করছে। কোম্পানিটি re:Invent-এ তার Trainium3 চিপগুলি উপস্থাপন করেছে, যেগুলি মূলত প্রশিক্ষণ-অপ্টিমাইজড GPU-এর বদলে ইনফারেন্স ওয়ার্কলোডের জন্য তৈরি।
এই পরিবর্তনটি ক্রিপ্টো মাইনিং খাতের জন্য অত্যন্ত গুরুত্বপূর্ণ, যা নিজেদের পরিচয়ের সংকটের মধ্যে ছিল। এপ্রিল 2024-এ হ্যালভিংয়ের পর বিটকয়েন মাইনিংয়ের মার্জিন কমে যাওয়ায়, অনেক প্রধান মাইনার এআই এবং হাই-পারফরম্যান্স কম্পিউটিং সেবা প্রদানের দিকে মনোনিবেশ করে। কোর সায়েন্টিফিক, হাট 8 এবং অন্যান্য কোম্পানিগুলি তাদের GPU ফ্লিট এবং ডেটা সেন্টারের ক্ষমতা পুনর্ব্যবহার করে এআই ট্রেনিং ওয়ার্কলোডগুলির জন্য সেবা প্রদান করছে।
কিন্তু যদি গারম্যান সঠিক হয় এবং চাহিদার বক্ররেখা অনুমানের দিকে শক্তিশালীভাবে বাঁক নেয়, তাহলে হার্ডওয়্যারের প্রয়োজনীয়তা পরিবর্তিত হয়। প্রশিক্ষণের জন্য সপ্তাহ বা মাসের মতো সময় ধরে শীর্ষস্থানীয় GPU-এর ক্লাস্টারে বিশাল সম song প্রসেসিংয়ের প্রয়োজন হয়। অনুমানের জন্য ভিন্ন অপ্টিমাইজেশনের প্রয়োজন: কম ল্যাটেন্সি, প্রতিটি কোয়েরির জন্য বেশি থ্রুপুট, এবং প্রায়শই সম্পূর্ণভাবে ভিন্ন চিপ আর্কিটেকচার।
ক্রিপ্টো-নেটিভ বিনিয়োগকারীদের জন্য, এখানে সংকেতটি হল যে কয়েকটি মাইনিং স্টককে সমর্থন করে আসা “AI পিভট” থিসিসটির টেকসই প্রকৃতি। কোন মাইনিং কোম্পানিগুলি ক্লাউড প্রোভাইডারদের সাথে অংশীদারিত্ব ঘোষণা করে বা ইনফারেন্স-অপ্টিমাইজড হার্ডওয়্যারে বিনিয়োগ করে, তা পর্যবেক্ষণ করুন। যারা এখনও ট্রেনিংয়ের জন্য জেনেরিক GPU অ্যাক্সেসের প্রচার করছে, তাদের চাহিদার বক্ররেখা ইতিমধ্যেই পরিবর্তিত হয়ে গেছে, এবং তারা সেই বক্ররেখার ভুল দিকে থাকতে পারে।
রেন্ডার, আকাশ এবং io.net এর মতো ডিসেন্ট্রালাইজড কম্পিউট নেটওয়ার্কগুলি এআই ওয়ার্কলোডের জন্য সেন্ট্রালাইজড ক্লাউড প্রোভাইডারদের বিকল্প হিসেবে নিজেদের পজিশন করেছে। যদি ইনফারেন্সের চাহিদা গারম্যান যেভাবে বর্ণনা করেছেন সেভাবে বৃদ্ধি পায়, তাহলে এই প্রোটোকলগুলির ব্যবহার বৃদ্ধি পেতে পারে, কিন্তু শুধুমাত্র তখনই যদি তারা ইনফারেন্সের প্রয়োজনীয় নিম্ন-ল্যাটেন্সি, উচ্চ-বিশ্বস্ততা সম্পন্ন সেবা প্রদান করতে পারে। ট্রেইনিংয়ের জন্য নেটওয়ার্কের অস্থিরতা গ্রহণযোগ্য। ইনফারেন্সের জন্য নয়।