অ্যামাজন নভিডিয়ার এআই সফটওয়্যার প্রাধান্যের চ্যালেঞ্জ করতে টর্চনিউরন চালু করেছে

মঙ্গলবারে অ্যামাজন ওয়েব সার্ভিসেস টর্চনিউরন প্রকাশ করেছে, যা এআই স্টার্টআপগুলিকে অ্যামাজনের ট্রেইনিয়াম চিপগুলিতে অ্যাপ্লিকেশনগুলি স্থানান্তরিত করতে সাহায্য করবে। এই টুলটি এনভিডিয়াকে এআই অ্যাপ্লিকেশনের জন্য ডিফল্ট হার্ডওয়্যার পছন্দ করার জন্য সহায়তা করা সফটওয়্যারের সুবিধাকে চ্যালেঞ্জ করে। অ্যামাজন বলছে যে টর্চনিউরন PyTorch-এ লেখা অ্যাপ্লিকেশনগুলিকে কোড পুনর্লিখন ছাড়াই শুধুমাত্র একটি কনফিগারেশন লাইন পরিবর্তন করে ট্রেইনিয়াম-এ চালানোর অনুমতি দেয়।

PyTorch হল একটি বিনামূল্যে, ওপেন-সোর্স টুলকিট যা AI মডেল তৈরি, প্রশিক্ষণ এবং চালানোর জন্য ব্যবহার করা হয়। অ্যামাজন বলেছে যে প্রায় ৮৫% AI অ্যাপ্লিকেশন PyTorch দিয়ে লেখা হয়েছে। ফেসবুক মূলত PyTorch বিকাশ করেছিল, যা ২০২২ সাল থেকে লিনাক্স ফাউন্ডেশনের অংশ। লিনাক্স ফাউন্ডেশন ওপেন-সোর্স প্রজেক্টগুলির রক্ষণাবেক্ষণ করে। Nvidia বছরগুলি ধরে CUDA-এর উপর কাজ করেছে, যা Nvidia হার্ডওয়্যারে অ্যাপ্লিকেশন চালানোর জন্য সফটওয়্যার ইনফ্রাস্ট্রাকচার, যা PyTorch অ্যাপ্লিকেশনগুলিকে অক্ষতভাবে সমর্থন করে। ফলস্বরূপ, Nvidia-এর হার্ডওয়্যার PyTorch-এর সাথে গভীরভাবে এমবেডড হয়েছে, প্রায়ই ডিফল্টভাবে।

টর্চনিউরন পাইটর্চ থেকে অ্যাডাপ্ট করা হয়েছে, তাই পাইটর্চের সাথে পরিচিত ডেভেলপাররা ইতিমধ্যেই টর্চনিউরন ব্যবহার করতে জানেন। পাইটর্চ ব্যবহারকারীরা একটি সহজ কনফিগারেশন পরিবর্তনের মাধ্যমে তাদের অ্যাপ্লিকেশনগুলি AMD GPU বা Apple-এর চিপসে স্থানান্তর করতে পারেন। তবে, অ্যামাজন যুক্তি দেয় যে Trainium-এ স্থানান্তর করলে AI স্টার্টআপগুলি অ্যামাজনের সম্পূর্ণ ক্লাউডেরও অ্যাক্সেস পায়। AWS দাবি করে যে AWS, Coreweave, Nebius এবং Firmus-এর মতো Nvidia হার্ডওয়্যারের সাথে বদ্ধ বিশেষায়িত ক্লাউড প্রোভাইডারদের তুলনায় স্টার্টআপদের জন্য একটি ভালো পছন্দ।

কলিন ব্রেস হলেন AWS অ্যানাপুর্ণা ল্যাবসের প্রযুক্তি সফটওয়্যারের উপাধ্যক্ষ, যেখানে অ্যামাজনের কাস্টম চিপগুলি তৈরি করা হয়। ব্রেস বলেন, AWS ইতিমধ্যেই প্রতিষ্ঠাতাদের প্রোটোটাইপ থেকে উৎপাদনে এবং প্রয়োজনে অপারেশন বিস্তারের জন্য প্রয়োজনীয় অবকাঠামো প্রদান করে। AWS বলে যে Trainium মডেল ট্রেনিং এবং ইনফারেন্স উভয়ই পরিচালনা করে, যখন শেষ মডেলগুলি ব্যবহারকারীদের প্রশ্নের উত্তর দেওয়ার মতো কাজগুলি সম্পন্ন করে। AWS যুক্তি দেয় যে, একই চিপ ব্যবহার করে এবং ক্লাউড অবকাঠামোর সাথে ঘনিষ্ঠভাবে একীভূত করে, প্রতি-টোকেনের সবচেয়ে কমদামের মতো না হলেও স্টার্টআপগুলির খরচ কমবে। ব্রেস বলেন, Trainium ট্রেনিং এবং ইনফারেন্সের জন্য একটি একক প্ল্যাটফর্মের মাধ্যমে, মূল্য-পারফরম্যান্সের মাধ্যমে, সম্পূর্ণওয়ার্কলোডের খরচকে উন্নতি করে। ব্রেস বলেন, Deepgram PyTorch-এর নেটিভ সমর্থন ব্যবহার করে Trainium-এ স্থানান্তরিত হয়েছে, 70% বেশি অডিওকে উৎপাদন-গ্রেড accuracy-এর সাথেপ্রতিডলারেপ্রসেসকরে। Deepgram AIভয়েসঅ্যাপ্লিকেশনসহজাতভাবে ElevenLabs-এরসঙ্গেপ্রতিদ্বন্দ্বিতা।

অ্যামাজন বলেছে যে কোম্পানিটি পাইটর্চকে নভিডিয়ার উপর স্বয়ংক্রিয়ভাবে কেন্দ্রীভূত করা থেকে কম করার জন্যও কাজ করছে। অ্যামাজন বলেছে যে এই প্রচেষ্টাকে সমর্থন করতে এটি মূল পাইটর্চ প্রকল্পে কোড অবদান রাখবে। অ্যামাজনের ঘোষণা অনুযায়ী, কোম্পানিটি পাইটর্চ সম্প্রদায়ের সাথে কাজ করছে যাতে ফ্রেমওয়ার্ককে নির্দিষ্ট চিপগুলির সাথে বাঁধা দেওয়া কোডগুলি সরিয়ে ফেলা যায়। অ্যামাজন বলেছে যে লক্ষ্য হলো পাইটর্চকে সকল ডেভেলপারদের জন্য, শুধুমাত্র Trainium ব্যবহারকারীদের জন্য নয়, নির্দিষ্ট হার্ডওয়্যারের উপর কম নির্ভরশীল করা।

এই প্রচেষ্টাটি নভিডিয়ার সাথে প্রতিযোগিতা করে এমন হার্ডওয়্যার এবং ক্লাউড প্রোভাইডারদের জন্য সুবিধাজনক। তবে, PyTorch-এর আংশিক উদ্দেশ্য হল ডেভেলপারদের হার্ডওয়্যারে AI কোড চালানোর কঠিনতা থেকে সুরক্ষিত রাখা। PyTorch-এর নভিডিয়ার উপর নির্ভরশীলতা কমানো অ্যামাজনের প্রতিশ্রুতি অনুযায়ী বেশি বিকল্প এবং সস্তা বিকল্প প্রদান করতে পারে, অথবা আরও বেশি কনফিগারেশনের সমস্যা তৈরি করতে পারে। PyTorch-কে নভিডিয়া থেকে সফলভাবে আলাদা করা শুধুমাত্র অন্যান্য চিপমেকারদের প্রতিযোগিতা থেকেও বেশি প্রভাব ফেলতে পারে। ব্রেস এই প্রচেষ্টাকে ডেভেলপারদের বাস্তবিক বিকল্প পাওয়ার বাধা সরিয়ে ফেলার মতো বর্ণনা করেছেন।