ওপেন-সোর্স প্রজেক্টের জিপিইউ আনলক দ্বারা আরটিএক্স 30 সিরিজের এআই পারফরম্যান্স পর্যন্ত 60% বৃদ্ধি পেয়েছে

icon币界网
শেয়ার
AI summary iconসারাংশ
GPU Unlock নামের একটি ওপেন-সোর্স প্রকল্প বাজারে উঠতে যাওয়া অল্টকয়েনগুলির দিকে মনোযোগ আকর্ষণ করছে। এই টুলটি NVIDIA RTX 30 সিরিজের GPU-এ FP16/BF16 এবং TF32 অপারেশনে AI পারফরম্যান্সকে প্রায় 58.6% পর্যন্ত বাড়ায়। এটি ড্রাইভার বা VBIOS পরিবর্তন না করেই কৃত্রিম সীমাবদ্ধতা সরিয়ে ফেলে। এই উন্নতি মেমোরি ব্যান্ডউইথ বা CUDA কোরের উপর নির্ভর করে না, বরং টেনসর কোরের থ্রুপুটের উপর। ফলাফলগুলি হার্ডওয়্যার এবং ওয়ার্কলোডের উপর নির্ভর করে। এই উন্নতির সাথে AI-সংক্লিষ্ট সম্পদের খোলা বিনিয়োগও বাড়ছে।
ক্রিপ্টো নিউজ ওয়েবসাইট রিপোর্ট করছে:

নভেডিয়া দ্বারা দীর্ঘকাল ধরে বাজারে উপলব্ধ জিফোর্স আরটিএক্স ৩০ সিরিজ (এম্পের কোডনেম) গ্রাফিক্স কার্ডগুলিতে এখনও অনেক অব্যবহৃত কম্পিউটেশনাল পটেনশিয়াল রয়েছে। গিটহাব ব্যবহারকারী জাগিটা (Zagitta) একটি ওপেন-সোর্স প্রজেক্ট তৈরি করেছেন যার নাম GPU Unlock, যা এম্পের আর্কিটেকচারের গ্রাফিক্স কার্ডগুলিতে কিছু মানব-নির্ধারিত পারফরম্যান্স সীমাবদ্ধতা অপসারণ করতে পারে। নির্দিষ্ট লোডে, টেনসর কোরগুলির কম্পিউটেশনাল থ্রুপুট প্রায় দ্বিগুণ হয়ে যায়, এবং এটি নভেডিয়া ড্রাইভার পরিবর্তন বা গ্রাফিক্স কার্ডের VBIOS-এর স্থায়ী ফ্ল্যাশিংয়ের প্রয়োজন ছাড়াই।

আইটি হোম লক্ষ্য করেছে যে এই প্রকল্পটি একটি ইনস্ট্রাকশন ইস্যু হার সীমাবদ্ধতাকে লক্ষ্য করে: FP32 অ্যাকুমুলেশন সহ FP16/BF16 টেনসর কোর অপারেশনে, কনজিউমার-লেভেল Ampere গ্রাফিক্স কার্ডগুলির পারফরম্যান্স প্রফেশনাল কার্ডের তুলনায় কম। এই সীমাবদ্ধতা অপসারণের পরে, টুলটি গ্রাফিক্স কার্ডের হার্ডওয়্যারের নিজস্ব অতিরিক্ত কম্পিউটেশনাল পারফরম্যান্সকে মুক্ত করতে পারে।

আকর্ষণীয় বিষয় হলো, GPU Unlock আগের নিভিয়া CMP ক্রিপ্টোকারেন্সি মাইনিং গ্রাফিক্স কার্ডের উপর ভিত্তি করে তৈরি করা হয়েছে। এটি CMP প্রকল্পের ফার্মওয়্যার আনলক প্রযুক্তি এবং একটি পূর্ব-প্রাথমিককরণ পদ্ধতির সমন্বয় করে, একটি Linux কার্নেল মডিউলের মাধ্যমে নিভিয়া গ্রাফিক্স ড্রাইভার লোড হওয়ার আগে অপারেশন সম্পাদন করে। এই মডিউলটি সংশ্লিষ্ট হার্ডওয়্যার স্পিড সিলেকশন রেজিস্টারগুলি পরিবর্তন করে, একটি ফাংশনাল-লেভেল রিসেট (FLR) প্রয়োগ করে, এবং তারপর মূল ড্রাইভারটি গ্রাফিক্স কার্ডটি সাধারণভাবে ইনিশিয়ালাইজ করতে পারে।

এর অর্থ হল ব্যবহারকারীদের প্রতিবার ড্রাইভারের নতুন সংস্করণ আপডেট করার সময় ড্রাইভারের জন্য প্যাচ প্রয়োগ করার দরকার হবে না। বিকাশকারীরা বর্তমানে GA102, GA103, GA104, GA106 মডেলের GPU-এর জন্য সমর্থন ঘোষণা করেছেন, যা RTX 30 সিরিজের বেশিরভাগ মডেলকে কভার করে, তবে প্রতিটি গ্রাফিক্স কার্ডই সম্ভবত সম্পূর্ণভাবে সামঞ্জস্যপূর্ণ হবে না এবং সকলেরই পারফরম্যান্সে উন্নতি পাওয়ার গ্যারান্টি দেওয়া হয়নি।

পারফরম্যান্স উন্নতির পরিমাণ কাফিভাবে উল্লেখযোগ্য হতে পারে। প্রকল্পের GitHub রিপোজিটরিতে প্রকাশিত বেঞ্চমার্ক ডেটা অনুযায়ী, 450W পাওয়ার লিমিটযুক্ত একটি RTX 3090 Ti-এ FP32 অ্যাকুমুলেশন ব্যবহার করে ঘন ম্যাট্রিক্স গুণন (GEMM) টেস্টের ফলাফল নিম্নরূপ:

এই উন্নতি শুধুমাত্র RTX 3090 Ti-এ দেখা যায় না। একজন RTX 3080 Ti ব্যবহারকারী জানিয়েছেন যে, গ্রাফিক্স কার্ডের পাওয়ার লিমিট 315W হলে, BF16 থ্রুপুট 71.59 TFLOPS থেকে বেড়ে 113.98 TFLOPS হয়েছে, এবং TF32 পারফরম্যান্স 35.65 TFLOPS থেকে বেড়ে 65.28 TFLOPS হয়েছে। আরও একটি RTX 3080 10GB-এর সামঞ্জস্যতা রিপোর্টে দেখা গিয়েছে যে, গ্রাফিক্স কার্ডের মূল 320W পাওয়ার লিমিটের অধীনে, FP16/BF16 পারফরম্যান্স প্রায় 65 TFLOPS থেকে 110–113 TFLOPS-এ বৃদ্ধি পেয়েছে। এই পরীক্ষার ফলাফলগুলি X প্ল্যাটফর্মেও প্রচুর আলোচনা হয়েছে।

বাস্তব প্রয়োগে এর পারফরম্যান্স কেমন? আশার বিষয় হলো, সম্প্রদায়ের ব্যবহারকারীরা ইতিমধ্যেই বাস্তব AI লোডের অধীনে এই আনলক ফিচারটি টেস্ট শুরু করেছেন এবং প্রাথমিক ফলাফলগুলি ইতিবাচক।

রেডিটে একজন RTX 3090 Ti ব্যবহারকারী কমফিUI-তে পারফরম্যান্স টেস্ট করেন, যেখানে MOSS-Image SFT BF16-এর থ্রুপুট 58.6% বৃদ্ধি পায়, Qwen-Image 2.1 Turbo BF16-এর থ্রুপুট 57.2% বৃদ্ধি পায়, এবং Z-Image Turbo BF16-এর থ্রুপুট 56.1% বৃদ্ধি পায়। অন্যদিকে, INT8 প্রিসিশন মোডে বৃদ্ধি খুবই কম, MOSS-Image SFT INT8-এর ক্ষেত্রে শুধুমাত্র 0.3% বৃদ্ধি হয়। টেস্টার এছাড়াও উল্লেখ করেন যে, ডিফল্ট অবস্থা এবং আনলক করার পরে জেনারেট করা ইমেজের ডিকোডিং ফলাফল সম্পূর্ণভাবে একই।

বড় ভাষা মডেল (LLM) ইনফারেন্সও একটি সম্ভাব্য লাভের ক্ষেত্র, তবে প্রভাবের মাত্রা লোডের ধরনের উপর অত্যন্ত নির্ভর করে। উদাহরণস্বরূপ, একটি RTX 3090-এর সামঞ্জস্যতা রিপোর্ট অনুযায়ী, vLLM-এর প্রম্পট প্রসেসিং এবং ইনফারেন্স থ্রুপুট 33% বৃদ্ধি পায়, কিন্তু টোকেন জেনারেশন গতি প্রায় অপরিবর্তিত থাকে। এটি খুবই বোঝা যায়, কারণ বড় ভাষা মডেলের ডিকোডিং পর্যায়ের বাধা প্রায়শই টেনসর কোরের মূল কম্পিউটেশনাল থ্রুপুট নয়, বরং VRAM ব্যান্ডউইথ।

একটি গুরুত্বপূর্ণ উন্নতি হল পরীক্ষামূলক Windows বাস্তবায়ন, যা আগের Linux কার্নেল মডিউলের পরিবর্তে UEFI-ভিত্তিক পদ্ধতি ব্যবহার করে। ডেভেলপাররা RTX 3090-এর সফল কেস রেকর্ড করেছেন, যেখানে BF16 ক্যালকুলেশন থ্রুপুট প্রায় 82.5% বৃদ্ধি পেয়েছে। তবে এই সংস্করণটি এখনও পরীক্ষামূলক, এটি শুধুমাত্র নির্দিষ্ট হার্ডওয়্যারের জন্য সামঞ্জস্যপূর্ণ, এবং এটি সাধারণভাবে উপলব্ধ Windows অফিসিয়াল সংস্করণ নয়।

এই পরিকল্পনাটিও স্পষ্ট সীমাবদ্ধতা রয়েছে। GPU আনলক করা ভিডিও মেমোরি ব্যান্ডউইথ বাড়াবে না, আরও বেশি CUDA কোর আনলক করবে না এবং সমস্ত লোডকে স্বয়ংক্রিয়ভাবে দ্রুততর করবে না। RTX 3080 Ti 20GB-এর কমপক্ষে একটি ফিডব্যাক দেখায় যে, আনলকিং প্রক্রিয়াটি সফলভাবে সম্পন্ন হয়েছে, তবে BF16 পারফরম্যান্সে প্রত্যাশিত উন্নতি দেখা যায়নি, যা এটির প্রভাব সর্বজনীন নয় বলে নির্দেশ করে।

গেমিংয়ের ক্ষেত্রে, নভিডিয়ার DLSS প্রযুক্তি টেনসর কোর ব্যবহার করে, তবে এখনও কোনও নির্ভরযোগ্য প্রমাণ নেই যে GPU আনলক করলে গেমের ফ্রেম রেট বাড়বে বা DLSS-এর রানটাইম কমবে। শুধুমাত্র যখন কাজটি এই প্রভাবিত নির্দেশাবলী এবং অ্যাকুমুলেশন মোডকে কল করে, তখনই লাভ পাওয়া সম্ভব। তাই, এই উজ্জ্বল কম্পিউটেশনাল স্কোরগুলি গেমের ফ্রেম রেটের সাথে সমানভাবে বৃদ্ধির সমান নয়।

তবুও, RTX 30 সিরিজ গ্রাফিক্স কার্ড মালিকদের জন্য, GPU Unlock একটি আকর্ষণীয় নতুন প্রচেষ্টা, বিশেষ করে যারা গ্রাফিক্স কার্ডটি স্থানীয় AI ইনফারেন্স, ইমেজ জেনারেশন এবং অন্যান্য উচ্চ কম্পিউটেশনাল লোড সিনারিওতে ব্যবহার করেন। এই প্রকল্পটি এখনও পরীক্ষামূলক পর্যায়ে, কিন্তু বিদ্যমান গ্রাফিক্স কার্ড থেকে স্থায়ীভাবে হার্ডওয়্যার পরিবর্তন ছাড়াই উল্লেখযোগ্য অতিরিক্ত পারফরম্যান্স বের করা যায়, যা সত্যিই আকর্ষণীয়।

দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।