হুয়াওয়ে এবং ইউএসটিসি এনভিডিয়ার একচেটিয়াত্ব ভাঙতে সহযোগিতা করছে, আসেন্ড A3 মডেলের গণনা গতি ৫৮% বৃদ্ধি পেয়েছে
KuCoinFlash
শেয়ার
সারাংশ
হুয়াওয়ে এবং ইউএসটিসি বড় মডেল ট্রেনিংয়ের জন্য এসেন্ড A3 চিপের পারফরম্যান্স বাড়ানোর জন্য হাইপারপ্যারালাল-মোই ফ্রেমওয়ার্ক তৈরি করেছে। এই ডিজাইনটি টাইল লেভেলে হার্ডওয়্যার কিউ ম্যানেজ করে স্কিডিউলিং উন্নত করে, যার ফলে AIC এবং AIV কোরগুলি প্যারালালভাবে চলে। 64-নোড ক্লাস্টারে পরীক্ষায় এক্সপার্ট কম্পিউটেশনে 58% গতির বৃদ্ধি এবং এন্ড-টু-এন্ড ট্রেনিং গতিতে 8-9% বৃদ্ধি দেখা গেছে। এই পদক্ষেপটি AI চিপ মার্কেটে সাপোর্ট এবং রেজিস্ট্যান্স লেভেলগুলির অবস্থানকে পরিবর্তন করতে পারে, যা দেশীয় প্রযুক্তি গ্রহণের জন্য ভালো ঝুঁকি-পুরস্কার অনুপাত প্রদান করে।
ME AI সংবাদ, অনুসরণ করে বিটিং মনিটরিং, বৃহৎ MoE আর্কিটেকচারের উন্নয়নে, স্থানীয় ক্রমাগত এসেন্ড (Ascend) চিপ ব্যবহার করে বড় মডেল প্রশিক্ষণ স্বাধীন ও নিয়ন্ত্রণযোগ্য AI ক্যালকুলেশন ক্ষমতা গঠনের একটি গুরুত্বপূর্ণ দিক হয়ে উঠেছে। তবে, প্রধান বড় মডেল ফ্রেমওয়ার্কগুলি প্রায়শই নভেডিয়া CUDA ইকোসিস্টেমের উপর ভিত্তি করে তৈরি, এবং এসেন্ড প্ল্যাটফর্মে সরাসরি স্থানান্তরিত হলে হার্ডওয়্যার কিউ স্কিডিউলিংয়ের অসমতা, ক্যালকুলেশন ব্যবহারের কমতির মতো চ্যালেঞ্জগুলির সম্মুখীন হওয়ার সম্ভাবনা। চীনা বিজ্ঞান ও প্রযুক্তি বিশ্ববিদ্যালয়, হুয়াওয়ে এবং পেকিং বিশ্ববিদ্যালয়ের সমন্বয়ে HyperParallel-MoE কম্পাইলার-স্কিডিউলিং ফ্রেমওয়ার্কটি প্রকাশ করা হয়েছে, যা এসেন্ড A3-এর অনন্য হার্ডওয়্যার কিউ-এর জন্য টাইল-লেভেল (tile-level) নিয়ন্ত্রণকে লক্ষ্যবস্তু করে, যাতে প্যারালাল স্কিডিউলিংয়ের উপর হেটারোজিনিয়াস ক্যালকুলেশনের শক্তি-দক্ষতা-সীমা অতিক্রম করা যায়। এসেন্ড A3-এর দুটি প্রধান কোর AIC, যা ম্যাট্রিক্স-গুণনের জন্য দায়ী, AIV, যা ভেক্টর-ক্যালকুলেশন এবং কমিউনিকেশনের জন্য। তবে, ঐতিহ্যগতভাবে,অপারেটরগুলির সিরিয়াল-স্কিডিউলিংয়ে, AIC-এবং AIV-এর 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি 2টি
AIC-এরব্যবহারমাত্র67%হয়এবং39%পণ্যপথেকমিউনিকেশনলেटসহজভাবেপদদলিতহয়।HyperParallel-MoE-এ3পদক্ষেপআছে।প্রথমত, AIV-চালিতএক-পক্ষীয়লেখাপদক্ষেপডিজাইনকরাহয়েছে,যাডেটাটাইলপৌঁছলেইগণনাশুরুহয়,সমগ্রব্যাচপৌঁছানোরঅপেক্ষাকরতনা।দ্বিতীয়ত,অধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস্থঅধীনস்ஃ
পরীক্ষা
দেখায়
যে
64
পরিচালক
ভারসাম্য়
ভার
পথ
হলে,
পণ
গণ
কম
মড
( MoE-FFN)
দ
36%
কম
হয়,
যা
ডে
প্
58%
(1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
আ
1.49
1.58
গ
এইভাবে,এসেন্ড-এরবাস্তবশক্তিদক্ষতাশুধ্
(উৎস: BlockBeats)
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।