PANews, 21 মার্চ এর তথ্য অনুযায়ী, অফিসিয়াল ঘোষণা অনুযায়ী, Tether একটি ক্রস-প্ল্যাটফর্ম BitNet LoRA ফ্রেমওয়ার্ক চালু করেছে, যা Microsoft BitNet (1-বিট LLM) এর ট্রেনিং এবং ইনফারেন্স অপ্টিমাইজেশন সম্ভব করেছে। এই ফ্রেমওয়ার্কটি ক্যালকুলেশন এবং মেমোরির প্রয়োজনীয়তা উল্লেখযোগ্যভাবে কমিয়েছে, যার ফলে বিলিয়ন প্যারামিটার স্কেলের মডেলগুলি ল্যাপটপ, কনজিউমার-গ্রেড GPU এবং স্মার্টফোনে ট্রেনিং এবং ফাইন-টিউনিংয়ের জন্য সক্ষম। এই সমাধানটি প্রথমবারের মতো BitNet মডেলগুলিকে মোবাইল GPU-এ (Adreno, Mali এবং Apple Bionic সহ) ফাইন-টিউনিংয়ের সুযোগ দিয়েছে। পরীক্ষা অনুযায়ী, 125M প্যারামিটারের মডেলটি প্রায় 10 মিনিটেরও কম সময়ে, 1B মডেলটি প্রায় 1 ঘণ্টারও কম সময়ে ফাইন-টিউনিংয়ের জন্য সক্ষম, এবং স্মার্টফোনে 13B প্যারামিটারের মডেলও বিস্তৃত করা যায়। এছাড়াও, এই ফ্রেমওয়ার্ক Intel, AMD এবং Apple Silicon-এর মতো হেটারোজিনিয়াস হার্ডওয়্যারকেও সমর্থন করে, এবং NVIDIA-এর বাইরের ডিভাইসগুলিতে 1-বিট LLM LoRA ফাইন-টিউনিংয়ের প্রথমবারের মতো সম্ভবতা তৈরি করেছে। পারফরম্যান্সের ক্ষেত্রে, BitNet মডেলগুলির CPU-এর তুলনায় মোবাইল GPU-এর ইনফারেন্স স্পিড 2-11x-এরও বেশি, এবং 16-বিট প্রচলিত মডেলগুলির তুলনায় VRAM-এর ব্যবহার 77.8%পর্যন্ত কমিয়েছে। Tether-এর মতে, এই প্রযুক্তিরা উচ্চ-পারফরম্যান্সকারীকৃতক্ষমতা এবংক্লাউড-ভিত্তিকভিত্তিরউপরনির্ভরশীলতাকেভাঙতেপারবে, AIট্রেনিংকেডিসেনট্রালাইজডএবংস্থানীয়ভাবেউন্নতকরবেএবংফেডারেটেডলার্নিংসহঅন্যান্যনতুনঅ্যাপলিকেশনগুলিরজন্যভিত্তিপ্রদানকরবে।
টেদার কনsumer ডিভাইসে বিলিয়ন-প্যারামিটার মডেল ট্রেনিংয়ের জন্য ক্রস-প্ল্যাটফর্ম বিটনেট লোরা ফ্রেমওয়ার্ক চালু করেছে
PANewsশেয়ার
সারাংশ
টেথার একটি ক্রস-প্ল্যাটফর্ম বিটনেট লোরা ফ্রেমওয়ার্ক প্রকাশ করেছে যা অন-চেইন সংবাদ এবং ক্রিপ্টো সংবাদের জন্য ব্যবহার করা যায়, যার মাধ্যমে মাইক্রোসফটের 1-বিট বিটনেট মডেলগুলিকে কনজুমার হার্ডওয়্যারে ট্রেনিং করা যায়। এই টুলটি বিলিয়ন-প্যারামিটার মডেলগুলিকে ল্যাপটপ, স্মার্টফোন এবং অ্যাড্রেনো, মালি এবং অ্যাপল বিওনিকের মতো GPU-এ চালানোর অনুমতি দেয়। 1B প্যারামিটারের মডেলটি ফাইন-টিউন করতে প্রায় এক ঘন্টা সময় নেয়। এই সিস্টেমটি ইনটেল, AMD এবং অ্যাপল সিলিকনকে সমর্থন করে, যা 1-বিট LLM LoRA টিউনিংকে প্রথমবারের মতো NVIDIA-এর বাইরের ডিভাইসগুলিতে নিয়ে আসে। মোবাইল GPU-এর তুলনায় CPU-এর তুলনায় বিটনেট মডেলগুলি 2–11x দ্রুততরভাবে চলে, 16-বিট সংস্করণগুলির তুলনায় 77.8% কম মেমোরি ব্যবহার করে। টেথার দাবি করেছে যে এই প্রযুক্তির মাধ্যমে ক্লাউডেরউপর নির্ভরশীলতা কমিয়ে, ডিসেন্ট্রালাইজড AI ট্রেনিংকে সক্ষম করা যাবে।
উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না।
ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।