অ্যান্ট গ্রুপ লিং-3.0-ফ্ল্যাশ মডেলটি 124B প্যারামিটার সহ ওপেন সোর্স করেছে

icon MarsBit
শেয়ার
AI summary iconসারাংশ
অ্যান্ট গ্রুপের ইনক্লুশনএআই এমআইটি লাইসেন্সের অধীনে লিং-3.0-ফ্ল্যাশ মডেলটি ওপেন-সোর্স করেছে, যার ফলে ডেভেলপারদের মধ্যে আগ্রহ বাড়ছে। এই মডেলটি BF16 (255GB) এবং FP8 (128GB) সংস্করণ সমর্থন করে, যার মধ্যে পরবর্তীটি মেমোরির প্রয়োজনীয়তা কমিয়ে দেয়। এতে মোট 124B প্যারামিটার রয়েছে, কিন্তু প্রতিটি জেনারেশনে শুধুমাত্র 5.1B ব্যবহার করা হয়। এই মডেলটি 256,000-টোকেন কনটেক্সট সমর্থন করে এবং প্রোগ্রামিং এবং টুল কলিং-এ উত্কৃষ্ট। FP8 সংস্করণটি চারটি পরীক্ষায় BF16-এর চেয়ে সর্বোচ্চ 1.57 স্কোরের ব্যবধান দেখিয়েছে। ভয় এবং লালসা সূচকের ডেটা এআই-এর উন্নতির প্রতি বাড়তি আশাবাদকে নির্দেশ করছে।

Beating মনিটরিং অনুযায়ী, Antelope Ling (inclusionAI) আনুষ্ঠানিকভাবে Ling-3.0-flash ওজন প্রকাশ করেছে, যা BF16 মূল এবং FP8 কোয়ান্টাইজড সংস্করণ উভয়ই অন্তর্ভুক্ত করে। উভয় সংস্করণই MIT লাইসেন্স অনুযায়ী, এবং Hugging Face এবং ModelScope-এ প্রকাশিত হয়েছে, যা SGLang বা vLLM ব্যবহার করে নিজেরা ডিপ্লয় করা যায়। BF16 সংস্করণের আকার প্রায় 255GB, এবং FP8 সংস্করণের আকার প্রায় 128GB, যা প্রায় অর্ধেক কমেছে। FP8-এ কম প্রিসিশনে প্যারামিটারগুলি সংরক্ষণ করা হয়, যা স্টোরেজ এবং GPU মেমোরির প্রয়োজনীয়তা কমিয়ে দেয়। অফিসিয়ালি উল্লিখিত 4টি টেস্টের মধ্যে, FP8 এবং BF16-এর সর্বোচ্চ পার্থক্য 1.57 পয়েন্ট। Ling-3.0-flash-এর মোট প্যারামিটার 1240 বিলিয়ন, এবং প্রতিবার জেনারেশনের সময় শুধুমাত্র 51 বিলিয়নটি সক্রিয় হয়। মডেলটি 256,000 Token-এর কনটেক্সটকে সমর্থন করে, যা মূলত প্রোগ্রামিং, সার্চ, গভীর গবেষণা এবং টুল-কলিংয়ের মতো Agent-কাজগুলির জন্য। অফিসিয়াল মূল্যায়নের মতে, it-এর অধিকাংশ বেঞ্চমার্কে Ring-2.6-1T-এর মতো 1ট্রিলিয়ন-প্যারামিটারের পূর্ববর্তী মডেলগুলির সমতুল্য বা তদুপরি।

উৎস:আসল দেখান
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।