গুগল ডিফিউশনগেমা চালু করেছে, টেক্সট জেনারেশনের গতি 4 গুণ বৃদ্ধি পেয়েছে

iconKuCoinFlash
শেয়ার
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconসারাংশ

expand icon
অন-চেইন সংবাদ: গুগল ডিফিউশনগেমা চালু করেছে, একটি ওপেন-সোর্স টেক্সট জেনারেশন মডেল যা 4x গতি বৃদ্ধি করে। ডিফিউশন প্রযুক্তি ব্যবহার করে, এটি 256 টোকেন সমান্তরালে জেনারেট করে, H100-এ 1000+ টোকেন/সেকেন্ড এবং RTX 5090-এ 700+ টোকেন/সেকেন্ড অর্জন করে। 26B MoE মডেলটি ইনফারেন্সের সময় 3.8B প্যারামিটার সক্রিয় করে এবং কোয়ান্টাইজেশনের পরে কনজিউমার GPU-এর সমর্থন করে। এতে বিডিরেকশনাল অ্যাটেনশন এবং সেলফ-করেকশন ফিচার রয়েছে, যা কোড কমপ্লিশন এবং ইনলাইন এডিটিংয়ের জন্য আদর্শ। মডেলটি Apache 2.0-এর অধীনে ওপেন-সোর্সড। জেনারেশন দক্ষতায় এই উন্নতির কারণে নতুন টোকেন লিস্টিংগুলির সুবিধা হতে পারে।
ME AI বার্তা, Google DeepMind ওপেন-সোর্স পরীক্ষামূলক মডেল DiffusionGemma প্রকাশ করেছে, যা টেক্সট ডিফিউশন প্রযুক্তি ব্যবহার করে, স্বয়ংসম্পূর্ণ টোকেন-ভিত্তিক জেনারেশন পদ্ধতির পরিবর্তে প্রতিবার 256টি টোকেন সমান্তরালে জেনারেট করে। এই 26B MoE মডেলটি ইনফারেন্সের সময় শুধুমাত্র 3.8B প্যারামিটার সক্রিয় করে, এবং কোয়ান্টাইজড হয়ে 18GB VRAM-বিশিষ্ট কনsumer GPU-এর সাথে সামঞ্জস্যপূর্ণ। H100-এ 1000+ টোকেন/সেকেন্ড এবং RTX 5090-এ 700+ টোকেন/সেকেন্ড গতি অর্জন করে, যা 4 গুণ গতির উন্নতি। এতে বাইডিরেকশনাল অ্যাটেনশন এবং সেলফ-করেকশন ক্ষমতা রয়েছে, যা ইনলাইন এডিটিং, কোড ফিলিংয়ের মতো লোকাল ইন্টারঅ্যাকটিভ ওয়ার্কফ্লোগুলির জন্য উপযুক্ত, Apache 2.0 লাইসেন্সের অধীনে উন্মুক্ত। (উৎস: AiHot)
দাবিত্যাগ: এই পৃষ্ঠার তথ্য তৃতীয় পক্ষের কাছ থেকে প্রাপ্ত হতে পারে এবং অগত্যা KuCoin এর মতামত বা মতামত প্রতিফলিত করে না। এই বিষয়বস্তু শুধুমাত্র সাধারণ তথ্যগত উদ্দেশ্যে প্রদান করা হয়, কোন ধরনের প্রতিনিধিত্ব বা ওয়ারেন্টি ছাড়াই, বা এটিকে আর্থিক বা বিনিয়োগ পরামর্শ হিসাবে বোঝানো হবে না। KuCoin কোনো ত্রুটি বা বাদ পড়ার জন্য বা এই তথ্য ব্যবহারের ফলে যে কোনো ফলাফলের জন্য দায়ী থাকবে না। ডিজিটাল সম্পদে বিনিয়োগ ঝুঁকিপূর্ণ হতে পারে। আপনার নিজের আর্থিক পরিস্থিতির উপর ভিত্তি করে একটি পণ্যের ঝুঁকি এবং আপনার ঝুঁকি সহনশীলতা সাবধানে মূল্যায়ন করুন। আরও তথ্যের জন্য, অনুগ্রহ করে আমাদের ব্যবহারের শর্তাবলী এবং ঝুঁকি প্রকাশ পড়ুন।