وفقًا لمراقبة Beating، أطلقت شركة قاعدة البيانات الحافة SQLite AI محرك الاستدلال مفتوح المصدر WASTE. يسمح هذا المحرك بتشغيل Kimi K3 مع الحفاظ على جميع الطبقات والخبراء على جهاز MacBook Pro بسعة 64 جيجابايت. يشغل النموذج المحول حوالي 1 تيرابايت، بسرعة تتراوح بين 0.49 و0.54 رمزًا في الثانية. يحتفظ WASTE بحوالي 27 جيجابايت من هيكل النموذج في الذاكرة، بينما يتم وضع أكثر من 80 ألف خبير على محرك SSD المدمج. عند توليد كل رمز، يتم قراءة الخبراء المطلوبين حاليًا فقط من القرص الصلب. لا يحتوي هذا الإصدار على تقطيع أو تقليل أو حذف الخبراء، لكن أوزان الخبراء تم إعادة كميّتها إلى 3 بت، بينما يستخدم هيكل النموذج 4 بت و8 بت.
SQLite AI تُصدر مُحرك الاستنتاج WASTE لـ Kimi K3 على MacBook بسعة 64 جيجابايت
MarsBitمشاركة
ملخص
أطلقت SQLite AI محرك الاستنتاج WASTE كمصدر مفتوح، مما يسمح بتشغيل نموذج Kimi K3 الكامل على MacBook Pro بسعة 64 جيجابايت. يُعد هذا الخبر على السلسلة خطوة كبيرة في مجال الذكاء الاصطناعي + العملات المشفرة، حيث يعمل النموذج بمعدل 0.49 إلى 0.54 رمزًا في الثانية. يحتفظ النموذج بحجم 1 تيرابايت بالهيكل الأساسي بحجم 27 جيجابايت في الذاكرة، ويُحمّل الخبراء من SSD حسب الحاجة. تم إعادة كميزة الأوزان إلى 3 بت، مع استخدام الهيكل الأساسي لـ 4 بت و8 بت.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.