أخبار ME، في 20 مايو (UTC+8)، وفقًا لمراقبة Beating، أعلنت شركة Cerebras المتخصصة في رقائق على مستوى الرقاقة عن إطلاق نموذج كبير بتريليون معلمة يُسمى Kimi K2.6 في اختبارات المؤسسات، حيث تم القضاء تمامًا على التأخير الناتج عن الاتصالات على مستوى اللوحة من خلال دمج الرقاقة مباشرة على رقاقة سيليكون بحجم 12 بوصة. أظهرت تقييمات من قبل جهة خارجية تُدعى Artificial Analysis أن سرعة التوليد بلغت 981 رمزًا/ثانية، أي أسرع بـ 6.7 مرة مقارنة بخدمات السحابة GPU الشائعة. في مهام النص الطويل التي تتضمن 10000 رمز مدخل و500 رمز مخرج، انخفض إجمالي وقت الاستجابة من 163.7 ثانية عبر واجهة Kimi الرسمية إلى 5.6 ثانية فقط، بزيادة في السرعة تصل إلى 29 مرة. نظرًا لأن أوزان النموذج تُوزع عبر عدة رقائق لنقل قيم التنشيط بشكل تدفقي، فإن الاتصال بين الطبقات يعمل بالكامل على شبكة النسيج الداخلية للرقاقة، حيث يصل عرض النطاق الترددي للاتصال الفيزيائي إلى أكثر من 200 ضعف عرض نطاق NVLink في بنية NVIDIA NVL72. بالتزامن مع تحسينات الحوسبة الموزعة، يخزن Kimi K2.6 الأوزان الأصلية بـ 4 بت (4 بت) مع فقدان ضئيل، ويستخدم أعدادًا عائمة بـ 16 بت (16 بت) أثناء الحساب للحفاظ على الدقة، ويستخدم نواة مشغل مخصصة مع التخمين التنبؤي لتحقيق التشغيل في الوقت الفعلي. (المصدر: BlockBeats)
تختبر Cerebras نموذج Kimi K2.6 مع تحسين في السرعة بنسبة 29x في مهام النصوص الطويلة
KuCoinFlashمشاركة
ملخص
كشفت Cerebras في 20 مايو (UTC+8) أنها اختبرت نموذج Kimi K2.6 ببارامترات تريليون باستخدام رقائقها ذات حجم الرقاقة الكامل. ومن خلال تثبيت الرقائق مباشرة على رقاقة كاملة بقطر 12 بوصة، خفّضت الشركة التأخيرات في الاتصال. وفقًا لـ Artificial Analysis، أنشأ النموذج نصًا بمعدل 981 رمزًا/ثانية، أي أسرع بـ 6.7 مرات من خدمات GPU القياسية. وفي اختبار نص طويل بـ 10,000 رمز مدخل و500 رمز مخرج، انخفض وقت الاستجابة من 163.7 ثانية إلى 5.6 ثانية، أي تحسن بنسبة 29 مرة. وتستمر البيانات على السلسلة في تسليط الضوء على تحسينات الأداء في البنية التحتية للذكاء الاصطناعي.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.