رسالة AIMPACT، 1 مايو (UTC+8): أصدرت مؤسسة LightSeek مؤخرًا بوابة نموذج Shepherd (SMG)، والتي تهدف إلى معالجة الاختناقات الإنتاجية الناتجة عن وجود مهام كثيفة المعالجة المركزية في المسار الحرج لخدمات نماذج اللغة الكبيرة. يعتمد تصميمها على نقل جميع المهام غير المعتمدة على وحدة معالجة الرسومات إلى بوابة مبنية بلغة Rust، مع تحديد حدود gRPC محدودة حول عملية الاستدلال لتقليل انسداد وحدة المعالجة المركزية لمسار الاستدلال، وبالتالي تحسين كفاءة الخدمة العامة. (المصدر: InFoQ)
مؤسسة LightSeek تطلق بوابة نموذج Shepherd لتخفيف عُقدات وحدة المعالجة المركزية في نماذج اللغة الكبيرة
KuCoinFlashمشاركة
ملخص
أعلنت مؤسسة LightSeek في 1 مايو 2026 (UTC+8) عن إطلاق بوابة نموذج الراعي (SMG) لمعالجة عقدات CPU في خدمات نماذج اللغة الكبيرة. يوجه الحل المهام غير المعتمدة على GPU إلى بوابة مبنية على Rust ويقلل من حدود gRPC لتقليل حظر CPU. يظهر هذا التحديث في الأخبار على السلسلة كتطور رئيسي في أخبار التشفير. يهدف التصميم إلى تعزيز كفاءة الخدمة في استنتاج نماذج اللغة الكبيرة.
المصدر:عرض النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة قد حصلت عليها من أطراف ثالثة ولا تعكس بالضرورة وجهات نظر أو آراء KuCoin. يُقدّم هذا المحتوى لأغراض إعلامية عامة فقط ، دون أي تمثيل أو ضمان من أي نوع ، ولا يجوز تفسيره على أنه مشورة مالية أو استثمارية. لن تكون KuCoin مسؤولة عن أي أخطاء أو سهو ، أو عن أي نتائج ناتجة عن استخدام هذه المعلومات.
يمكن أن تكون الاستثمارات في الأصول الرقمية محفوفة بالمخاطر. يرجى تقييم مخاطر المنتج بعناية وتحملك للمخاطر بناء على ظروفك المالية الخاصة. لمزيد من المعلومات، يرجى الرجوع إلى شروط الاستخدام واخلاء المسؤولية.