Berita ME, 22 April (UTC+8), proyek vLLM mengumumkan bahwa situs repositori konfigurasi yang dipelihara komunitas, vLLM Recipes, telah mengalami desain ulang besar-besaran. Situs versi baru ini dirancang untuk membantu pengguna dalam menerapkan dan menjalankan model bahasa besar dengan cepat, dengan fitur utama baru berupa jawaban yang dapat diklik untuk pertanyaan seperti "bagaimana menjalankan model tertentu pada perangkat keras tertentu untuk menyelesaikan tugas tertentu". Situs ini menggunakan gaya URL serupa HuggingFace, sehingga pengguna dapat langsung beralih ke halaman solusi optimal dengan mengganti bagian domain dalam URL model. Platform ini menyediakan perintah baris perintah `vllm serve` yang dioptimalkan untuk berbagai model seperti Qwen3.6-35B-A3B dan Kimi-K2.6, serta berbagai perangkat keras GPU seperti NVIDIA H100/H200/B200/B300 dan AMD MI300X/MI325X/MI355X. Pengguna dapat menelusuri solusi berdasarkan penyedia seperti Arcee AI, Baidu, ByteDance, DeepSeek, Google, Meta, dan Microsoft. Platform ini sepenuhnya kompatibel dengan vLLM dan menyediakan tautan ke dokumentasi resmi, repositori GitHub, serta daftar kompatibilitas perangkat keras model lengkap. (Sumber: InFoQ)
Situs Web vLLM Recipes Didesain Ulang untuk Menawarkan Solusi Optimasi Model dan Perangkat Keras
KuCoinFlashBagikan
Ringkasan
Berita on-chain muncul pada 22 April (UTC+8) ketika proyek vLLM mengumumkan desain ulang besar-besaran terhadap platform vLLM Recipes. Pembaruan ini memperkenalkan solusi yang dapat diklik untuk mendeploy model seperti Qwen3.6-35B-A3B dan Kimi-K2.6 pada perangkat keras seperti NVIDIA H100/H200/B200/B300 dan AMD MI300X/MI325X/MI355X. Pengumuman proyek menyoroti perintah `vllm serve` yang dioptimalkan dan kompatibilitas dengan penyedia seperti Arcee AI, Baidu, dan Meta. Platform ini menghubungkan ke dokumentasi, GitHub, dan daftar kompatibilitas lengkap.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.