Google DeepMind melancarkan DiffusionGemma, kelajuan penjanaan teks ditingkatkan 4 kali

iconKuCoinFlash
Kongsi
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRingkasan

expand icon
berita pada rantai: Google DeepMind telah melancarkan DiffusionGemma, model penghasil teks sumber terbuka yang meningkatkan kelajuan sebanyak 4x. Dengan menggunakan teknologi diffusi, ia menghasilkan 256 token secara serentak, mencapai lebih daripada 1000 token/s pada H100 dan 700+ pada RTX 5090. Model MoE 26B mengaktifkan 3.8B parameter semasa inferens dan menyokong GPU pengguna selepas kuantisasi. Ia menampilkan perhatian berarah dua arah dan penyesuaian sendiri, sesuai untuk penyelesaian kod dan penyuntingan dalam baris. Model ini telah dibuka sumber di bawah Apache 2.0. Pencatatan token baharu mungkin mendapat manfaat daripada kemajuan dalam kecekapan penghasilan seperti ini.
ME AI Berita, Google DeepMind melancarkan model eksperimen sumber terbuka DiffusionGemma, yang menggunakan teknik penyebaran teks, melanggar kaedah penghasilan token secara berurutan autoregresif dengan menghasilkan 256 token secara selari setiap langkah maju. Model MoE 26B ini hanya mengaktifkan 3.8B parameter semasa inferens, dan sesuai untuk GPU konsumen dengan memori GPU 18GB selepas kuantisasi. Mencapai 1000+ token/s di H100 dan 700+ token/s di RTX 5090, meningkatkan kelajuan sebanyak 4 kali. Memiliki perhatian dwi arah dan kemampuan koreksi sendiri, direka untuk alur kerja interaktif tempatan seperti suntingan dalam baris dan pengisian kod, dan dibuka di bawah lesen Apache 2.0. (Sumber: AiHot)
Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.