Xiaohongshu membuka sumber BigMac, satu paradigma latihan model besar multimodal baharu

iconKuCoinFlash
Kongsi
AI summary iconRingkasan
Xiaohongshu membuka sumber BigMac, satu paradigma latihan multimodal baharu yang dibina atas MetaEra. Model ini menggunakan saluran bersarang selamat bergantung untuk menggabungkan pengiraan encoder dan penghasil dalam saluran LLM. Ia memberikan peningkatan kelajuan 1.08x-1.9x berbanding kaedah piawai sambil mengekalkan ingatan aktivasi terhad. BigMac kini menyokong latihan pengeluaran untuk model multimodal dots. Minat terbuka dalam indikator teknikal terus meningkat seiring dengan semakin popularnya model ini.

Berita ME, pada 22 Julai (UTC+8), pasukan teknikal Xiaohongshu membuka sumber BigMac, satu paradigma baru aliran bersarang selamat bergantung untuk latihan model besar multimodal. Ia menggunakan aliran LLM sebagai tulang belakang, memasukkan pengiraan encoder dan generator tanpa mengganggu urutan pelaksanaan, mencapai percepatan 1.08x-1.9x berbanding garis dasar sambil mengekalkan ingatan aktivasi terbatas. BigMac telah digunakan sebagai komponen utama dalam latihan model multimodal dots dalam produksi. 🔗 Baca artikel asal: https://mp.weixin.qq.com/s/tNJARtn1jIayL5URg87Row via AI HOT · https://aihot.virxact.com/items/cmrvx8ycy0240bipz0pkrvryq (Sumber: AiHot)

Penafian: Maklumat yang terdapat pada halaman ini mungkin telah diperoleh daripada pihak ketiga dan tidak semestinya menggambarkan pandangan atau pendapat KuCoin. Kandungan ini adalah disediakan bagi tujuan maklumat umum sahaja, tanpa sebarang perwakilan atau waranti dalam apa jua bentuk, dan juga tidak boleh ditafsirkan sebagai nasihat kewangan atau pelaburan. KuCoin tidak akan bertanggungjawab untuk sebarang kesilapan atau pengabaian, atau untuk sebarang akibat yang terhasil daripada penggunaan maklumat ini. Pelaburan dalam aset digital boleh membawa risiko. Sila menilai risiko produk dan toleransi risiko anda dengan teliti berdasarkan keadaan kewangan anda sendiri. Untuk maklumat lanjut, sila rujuk kepada Terma Penggunaan dan Pendedahan Risiko kami.