Google DeepMind lance DiffusionGemma, la vitesse de génération de texte multipliée par 4

iconKuCoinFlash
Partager
Share IconShare IconShare IconShare IconShare IconShare IconCopy
AI summary iconRésumé

expand icon
Actualités on-chain : Google DeepMind a lancé DiffusionGemma, un modèle open-source de génération de texte qui augmente la vitesse de 4 fois. En utilisant la technologie diffusion, il génère 256 jetons en parallèle, atteignant plus de 1000 jetons/s sur H100 et 700+ sur RTX 5090. Le modèle MoE de 26 Go active 3,8 Go de paramètres lors de l'inférence et prend en charge les GPU grand public après quantification. Il intègre une attention bidirectionnelle et une auto-correction, idéale pour la complétion de code et l'édition en ligne. Le modèle est mis à disposition en open source sous licence Apache 2.0. De nouvelles listings de jetons pourraient bénéficier de ces avancées en efficacité de génération.
ME AI : Google DeepMind lance le modèle expérimental open source DiffusionGemma, qui utilise la technique de diffusion textuelle pour dépasser la génération autoregressive token par token, générant en parallèle 256 tokens à chaque avancement. Ce modèle MoE de 26B n'active que 3,8B paramètres lors de l'inférence et s'adapte à des GPU grand public avec 18 Go de mémoire vidéo après quantification. Il atteint plus de 1000 tokens/s sur H100 et plus de 700 tokens/s sur RTX 5090, soit une amélioration de vitesse de 4 fois. Il dispose d'une attention bidirectionnelle et d'une capacité de correction automatique, conçu pour des flux de travail interactifs locaux tels que l'édition intégrée et le remplissage de code, et est disponible sous licence Apache 2.0. (Source : AiHot)
Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.