德國 AI 聯盟推出 Soofi S 30B-A3B,在英語和德語基準測試中表現更優

iconKuCoinFlash
分享
AI summary icon精華摘要
德國 AI 聯盟於 7 月 13 日(UTC+8)發布了 Soofi S 30B-A3B,這是一個擁有 316 億參數的開源模型。該模型採用 MoE 架構,融合了 Mamba-2 與注意力層,每個標記激活 32 億參數。模型在德國的 AI 雲端上進行訓練,其德語數據比例提升至 15.3%。在英語和德語基準測試中,其表現優於 OLMo 3 32B 和 Apertus 70B。在 HumanEval 上得分為 73.8%,MBPP 上為 70.2%,德語 MBPP 上為 84.2%。擁有 100 萬標記的上下文窗口,可以 8 倍吞吐量處理 40,000 個標記。模型權重已開源。此 AI + 加密貨幣新聞更新突顯了該領域的一項重大鏈上新聞發展。

ME News 消息,7 月 13 日(UTC+8),德國 AI 協會協調的研究聯盟發布開源大語言模型 Soofi S 30B-A3B。該模型總參數量為 316 億,每個 token 僅激活約 32 億參數,採用 Mamba-2 與標準注意力層混合的 MoE 架構。模型完全在德國電信慕尼黑工業 AI 雲上訓練,訓練數據中德語占比從第一階段的 7.2% 提升至第二階段的 15.3%。在基準測試中,Soofi S 在所有完全開源模型中取得英語和德語綜合最高分,超越 OLMo 3 32B 和 Apertus 70B。在 HumanEval 上得分 73.8%,MBPP 得分 70.2,德語版 MBPP 得分 84.2。上下文窗口支援最高 100 萬 token,在 4 萬 token 長度下,生成吞吐量約為同規模稠密模型的 8 倍。模型權重已開源。 🔗 閱讀原文:https://the-decoder.com/german-ai-consortium-releases-soofi-s-an-open-30b-model-that-tops-benchmarks-in-both-english-and-german via AI HOT · https://aihot.virxact.com/items/cmrj6actv0651bilkm5pfz6ub(來源:AiHot)

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露