MEニュース:7月13日(UTC+8)、ドイツAI協会が調整する研究コンソーシアムが、オープンソースの大規模言語モデル「Soofi S 30B-A3B」をリリースしました。このモデルの総パラメータ数は316億で、各トークンに対して約32億のパラメータのみが活性化され、Mamba-2と標準的なアテンション層を組み合わせたMoEアーキテクチャを採用しています。モデルはドイツテレコムのミュンヘン工業AIクラウド上で完全にトレーニングされ、トレーニングデータにおけるドイツ語の割合は第1段階で7.2%から第2段階で15.3%まで向上しました。ベンチマークテストでは、Soofi Sは英語とドイツ語の総合スコアで、完全にオープンソースのモデルの中で最高を記録し、OLMo 3 32BおよびApertus 70Bを上回りました。HumanEvalでは73.8%、MBPPでは70.2、ドイツ語版MBPPでは84.2のスコアを達成しました。コンテキストウィンドウは最大100万トークンをサポートし、4万トークンの長さでは、同等規模の密なモデルと比較して生成スループットが約8倍です。モデルの重みはすでにオープンソース化されています。 🔗 原文を読む:https://the-decoder.com/german-ai-consortium-releases-soofi-s-an-open-30b-model-that-tops-benchmarks-in-both-english-and-german via AI HOT · https://aihot.virxact.com/items/cmrj6actv0651bilkm5pfz6ub(出典:AiHot)
ドイツのAIコンソーシアム、Soofi S 30B-A3Bをリリース。英語およびドイツ語のベンチマークで優れた性能を発揮
KuCoinFlash共有
ドイツAIコンソーシアムは7月13日(UTC+8)、316億パラメータを備えたオープンソースモデル「Soofi S 30B-A3B」を発表しました。このモデルはMoEアーキテクチャを採用し、Mamba-2とアテンション層を組み合わせ、1トークンあたり32億パラメータを活性化します。ドイツのAIクラウドで学習され、ドイツ語データの割合は15.3%に向上しました。英語およびドイツ語のベンチマークで、OLMo 3 32BおよびApertus 70Bを上回りました。HumanEvalでは73.8%、MBPPでは70.2%、ドイツ語MBPPでは84.2%のスコアを記録しました。100万トークンのコンテキストウィンドウを備え、8倍のスループットで4万トークンを処理できます。モデルの重みはオープンソースとして公開されています。このAI+暗号通貨ニュース更新は、業界における重要なオンチェーンニュースの展開を示しています。
出典:原文を表示
免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。
デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。