Pokee AI 推出 28B 模型，支援 10M token 上下文，長度為主流模型的 10 倍

iconKuCoinFlash
分享
AI summary icon精華摘要
AI 與加密貨幣新聞媒體 MetaEra 報導，Pokee AI 已推出其 28B 模型 Pokee-Isaac，具備 1,000 萬個 token 的上下文窗口——比大多數模型長 10 倍。該模型由前 Meta 主導者朱哲青開發，在 256K–4M token 測試中得分為 95，在 1,000 萬個 token 下得分為 93.3。這家成立於 2024 年的公司已從 Point72 Ventures、高通風投和三星 NEXT 獲得 1,200 萬美元種子輪融資。新的代幣上線可能受益於此類 AI 進步。
ME AI 消息，據動察 Beating 監測，AI Agent 創業公司 Pokee AI 發布 Pokee-Isaac 28B。模型參數總量只有 280 億，上下文視窗卻達到 1000 萬 Token。目前主流模型的上限約為 100 萬 Token，Isaac 接近它們的 10 倍。Pokee 自測中，Isaac 在 RULER 長文本測試裡，從 25.6 萬到 400 萬 Token 一直保持在 95 分上下。拉滿 1000 萬 Token 後，得分仍有 93.3。其餘五款對照模型從 200 萬 Token 起都沒有返回可用結果。Pokee 把超長上下文歸因於自研的「非純 Decoder-only 架構」，即沒有完全沿用常見大模型的純解碼器結構。不過，技術報告沒有公開具體架構、注意力機制和顯存方案，外界暫時無法判斷它究竟怎麼做到的。Pokee AI 成立於 2024 年，由前 Meta 應用強化學習負責人朱哲清創辦。公司曾獲得 Point72 Ventures 領投的 1200 萬美元種子輪，高通創投和 Samsung NEXT 等參投。（來源：MLion）
來源:顯示原文
免責聲明：本頁面資訊可能來自第三方，不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用，不構成任何形式的陳述或保證，也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏，或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息，請參閱我們的使用條款和風險披露 。