Pokee AI 推出具備 28B 參數與 10M Token 上下文視窗的模型

iconChainthink
分享
AI summary icon精華摘要
AI 與加密貨幣新聞於 8 月 5 日揭開序幕,Pokee AI 推出了擁有 280 億參數的 Pokee-Isaac 模型,其上下文窗口達 1,000 萬個 token。內部測試顯示,Isaac 在 RULER 測試中,從 256K 到 4M token 的得分為 95,在滿載時得分为 93.3,而其他模型在超過 2M token 後即失敗。該公司採用專有的非純解碼器架構。Pokee 於 2024 年由前 Meta ARRL 主管朱哲青創立,並從 Point72 Ventures、高通風投和三星 NEXT 融資 1,200 萬美元種子資金。新的代幣上線可能受益於此類 AI 進步。

ChainThink 消息,8月5日,AI Agent 創業公司 Pokee AI 發布 Pokee-Isaac 28B,模型參數總量為280億,上下文窗口達到1000萬 Token,接近主流模型約100萬 Token 上限的10倍。

根據其自測,Isaac 在 RULER 長文本測試中,從 25.6 萬到 400 萬 Token 區間一直保持在 95 分左右;在拉滿 1000 萬 Token 後,得分仍為 93.3。

其餘五款對照模型從 200 萬 Token 起均未返回可用結果。

Pokee 將此能力歸因於自研的「非純 Decoder-only 架構」,但技術報告未公開具體架構、注意力機制和顯存方案,外界暫時無法判斷其實現方式。

Pokee AI 成立於 2024 年,由前 Meta 應用強化學習負責人朱哲清創辦,曾獲 Point72 Ventures 領投的 1200 萬美元種子輪,高通創投和 Samsung NEXT 等參投。

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露