Thinking Machines 推出 Inkling-Small,276B 模型表現超越較大的前代產品

iconMetaEra
分享
AI summary icon精華摘要
Thinking Machines 宣布推出 Inkling-Small,這是一款擁有 276B 參數、12B 活躍參數的模型,在數學、推理和編程基準測試中表現優於其較大的前代產品。該模型採用 MoE 架構和原生多模態設計,並通過知識蒸餾和兩週的強化學習進行訓練。儘管失去了四位共同創始人,該團隊仍保持高速發布節奏。這則加密貨幣新聞更新凸顯了模型效率與定制化的重要進展。
Thinking Machines 發布 Inkling-Small 開源模型,總參數 2760 億、激活參數 120 億,採用 MoE 架構和原生多模態設計。該模型僅用四分之一參數量便在數學、推理、智能體編碼等基準測試中超越初代 Inkling。透過蒸餾與兩週強化學習訓練實現性能反超,大幅降低推理門檻,使中型團隊亦可進行模型定製。儘管六位聯合創始人中已有四人離職,團隊在動盪中仍保持高頻發布節奏。

文章作者、來源:36Kr

Thinking Machines 發布反超初代的開源模型 Inkling-Small

Inkling 首個模型亮相後,全新 AI 又刷屏了!

今天,Thinking Machines 正式發布第二款重磅模型——Inkling-Small。

276B 總參數、12B 激活參數,原生多模態,100萬 token 上下文

半個月前,首個開源的 975B Inkling 登場,曾在 AI 圈掀起巨浪。

Inkling-Small 僅用四分之一的規模,就直接實現了對「萬億大哥」的性能反超。

Inkling-Small 在 ARC-AGI-2 上刷新開源 SOTA

回看 Thinking Machines 這幾天,劇情堪稱跌宕起伏。

聯創翁荔官宣離職僅兩天,OpenAI 便證實了她的回歸——帶隊攻堅「遞歸自我提升」(RSI)。

結果就在第三天,這家剛失去一位核心大將的公司,直接釋出了新模型的「全量權重」。

全新 Inkling-Small 登場,276B 擊敗萬億

在官博介紹中,Inkling-Small 是一個 MoE 架構的模型,總參數為 2760 億,單次推理激活 120 億。

Compared to the first-generation Inkling, the size has been directly reduced to one-quarter.

正如 PyTorch 大神 Horace He 所言,「Inkling-Small 根本不用舉全村之力,直接沿用前代技術就成了」。

最硬核的是,體量雖縮小了,綜合實力顯著提升。

在數學、推理、智能體編碼和多模態基準中,Inkling-Small 的表現可與 Inkling、DeepSeek V4 Flash 相媲美,甚至更勝一籌。

在 HLE、Terminal-Bench、IFBench 這三個核心指標上——Inkling-Small 每一 FLOP 換來的性能都高於 Inkling。

可以看到,Inkling-Small 的曲線,全程壓在 Inkling 上面。

在多模態方面,Inkling-Small 也幾乎未落後,在圖表理解、視覺推理、語音理解和長音頻推理的評測中,表現「接近」原版,但成本卻低得多。

其他基準測試成績如下:

一個體積只有四分之一的模型,在推理和智能體任務上將其老大哥壓在了地上。

後訓練細節,已全面公開

至於如何做到,官方已詳細寫出方法,關鍵在於兩步。

Inkling-Small 的訓練開始時間晚於 Inkling,因此把上一輪踩過的坑全數吸收了——

The pre-training data ratio has been adjusted, and the machine learning recipe has been refined again.

更重要的是,進行兩步操作。

第一步,使用 Inkling 作為老師進行 on-policy 蒸餾,先產生一個預覽檢查點。

第二步,從這個檢查點繼續進行了整整兩週的智能體編碼強化學習,於是便產生了「學生超越老師」的結果。

僅用兩週的時間,就把差距拉了回來,還反超了。

這意味著 Thinking Machines 直接跑通了一條能反覆出模型的產線。第一個模型是作品,第二個模型是產能證明。

120 億激活,才是真正的分水嶺

對絕大多數開發者來說,真正關心的是,自己能不能用起來?

原版 Inkling 的門檻非常高,BF16 檢查點的最低要求是 2TB 聚合顯存——

示例配置為 8 張 B300 或 16 張 H200;即使改用 NVFP4 量化版,也需至少 600GB。

Inkling-Small 將這道門檻整整往下拉了一大截。

LMSYS 的說法很直接:276B 總參數配 12B 激活,是強化學習的甜點位,LoRA 和全參數訓練都變得「夠得著」。

以前只有大型企業才能進行的模型定制,現在中等規模的團隊也有機會真正將其訓練成屬於自己的東西。

實際測試顯示,在 8 張 B200、TP8、NVFP4、批次大小為 1 的相同環境下,使用 SGLang 執行 Inkling-Small,開啟 DSpark 可達 648 tok/s 解碼速度,未開啟則為 288 tok/s。

六位聯合創始人中已有四位離開,模型進化速度越來越快

去年2月,Thinking Machines 帶著一份「OpenAI 夢之隊」的六人名單驚艷開局:

Mira Murati、John Schulman、Barret Zoph、翁荔、Andrew Tulloch、Luke Metz。

當時,他們拿到的是 20 億美元種子輪、120 億美元估值的逆天劇本。

誰能想到,今年1月那輪500億美元估值的融資最終告吹,成為了轉折的開始。

如今,六人團只剩下了 Murati 和 Schulman。

更有意思的是,離開的四人中,Zoph 和 Metz 先後返回 OpenAI,如今翁荔成為了第三人。

一家由 OpenAI「叛逆者」組建的公司,核心骨幹最終還是沒能逃脫 OpenAI 的引力場。

但真正充滿戲劇性的,是團隊在面臨動盪時的反應。

7月15日,沉默了整整17個月的 Thinking Machines 終於推出了首個大模型 Inkling。

不到兩週,翁荔宣布離職;僅僅三天後,第二個帶有全量權重的開源模型隨即上線。

Talent is accelerating away, while models are racing forward.

這兩條背道而馳的曲線,成了 AI 行業中最具代表性的一幕。

也許這就是通往 ASI 的必經之路:無論留下的人有多麼少,機器前進的車輪,只會越轉越快。

Thinking Machines 發布 Inkling-Small 開源模型,總參數 2760 億、激活參數 120 億,採用 MoE 架構和原生多模態設計。該模型僅用四分之一參數量便在數學、推理、智能體編碼等基準測試中超越初代 Inkling。透過蒸餾與兩週強化學習訓練實現性能反超,大幅降低推理門檻,使中型團隊亦可進行模型定製。儘管六位聯合創始人中已有四人離職,團隊在動盪中仍保持高頻發布節奏。

文章来源:新智元

免責聲明:本頁面資訊可能來自第三方,不一定反映KuCoin的觀點或意見。本內容僅供一般參考之用,不構成任何形式的陳述或保證,也不應被解釋為財務或投資建議。 KuCoin 對任何錯誤或遺漏,或因使用該資訊而導致的任何結果不承擔任何責任。 虛擬資產投資可能存在風險。請您根據自身的財務狀況仔細評估產品的風險以及您的風險承受能力。如需了解更多信息,請參閱我們的使用條款風險披露