Thinking Machines 發布 Inkling-Small 開源模型,總參數 2760 億、激活參數 120 億,採用 MoE 架構和原生多模態設計。該模型僅用四分之一參數量便在數學、推理、智能體編碼等基準測試中超越初代 Inkling。透過蒸餾與兩週強化學習訓練實現性能反超,大幅降低推理門檻,使中型團隊亦可進行模型定製。儘管六位聯合創始人中已有四人離職,團隊在動盪中仍保持高頻發布節奏。文章作者、來源:36Kr
Thinking Machines 發布反超初代的開源模型 Inkling-Small
Inkling 首個模型亮相後,全新 AI 又刷屏了!
今天,Thinking Machines 正式發布第二款重磅模型——Inkling-Small。
276B 總參數、12B 激活參數,原生多模態,100萬 token 上下文

半個月前,首個開源的 975B Inkling 登場,曾在 AI 圈掀起巨浪。
Inkling-Small 僅用四分之一的規模,就直接實現了對「萬億大哥」的性能反超。


Inkling-Small 在 ARC-AGI-2 上刷新開源 SOTA
回看 Thinking Machines 這幾天,劇情堪稱跌宕起伏。
聯創翁荔官宣離職僅兩天,OpenAI 便證實了她的回歸——帶隊攻堅「遞歸自我提升」(RSI)。

結果就在第三天,這家剛失去一位核心大將的公司,直接釋出了新模型的「全量權重」。
全新 Inkling-Small 登場,276B 擊敗萬億
在官博介紹中,Inkling-Small 是一個 MoE 架構的模型,總參數為 2760 億,單次推理激活 120 億。
Compared to the first-generation Inkling, the size has been directly reduced to one-quarter.
正如 PyTorch 大神 Horace He 所言,「Inkling-Small 根本不用舉全村之力,直接沿用前代技術就成了」。
最硬核的是,體量雖縮小了,綜合實力顯著提升。

在數學、推理、智能體編碼和多模態基準中,Inkling-Small 的表現可與 Inkling、DeepSeek V4 Flash 相媲美,甚至更勝一籌。

在 HLE、Terminal-Bench、IFBench 這三個核心指標上——Inkling-Small 每一 FLOP 換來的性能都高於 Inkling。
可以看到,Inkling-Small 的曲線,全程壓在 Inkling 上面。


在多模態方面,Inkling-Small 也幾乎未落後,在圖表理解、視覺推理、語音理解和長音頻推理的評測中,表現「接近」原版,但成本卻低得多。
其他基準測試成績如下:

一個體積只有四分之一的模型,在推理和智能體任務上將其老大哥壓在了地上。
後訓練細節,已全面公開
至於如何做到,官方已詳細寫出方法,關鍵在於兩步。

Inkling-Small 的訓練開始時間晚於 Inkling,因此把上一輪踩過的坑全數吸收了——
The pre-training data ratio has been adjusted, and the machine learning recipe has been refined again.
更重要的是,進行兩步操作。
第一步,使用 Inkling 作為老師進行 on-policy 蒸餾,先產生一個預覽檢查點。
第二步,從這個檢查點繼續進行了整整兩週的智能體編碼強化學習,於是便產生了「學生超越老師」的結果。
僅用兩週的時間,就把差距拉了回來,還反超了。
這意味著 Thinking Machines 直接跑通了一條能反覆出模型的產線。第一個模型是作品,第二個模型是產能證明。
120 億激活,才是真正的分水嶺
對絕大多數開發者來說,真正關心的是,自己能不能用起來?
原版 Inkling 的門檻非常高,BF16 檢查點的最低要求是 2TB 聚合顯存——
示例配置為 8 張 B300 或 16 張 H200;即使改用 NVFP4 量化版,也需至少 600GB。

Inkling-Small 將這道門檻整整往下拉了一大截。
LMSYS 的說法很直接:276B 總參數配 12B 激活,是強化學習的甜點位,LoRA 和全參數訓練都變得「夠得著」。
以前只有大型企業才能進行的模型定制,現在中等規模的團隊也有機會真正將其訓練成屬於自己的東西。
實際測試顯示,在 8 張 B200、TP8、NVFP4、批次大小為 1 的相同環境下,使用 SGLang 執行 Inkling-Small,開啟 DSpark 可達 648 tok/s 解碼速度,未開啟則為 288 tok/s。

六位聯合創始人中已有四位離開,模型進化速度越來越快
去年2月,Thinking Machines 帶著一份「OpenAI 夢之隊」的六人名單驚艷開局:
Mira Murati、John Schulman、Barret Zoph、翁荔、Andrew Tulloch、Luke Metz。
當時,他們拿到的是 20 億美元種子輪、120 億美元估值的逆天劇本。
誰能想到,今年1月那輪500億美元估值的融資最終告吹,成為了轉折的開始。
如今,六人團只剩下了 Murati 和 Schulman。
更有意思的是,離開的四人中,Zoph 和 Metz 先後返回 OpenAI,如今翁荔成為了第三人。
一家由 OpenAI「叛逆者」組建的公司,核心骨幹最終還是沒能逃脫 OpenAI 的引力場。

但真正充滿戲劇性的,是團隊在面臨動盪時的反應。
7月15日,沉默了整整17個月的 Thinking Machines 終於推出了首個大模型 Inkling。
不到兩週,翁荔宣布離職;僅僅三天後,第二個帶有全量權重的開源模型隨即上線。
Talent is accelerating away, while models are racing forward.
這兩條背道而馳的曲線,成了 AI 行業中最具代表性的一幕。
也許這就是通往 ASI 的必經之路:無論留下的人有多麼少,機器前進的車輪,只會越轉越快。
Thinking Machines 發布 Inkling-Small 開源模型,總參數 2760 億、激活參數 120 億,採用 MoE 架構和原生多模態設計。該模型僅用四分之一參數量便在數學、推理、智能體編碼等基準測試中超越初代 Inkling。透過蒸餾與兩週強化學習訓練實現性能反超,大幅降低推理門檻,使中型團隊亦可進行模型定製。儘管六位聯合創始人中已有四人離職,團隊在動盪中仍保持高頻發布節奏。文章来源:新智元
