
正好趁著今天馬斯克震撼的飛車,把前兩天埋的坑填了,關於 Jev、Strata、Atlas 這三個近期 AI 圈我覺得好玩的東西。 我用一個電影場景把這三樣東西串起來一起說,不講技術細節,感興趣的老鐵自己問 AI 或 Research。 這個場景是啥呢?——《終結者》! 想像 T-800 被送回到 1984 年,任務是找到並幹掉莎拉·康納! 這時他需要具備以下三個基本功能:看懂空間、瞬間判斷、不聯網思考(1984 年可沒有天網讓你聯)。 巧了,這仨正好對應 Atlas、Jev、Strata。 1. 先說李飛飛教授的 Atlas —— 看懂空間 施瓦辛格(T-800)走進一間屋子,掃一眼就知道門後、桌子底下大概有什麼。 Atlas 目前做的就是這件事:給幾張照片,預測換個位置看過去是什麼樣。 LLM 預測下一個詞, 視頻模型(比如 Seedance)沿時間軸往下生成畫面, Atlas 預測的是新視角。 現在很多視頻模型都自稱「世界模型」,李飛飛幾個月前給它們分了類:渲染器、模擬器、規劃器。 模擬器可以變成渲染器,而規劃器必須基於一個強大的模擬器。 T-800 掃一眼知道房間裡大概有什麼,這是模擬器;算出跳下去會怎樣、射擊子彈會打到哪,也算模擬器;選擇追、躲還是開車撞這些動作,大概率需要的是規劃器;渲染器則基本用不到。 Atlas 的目標應該就是要做最強模擬器,未來再升級到規劃器。 路線圖長這樣—— 靜態 3D 空間(當前)→ 動態(4D)→ 可編輯 → 可交互 → 模擬器即規劃器(終局) 萬里長征剛開始第一步,但你要實現終結者還真離不開這個,單純 LLM 不夠。 2. 然後是 Jev —— 瞬間判斷 還記得那個畫面嗎?T-800 在汽車旅館被管理員敲門,它視野裡直接彈出一排候選回覆,選一個就回出去,根本不用組織語言。(我記得選了最粗魯那句……) 這就是 Jev:不需要 LLM 吐出一段文字,也不需要 CoT 思維鏈思考,只在給定選項裡選,並給出有多確定。 TypeSafe 的 Jev 就是這樣:不生成文字,只在給定選項裡選,並給出校準過的概率。 某個回覆 0.97 → 直接回出去, 最高的只有 0.60 → 先別回,交給更慢但更聰明的大模型想想。 TypeSafe 的演示影片裡是判斷一張發票是否是假的,傳統 LLM 需要 8 秒,而 Jev 只用了 0.1 秒。 快,是因為只做選擇題,不生成文字;準,靠的是黑科技 RLCD —— Reinforcement Learning for Calibrated Decisions(面向校準決策的強化學習)。 架構目前還沒公開,我猜大概率還是 Transformer 底座,只是把「生成」這個環節直接砍掉了,可以看作是 LLM 在特定語境下的 ASIC —— 不會聊天、不會寫代碼,只做高頻決策,把傳統 LLM 判斷的各種步驟壓縮簡化成一個判斷題或選擇題,速度和成本差了一到兩個數量級。 有點像丹尼爾·卡尼曼那本著名的《思考,快與慢》裡的系統一,傳統 LLM 算系統二。 感覺在生成之外又打開了一條新的 AI 之路——決策/判斷。 反正 T-800 如果按現在 LLM 的判斷速度,肯定完不成電影裡的任何任務,會跟蝸牛一樣(怎麼忽然讓我想到《瘋狂動物城》裡的閃電……),這時候 Jev 應運而生,終結者功能第二塊拼圖拼好了。 3. 最後一塊拼圖 —— Strata —— 本地運行大模型 1984 年是有互聯網了,但第一慢到炸裂,第二當時只在軍方和學校有,再說雲端也沒有天網讓你聯啊!你還是得在 T-800 腦子裡裝一個本地模型穿越回來才行。 Strata 讓一台 12GB 顯存 + 64GB 記憶體的消費級顯卡,可以跑 1250 億參數的 Qwen3.8-Flash-Next 模型。 黑科技是先量化,把參數從 16 位壓縮到 2–3 位,體積縮小好幾倍;然後常用的 20% 專家(的副本)扔進顯存,全部專家扔進 64GB 記憶體;最後還有 30GB 的一個大查表(訓練時的速查手冊)扔進 SSD。 完全離線、數據隱私;當然能力因為壓縮打了折扣,讀長文檔也慢;但高端遊戲主機能跑千億大模型了啊——這是從無到有的問題。 T-800 裡面的顯卡、記憶體、CPU 具體參數咱不知道,反正 Strata 就是讓你在有限硬體環境裡跑更大參數的基於 MoE 的大模型(目前只支援 Qwen 這一個模型,但思路對 MoE 模型通用)。 這麼一看,我們似乎離天網和終結者時代,越來越近了! @drfeifei @theworldlabs @typesafeai P.S. 哪位富哥訂了 Roadster?2028 年帶我體驗一把吧,求求了

