The AI singularity is drawing near!
最近，著名投資者 Chamath Palihapitiya，被稱為「矽谷巴菲特」，在 X 上預言了關於「AI 奇點」的終極路線圖。
1. 人類建構出 AGI。
2. AGI 在 AI 領域的研究變得非常擅長。
3. 它設計出一個更聰明的 AI。
4. The smarter AI designed another AI that was even smarter.
5. This cycle repeats continuously and becomes faster and faster.
接著，他還拋出一個震撼的結論——
看看過去幾週各大 AI 實驗室公布的成果和能力，我敢說，我們現在已經身處這個循環之中。
在接下來的18個月內，RSI 將迅速提升 AI 能力。
最終，所有 AI 模型的邊際成本都將趨近於 0！
不僅是投資者，如今整個矽谷都極度信仰 RSI。
就在最近，加州大學伯克利的一場峰會上，Google DeepMind 首席策略官 Jasjeet Sekhon 抛出一個更重磅的判斷：
整個科技巨頭圈史無前例的瘋狂投資，本質上都是在押注這三個字母——RSI！
這場「人類文明有史以來最大的一場科學賭注」，規模已超越阿波羅登月、曼哈頓工程，乃至整個互聯網。
為什麼巨頭們不惜冒著資金鏈斷裂的風險，也要將這場賭局進行到底？
忘記 AGI 吧，RSI 才是矽谷的終極圖騰
如今的 AI 能自我糾錯，沒人盯著也能連續運行數小時，甚至能生成和優化核心、編譯器組件等底層代碼
但在 Jasjeet Sekhon 看來，這還只是 RSI 的前奏。
他說，別覺得用 AI 設計 AI 有多不可思議，在工業革命時期，人類也是用第一代蒸汽機去造下一代更強的蒸汽機。
那真正的 RSI 到底長什麼樣？
一位資深研究員這樣定義：真正的 RSI，意味著一個 AI 模型能完全獨立地重新設計自己的底層架構，甚至從零造出一個全新世代的模型，整個過程不需要人類科學家介入。
一旦跨越這個臨界點，AI 進化的速度就會脫離人類掌控。
人類幾十年才走完的迭代，AI 可能幾週、甚至幾天就足夠了。
At this moment, the singularity cycle will truly arrive!
2,000 億美元的「AI 氣穴」，一場人類文明史上最大的科學賭局
了解 RSI 的潛力，你就明白矽谷為什麼在像瘋了一樣燒錢。
今年，僅谷歌在AI數據中心、晶片和基礎設施上的總資本開支，就達到驚人的1950億到2050億美元，明年還會大幅增加！
華爾街的股東開始感到不安，因為從財報來看，AI 軟體或雲服務的收入增速，暫時無法覆蓋這種規模的資本支出。
曾擔任耶魯統計學教授的Sekhon，當場戳破了這個危險。
我們正面臨一個潛在的「AI氣穴」，錢花出去了，收入卻沒如期出現。
數據中心蓋好了、晶片裝上了、電也拉進來了，但真正能實現這筆投入的東西，卻遲遲未到。
其實，早在 Sekhon 之前，華爾街已用 air pocket 形容過這種局面：資本開支跑在收入前面，投資人買的是一個空中樓閣。
既然風險這麼大，為什麼還要蒙眼狂奔？
Sekhon 的答案是：這是人類文明有史以來最大的一次科學押注。
他表示，目前全球在 AI 上的投入，已讓曼哈頓計劃、阿波羅登月都相形見絀，連當年開發互聯網都比不了。
這種賭徒邏輯很簡單：現有技術雖然還不是真正的 RSI，但「做空它，顯然不明智」。
因為一旦 RSI 真正實現，正如上文所述，所有 AI 模型的邊際成本將無限趨近於 0。
到那時，率先掌握 RSI 的公司將擁有近乎神一般的生產力，直接降維打擊所有競爭對手，壟斷全球的算力與智力資源。
這已不是一家公司的盈虧問題，而是一場「贏家通吃、輸家退場」的生死局。
For this ticket to a new era, US$200 billion is just a drop in the ocean.
今天這堆數據中心、TPU、電力，如果只能靠人類工程師一代代手工訓練模型，那就是一筆巨大的、會不斷折舊的固定資產。
但一旦 AI 開始加速 AI 研發，將直接改變賬本的邏輯。
投入的算力不再線性消耗，而是能產生複利：這一代 AI 幫你更快打造出下一代，下一代再幫你打造再下一代。
這就是 Sekhon 說 RSI 是「投資邏輯的關鍵部分」的原因。RSI，就是這筆錢能否回本的前提。
「御三家」的 RSI 進程
Google、Anthropic、OpenAI 各提供了一個樣本。
先看 Google。
DeepMind 的 AlphaEvolve 系統，專門使用 AI 來優化演算法。
它將 Gemini 訓練中的一個關鍵核心提速了 23%，使整個訓練時間縮短了 1%；它修改的一個電路設計，已被直接納入下一代 TPU 的晶片中。
如今它已成為 Google 基礎設施中的常規工具，像快取策略這類工作，它兩天就完成了人類過去需要數月才能完成的事。
AI 幫助設計晶片、打造更快的 AI，已成為現實。
再看 Anthropic。
今年4月，他們進行了一個更激進的實驗：九個Claude智能體被投入一個限定的對齊研究任務中，自行提出假設、自行運行實驗、自行交換發現。
兩位人類研究員花費一週時間，僅追回了23%的性能差距；九個智能體累計耗時800小時，花費約1.8萬美元，追回了97%。
看起來，AI 已經能獨立做研究了？
別急，同一份報告中，還藏著一個更重要的反證：當研究員將這套「最有效」的方法應用到 Claude 真實的生產訓練環境中時，它並未帶來任何統計上顯著的改進。
This shows that there is still a gap between “acceleration within limited tasks” and “truly reconstructing AI’s capabilities”.
最後是 OpenAI。
7 月，OpenAI 公示：他們的 GPT-5.6 Sol 經由 Codex 自主重寫了生產環境的 GPU 核心，端到端推理成本降低 20%；它還為自己的推測解碼模型進行了數百次架構實驗，token 生成效率提升超過 15%。
OpenAI 甚至在首次發布的材料中，公布了一個專門評測自我改進能力的「RSI Index」。
Is the closed loop about to start turning?
OpenAI 在自己的系統卡中表述得相當克制，GPT-5.6 Sol 還未達到公司自定的「High」自我改進門檻，它能解決部分真實研究問題，但還無法可靠地設計並執行完整的後訓練方案。
將三個例子並列在一起，RSI 目前的走勢就一目了然了：
AI 輔助 AI 研發，真的在發生；但真正的 RSI——AI 獨立重構自己的完整架構、訓練並部署更強的繼任者，離我們還有一段距離。
黑暗降臨，當超強AI成為駭客與生化武器
然而，奇點背後，也有著陰影。
在這場峰會上，剛加入 Meta「超級智能」部門的柏克萊 CS 教授 Dawn Song 與 Sekhon 一起，將討論焦點轉向了所有人都在迴避的問題：AI 的極端風險。
兩人的共識是：最危險的不是模型突然變聰明，而是攻與防的速度失衡。
當 AI 擁有了 RSI 的能力，它能治癒癌症，能幫助人類探索宇宙，但它同樣能成為毀滅人類的終極武器。
首先是網絡安全維度的「降維打擊」。
Dawn Song 警告說，在短期內，AI 的發展將「更有利於攻擊者」，這是一個極度不對稱的戰場：駭客只要找到一個漏洞就能成功，而防禦方卻必須防禦所有可能的攻擊。
當惡意攻擊者利用聰明的 AI 智能體對開源代碼庫進行投毒，掃描並利用人類程式設計師留下的漏洞時，接下來的日子將非常難熬：
想想看，我們現有的防禦系統有多麼脆弱：美國的能源電網、全球的醫院系統、金融網絡，在超級AI面前，可能就像紙糊的一樣。
但網絡安全還算「小兒科」。
Sekhon 更擔心的是生物，他在會議上拋出了一個極其可怕的場景：我們已經非常接近這樣一個世界，「任何人只需透過自然語言與模型對話，就能設計出一種致命病毒或蛋白質。」
他提出，未來社會必須像現在追蹤製造炸藥的化肥一樣，對所有「具有生物相關性的材料」進行極其嚴格的許可、監控和追蹤。
目前，谷歌正試圖將他們用於識別AI生成內容的「水印技術」（SynthID）應用到生物學領域。
這意味著，未來如果有公司為藥企合成 DNA 序列，系統可以掃描這些序列，查看其中是否隱藏了由 AI 暗中生成、具有致命風險的「惡意代碼」。
At that time, will the defense be built faster, or will AI evolve faster?
倒計時已開始，我們還剩多少時間？
這些聽起來像科幻，但矽谷的腦力專家們，已經给出了精確的倒數計時。
Chamath 說：未來 18 個月，世界將陷入瘋狂。
Sekhon 製斷：真正的 RSI「很可能在未来幾年內出現」。
同場的 DeepMind 研究副總裁 Oriol Vinyals 和 OpenAI 聯創 Wojciech Zaremba，甚至報出了具體年份：2027 或 2028。
在人類歷史上，還沒有任何一種有可能根本性改寫文明軌跡的技術，倒計時如此逼近。
This time, what is on the table is a race against time.
基礎設施投資正按算力的速度向前推進，晶片、電力、數據中心都將在幾年內到位。
但是，對應的收入和 RSI 能否趕上這班車？
在中間的懸空裡，我們會不會恰巧撞上這個「氣穴」？
但至少在 Sekhon 這裡，谷歌 2000 億美元豪賭的方向已經很清楚：RSI 會來。
The steam engine created better steam engines, and humanity ushered in the Industrial Revolution.
現在，AI 正在孕育出更優秀的 AI，也將我們這一代人推向一個未知的分界點。
無論你是否準備好，轟鳴的數據中心不會停歇，AI 的自我進化不會停歇。
倒數計時已開始，你，準備好迎接奇點了嗎？
參考資料：
https://www.theinformation.com/newsletters/ai-agenda/google-deepmind-exec-says-unprecedented-capex-actually-bet-rsi?rc=epv9gi
https://x.com/kimmonismus/status/2084257726599716882
本文來自微信公眾號「新智元」，作者：ASI 啟示錄；編輯：元宇 Aeneas