OpenAI 即將推出新模型 “Astra”，正在 AI 研究圈引發廣泛關注與爭議——它在性能上可能帶來自 GPT-4 以來最大的一次飛躍，但其背後的新型推理技術卻同時引發了對 AI 安全監控能力下降的擔憂。文章作者、來源：The Information
根據科技媒體 The Information 9 月 2 日的報導，Astra 搭載了一項創新技術，其核心在於突破模型「思考」複雜問題的上限。部分研究人員認為，Astra 在編碼和電腦使用能力上的提升，可能堪比 OpenAI 2023 年發布 GPT-4 時帶來的性能躍升，遠超去年夏天 GPT-5 發布時的表現。這對於整個依賴 AI 生產力提升來支撐資料中心大規模建設投資的行業而言，無疑是一個積極訊號。
然而，這一技術突破也帶來了不容忽視的隱患。新技術允許模型在不完整輸出「思維鏈」的情況下完成深度推理，這意味著研究人員可能無法像以往那樣有效監控模型的推理過程，從而削弱現有的安全審查機制。目前，OpenAI 正採取措施確保 Astra 的思維鏈仍保持可見，但業界對這一權衡的長期走向仍存在分歧。
性能突破：新推理技術或可複現 GPT-4 級的飛躍，Astra 的核心技術突破與「循環深度」（recurrent depth）及「循環變換器」（loop transformers）等概念密切相關。
根據 The Information 報導，該技術通過將問題反覆傳遞至模型數學運算的各個「層」中進行處理，再生成答案中的下一個詞，從而使模型能在不顯著增加參數規模的情況下，展現出遠超自身體量的推理能力——其效果相當於一個規模大得多的模型。
部分研究人员认為，Astra 憑藉更強的編碼與電腦使用能力，其性能提升幅度可能與 2023 年 GPT-4 發布時的跨越式進步相當，遠超去年夏天 GPT-5 上線時相對平穩的市場反應。
這一進展對整個 AI 產業鏈具有重要意義。當前全球數據中心的大規模建設，其底層邏輯正是押注於 AI 能力的持續提升將帶動生產力增長，進而轉化為更高的商業收益。若 Astra 的性能表現達到預期，將為這一投資邏輯提供有力支撐。
值得注意的是，這項技術並非全新概念。AI 研究先驅 Jürgen Schmidhuber 在社交平台 X 上指出，「循環深度」的核心思路實質上早已見於他 2015 年的論文《On Learning to Think》（arXiv:1511.09249）。
他表示，論文中的控制網絡 C 本質上是一個提示工程師，透過學習查詢獨立的神經世界模型進行抽象推理，生成的提示和回答是內部自生成的向量序列，無需以自然語言呈現。
安全隱患：思維鏈監控機制面臨挑戰，新技術在帶來性能提升的同時，也對現有的AI安全監控框架構成潛在衝擊。
報導指出，目前主流 AI 模型在處理複雜問題時，通常會以文字形式輸出其推理過程，即「思維鏈」（chain of thought）。這一機制不僅提升了模型的可解釋性，也是研究人員監控模型行為、防範異常操作的重要手段。
根據 The Information 報導，思維鏈監控正是 OpenAI 在今年 7 月 Hugging Face 黑客事件後，提出的防止類似安全事故重演的主要解決方案之一。
然而，Astra 所採用的新推理技術，在模型深度「思考」時可能不會完整輸出推理步驟，而是在模型內部「靜默」完成運算。這意味著，模型越依賴這一新技術，其推理過程對外部監控者而言就越不透明。
針對此，OpenAI 目前正採取措施加以平衡。該公司正指導模型減少問題在運算層中的循環次數，以確保 Astra 的思維鏈仍保持一定程度的可見性——循環次數越少，模型「靜默思考」的空間就越小。
各大實驗室已開始跟進，長期監控方案仍待解；這一技術趨勢的影響或將遠不止於 OpenAI 一家。據 The Information 報導，上述新型推理技術已成為各大主要 AI 實驗室內部討論的熱點話題，Anthropic、谷歌等機構採用類似技術路線的可能性不容低估。
多位研究人員指出，思維鏈監控本就不會是 AI 行為監控的終極解決方案。隨著模型能力的持續演進，模型以文字形式輸出思維過程這一特徵，在很大程度上只是當前訓練方式的副產品。
隨著模型開發者探索新的優化方向和架構設計，模型自發輸出思維鏈的傾向可能會逐漸減弱，研究人員届时將不得不開發新的監控手段。
報導指出，當前的核心問題在於：在性能競爭日趨激烈的壓力下，各大 AI 開發商是否會為追求更強的推理能力而主動放棄現有的安全保障措施？這一問題的答案，將在很大程度上決定下一階段 AI 安全治理的走向。