多家晶片廠商相繼探索新的評測方法，背後是 Agent 正在改變 CPU 的工作負載。文章作者、來源：华尔街见闻
Agent 的應用場景正變得越來越細分。
從 Claude Code 等 AI 編程工具，到能處理文件、操作軟體的辦公助手，再到協助用戶規劃行程、管理日程的個人助理，Agent 開始承擔越來越多具體任務。
應用場景的不斷拓展，也對底層算力提出了新的要求。
在這一背景下，Arm 近日推出一套面向 Agent 的 CPU 性能評估方法論，試圖通過更貼近真實應用場景的測試，幫助企業判斷不同 CPU 在 Agent 任務中的表現。
這不是孤例。AMD 此前已提出針對 Agent AI 的 CPU 工作負載評測框架，將工具執行、數據檢索和任務編排等環節納入測試；英特爾也針對 Xeon 6 處理器開展了相關測試，重點關注 Agent 任務的吞吐量與併發執行效率。
多家晶片廠商相繼探索新的評測方法，背後是 Agent 正在改變 CPU 的工作負載。
過去幾年，大模型的算力競爭主要圍繞 GPU 展開，Token 生成速度、吞吐量等指標成為衡量 AI 推理性能的重要依據。
隨著 Agent 開始執行實際任務，除了調用大模型進行推理，還需要訪問資料庫、執行代碼、調用工具等，這些環節都可能消耗大量 CPU 資源。
Arm 雲 AI 解決方案架構總監 Ravi Malhotra 以軟體開發 Agent 為例指出，模型首先進行推理並生成代碼，隨後 CPU 還需要完成代碼構建、編譯和測試，這些操作可能耗費大量時間。
在這類用例中非常重要的一點是，CPU 能多快完成自己的那部分工作，從而讓控制權盡快回到更昂貴的 GPU 或加速器，以便執行流水線中的下一步。」Ravi Malhotra 向全天候科技等媒體表示，「如果 CPU 不夠快，更昂貴的 GPU 就會處於閒置狀態。」
更複雜的是，不同 Agent 的性能瓶頸並不相同。部分任務主要受 GPU 推理速度限制，部分任務則受 CPU 沙箱執行能力或數據檢索效率制約。即便是同一類 Agent 的性能瓶頸也可能隨著模型、部署環境和具體任務的變化而改變。
以軟體開發為例，程式碼編譯和測試通常需要持續佔用 CPU 資源，因此更看重單個 Agent 的執行效能。相比之下，企業客戶支援、個人助理等情境中的單次操作通常較短，但可能需要同時處理大量請求，對 CPU 的併發能力提出了更高要求。
These differences have also led CPU performance evaluation to focus on the execution efficiency of complete Agent tasks and performance under different workloads.
此次 Arm 提出將組件級測試與端到端 Agent 基準測試結合起來。
Among them, component-level testing covers aspects such as web servers, databases, model services, and sandbox execution, while end-to-end testing introduces Agent benchmarks such as SWE-bench and Terminal-Bench to evaluate performance throughout the complete workflow.
除了單核效能、多核吞吐量等傳統指標外，Arm 還關注 Agent 併發數量、任務執行效率以及每機架效能。
Ravi Malhotra 強調，性能評估需要在吞吐量與 SLA（服務等級協議）要求之間取得平衡，不能單純追求同時運行更多 Agent。
由於不同場景的需求存在差異，Arm 也不建議對各類 Agent 用例採用統一的權重分配方式，而是主張企業根據自身應用選擇相應的評測指標。
隨著 Agent 逐漸進入企業的實際業務流程，這些性能指標也成為企業選擇和升級 CPU 基礎設施的重要參考。
Ravi Malhotra 認為，軟體開發、客戶支援、供應鏈管理及個人助理等場景，將成為推動企業升級 CPU 基礎設施的重要動力。
「對於企業而言，客戶支援、供應鏈管理以及個人助理等場景更關注每機架性能，而 Arm AGI CPU 的可擴展性和能效優勢在這些場景中尤為突出。」Ravi Malhotra 表示。
Ravi Malhotra進一步指出，無論是為Agent應用升級現有基礎設施，還是設計開發全新的基礎設施，這些場景都會形成明確的升級需求，並有望成為推動Arm AGI CPU增長和普及的主要動力。
對於企業來說，CPU 性能提升帶來的價值，最終仍需體現在實際運營效率和成本上。
Different agents have significantly varying workloads; whether the performance advantages observed in benchmark tests can truly translate into improved task execution efficiency and reduced deployment costs still requires further validation through real-world applications.
風險提示及免責條款
市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需求。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。