複数のチップメーカーが次々と新しい評価方法を模索している背景には、エージェントがCPUのワークロードを変革していることがある。記事執筆者、出典：ウォールストリート・ビジョン
エージェントの適用シーンはますます細分化されています。
Claude CodeなどのAIプログラミングツールから、ドキュメントを処理しソフトウェアを操作するオフィスアシスタント、さらにユーザーのスケジュール計画やカレンダー管理を支援するパーソナルアシスタントまで、エージェントはますます具体的なタスクを担い始めています。
アプリケーションシーンの継続的な拡大により、基盤となる計算能力に新たな要件が求められています。
このような背景のもと、Armは最近、エージェント向けのCPUパフォーマンス評価手法を発表し、より現実的なアプリケーションシナリオに近いテストを通じて、企業が異なるCPUのエージェントタスクにおけるパフォーマンスを評価できるようにしようとしています。
これは孤立した事例ではありません。AMDは以前、エージェントAI向けのCPUワークロード評価フレームワークを提案し、ツール実行、データ検索、タスクオーケストレーションなどのプロセスをテストに含めました。インテルもXeon 6プロセッサに対して関連テストを実施し、エージェントタスクのスループットと並列実行効率に重点を置いています。
複数のチップメーカーが次々と新しい評価方法を模索している背景には、エージェントがCPUのワークロードを変革していることがある。
過去数年間、大規模モデルの計算能力競争は主にGPUを中心に展開され、トークン生成速度やスループットなどの指標がAI推論性能を評価する重要な基準となった。
エージェントが実際のタスクを実行し始めるにつれて、大規模モデルによる推論を呼び出すだけでなく、データベースにアクセスしたり、コードを実行したり、ツールを呼び出したりする必要があり、これらのプロセスはすべて大量のCPUリソースを消費する可能性があります。
ArmクラウドAIソリューションアーキテクチャディレクターのラビ・マルホトラは、ソフトウェア開発エージェントを例に挙げ、モデルがまず推論を行いコードを生成した後、CPUがコードのビルド、コンパイル、テストを完了する必要があり、これらの操作には多くの時間がかかる可能性があると指摘した。
このようなユースケースにおいて非常に重要なのは、CPUが自らの部分の処理をどれだけ速く完了させ、より高価なGPUやアクセラレーターに迅速に制御を戻して、パイプラインの次のステップを実行できるかです。」Ravi Malhotraは、24/7 Techなどのメディアに語りました。「CPUが十分に速くないと、より高価なGPUがアイドル状態になります。」
さらに複雑なのは、異なるエージェントのパフォーマンスボトルネックが異なることです。一部のタスクはGPUの推論速度に制限され、他のタスクはCPUサンドボックスの実行能力やデータ検索の効率に制約されます。同じ種類のエージェントであっても、モデル、デプロイ環境、具体的なタスクによってパフォーマンスボトルネックは変化します。
ソフトウェア開発を例に挙げると、コードのコンパイルやテストはCPUリソースを継続的に消費するため、単一Agentの実行パフォーマンスが重視されます。一方、企業カスタマーサポートや個人アシスタントなどのシナリオでは、単一の操作は通常短時間ですが、多数のリクエストを同時に処理する必要があり、CPUの並列処理能力に対する要求が高くなります。
これらの差異により、CPUパフォーマンスの評価は、完全なAgentタスクの実行効率や、異なるワークロードにおけるパフォーマンスの表現に注目し始めています。
今回のArmの提案では、コンポーネントレベルのテストとエンドツーエンドAgentベンチマークを統合します。
その中で、コンポーネントレベルのテストはWebサーバー、データベース、モデルサービス、サンドボックス実行などのプロセスをカバーし、エンドツーエンドのテストではSWE-benchやTerminal-BenchなどのAgentベンチマークを導入して、完全なワークフローにおけるパフォーマンスを評価します。
従来の指標であるシングルコア性能やマルチコアスループットに加えて、Armはエージェントの並列数、タスク実行効率、およびラックあたりのパフォーマンスにも注目しています。
ラビ・マルホトラは、パフォーマンス評価において、スループットとSLA（サービスレベルアグリーメント）要件の間でバランスを取ることが必要であり、単に多くのエージェントを同時に実行することを追求してはならないと強調した。
異なるシナリオの要件が異なるため、ArmはすべてのAgentユースケースに対して一貫した重み付け方式を推奨せず、企業は自社のアプリケーションに応じて適切な評価指標を選択することを提唱しています。
エージェントが企業の実際の業務プロセスに徐々に導入されるにつれ、これらのパフォーマンス指標は、企業がCPUインフラを選択またはアップグレードする際の重要な指標となっています。
ラビ・マルホトラは、ソフトウェア開発、カスタマーサポート、サプライチェーン管理、個人アシスタントなどのシナリオが、企業のCPUインフラストラクチャのアップグレードを推進する重要な原動力となると考えている。
「企業にとって、カスタマーサポート、サプライチェーン管理、個人アシスタントなどのシナリオでは、ラックあたりのパフォーマンスが重視されます。Arm AGI CPUの拡張性とエネルギー効率の利点は、これらのシナリオで特に顕著です。」とRavi Malhotraは述べました。
ラヴィ・マルホトラは、エージェントアプリケーション向けに既存のインフラをアップグレードする場合でも、新たなインフラを設計・開発する場合でも、これらのシナリオは明確なアップグレード要件を生み出し、Arm AGI CPUの成長と普及を推進する主要な原動力となる可能性があると指摘した。
企業にとって、CPU性能の向上がもたらす価値は、最終的に実際の運用効率とコストに反映される必要があります。
異なるエージェント間のワークロード差は大きく、ベンチマークテストでのパフォーマンス優位性が、タスク実行効率の向上やデプロイコストの削減に実際に繋がるかどうかは、さらなる実用検証を待たなければならない。
リスク通知および免責条項
市場にはリスクが伴います。投資は慎重に行ってください。本記事は個人の投資アドバイスを構成するものではなく、個々のユーザーの特定の投資目標、財務状況、または要件を考慮したものではありません。ユーザーは、本記事に記載されたいかなる意見、見解、または結論が自身の状況に適しているかを検討する必要があります。本記事に基づいて投資を行う場合、その責任はユーザー自身にあります。