執筆：小餅
8月6日、AMDはトロントの半導体企業Taalasを買収すると発表したが、取引金額は公表されていない。2023年に設立され、これまでに2億1900万ドルを調達したこのスタートアップは、AIモデルの重みを直接チップの金属層に焼き付けて、1つのモデル専用のチップを製造するという、やや異常な取り組みを行っている。
GPUは、モデルパラメータを高帯域幅メモリ（HBM）に保存し、推論時にデータを計算ユニットの内外に繰り返し転送します。この「転送」プロセスは大量の電力と時間を消費し、業界では「メモリーボトルネック」と呼ばれています。Taalasのアプローチは、この転送を完全に廃止し、重みをチップのトランジスタに固定化することで、記憶と計算を一体化させることです。
代償として、このチップは1つのモデルしか実行できませんが、利点は速度とエネルギー効率が桁違いに向上することです。
17000トークン/秒とは何を意味しますか？
Taalasの技術検証チップHC1は、TSMCの6nmプロセスを採用し、チップ面積は815平方ミリメートル、トランジスタ数は530億個で、内蔵モデルはMetaのLlama 3.1 8Bです。
HC1のベンチマークデータ：単一ユーザーあたり約17,000トークン/秒。対照的に、Nvidia H200では同じモデルで約230トークン/秒、H100では約150トークン/秒です。速度は73倍で、消費電力は後者の1/10です。
より直感的な経済的計算：Taalasが報告する推論コストは、100万トークンあたり約0.75セント（Llama 8B）ですが、GPU方式は20〜49セントの範囲です。HC1カード1枚の消費電力は250Wで、標準的な空冷ラックに10枚のカードを設置すると、必要な電力は12〜15kWのみで、液体冷却は不要です。一方、GPUラックの電力消費は通常120〜600kWに及びます。
フォーブスのアナリスト、カール・フロントは2月の評価で、「最速の推論プラットフォーム（Cerebras ワーフルサイズエンジン）よりも10倍速く、GPUよりも2桁速い」と評価した。
ただし、いくつか重要な制約があります。HC1は、Taalasが独自開発した3ビットデータ形式と6ビットパラメータを使用しており、量子化が非常に激しく、複雑な推論タスクでは品質の損失が明確に存在します。17,000トークン/秒という数値は、1K入力/1K出力のベンダー基準テストからのものであり、実際の本番環境でのパフォーマンスを表すものではありません。また、Llama 3.1 8Bは2024年半ばにリリースされたモデルであり、8Bパラメータの量子化バージョンはラズベリーパイ5でも動作可能です。HC1は、成熟した製品としての競争力を示すものではなく、アーキテクチャの可能性を示すものです。
モデルの世代交代はどうすればよいですか？
モデルをチップに焼き込む場合、最も直感的な疑問は：モデルが更新されたら、チップは無効になるのか？
Taalasの回答は、廃止されないことです。従来のASIC設計サイクルは2年以上かかりますが、Taalasは自動化された設計プロセスを開発し、チップの上位層のわずかな金属マスクを変更するだけで新しいモデルを新しいチップにコンパイルでき、サイクルは約8週間です。同社はコストモデルに、4年間のライフサイクル内で3回のチップ更新費用を組み込んでいます。
この回答は一部の不安を和らげますが、完全には解消できません。
GPUの柔軟性は、同じカードで今日Llamaを実行し、明日Claudeを実行し、明後日未発表の新しいモデルを実行できることにあります。Taalasのチップはこの機能を実現できません。顧客が複数のモデルを同時に必要とする場合（これは本番環境で非常に一般的です）、各モデルに異なるチップを用意する必要があり、在庫管理と運用の複雑さが増します。
HC2は開発中であり、目標は約200億パラメータ規模のモデルで、4ビット浮動小数点を用いて精度を向上させます。Taalasは当初、2026年末までに最先端モデルのサポートを実現する予定でした。
AMDの買収により、Instinct GPU製品ラインとHeliosラックシステムのシナジーが実現し、顧客はGPUで柔軟なワークロードを処理し、Taalasチップで安定した高頻度の単一モデル推論を実行できます。
推論チップの軍備競争
AMDがTaalasを買収したことは、業界の文脈において、過去8か月間の推論チップ買収ラッシュの最新の一件である。
2025年12月、NvidiaはSRAMベースの低遅延推論アーキテクチャを取得するためにGroqを200億ドルで買収した。
2026年5月、Cerebrasは約560億ドルの時価総額でIPOを実施し、2020年のSnowflake以来最大のテクノロジーIPOとなった。
6月、Etchedは2年以上の隠れ期間を終え、台積電のN4Pプロセスで最初のTransformer専用チップの試作に成功し、10億ドルを超える顧客契約を獲得したと発表した。IntelはSambaNovaと買収の意向書に署名したとの報道があり、QualcommはTenstorrentと接触している。
これらの取引は同じ判断を示しています：推論がAIコンピューティング支出の主要な戦場となっていることです。
業界予測によると、2026年には推論がAI計算支出の3分の2を占め、2030年までに専用推論ASICが推論市場の45％を獲得する可能性がある。NvidiaのGPUは依然としてトレーニング分野を支配しているが、推論分野ではその汎用アーキテクチャが、あらゆる方向からの専用チップの挑戦に直面している。
Taalasはこのスペクトルの最も極端な位置にあります：「1類モデル」の汎用性すら放棄し、直接「1つのモデル」専用のチップを開発しています。
GroqはSRAMを用いてHBMの代わりとし、メモリーワールドを回避し、Cerebrasはウェハレベルの面積を用いて力技で突破し、EtchedはTransformerアーキテクチャにのみ最適化し、Taalasの賭けはさらに大胆だ：AIモデルが通信プロトコルのように最終的に少数の標準に収束すると信じている。モデルが毎月新しくなることがなくなり、最も人気のある数つのモデルごとに専用チップを製造することが経済的に合理的になる。
モデルが「凝固」する
AMD上級副社長のVamsi Boppanaは、公告で、この買収の目的は顧客に「あらゆるAIワークロードに最適な計算ソリューションを提供すること」であると述べました。これは競争戦略として、GPUが柔軟性を担い、Taalasチップが極限の効率を実現し、顧客が必要に応じて組み合わせることを意味します。
この組み合わせのロジックが成り立つかどうかは、AIモデルの更新サイクルが遅くなるかどうかという核心的な仮定にかかっている。
大規模モデルが数か月ごとにアーキテクチャレベルの更新を継続するならば、重みをシリコンに焼き付けるアプローチは、流砂にコンクリートを注ぐようなものであり、チップの回収が終わる前にモデルは既に陳腐化している。しかし、モデルの能力が収束し、トップモデルが1〜2年間安定してサービスを提供することが常态となるならば、Taalas型の専用チップは、通信業界のベースバンドチップのように、狂った実験から当然の選択肢へと変わるだろう。
過去12か月を振り返ると、モデル更新のペースに微妙な変化が見られる。Llamaシリーズは3.1から3.2、そして4への更新間隔が長くなっている一方、GPTは4から4o、そして5へのアーキテクチャの変更幅が縮小している。新たなモデルの多くは、既存のアーキテクチャに基づく蒸留、量子化、微調整であり、ベースモデルの更新は鈍化している。
このトレンドが継続すれば、Taalasは的中した。