歯止めで構築されたITインフラ：見過ごされているボトルネック

著者：編集行僧

今あなたがスクロールしているこの記事は、いくつの技術スタックを経てここに到達したでしょうか？

モバイルOS、ブラウザエンジン、JavaScriptエンジン、WebAssembly、CDN、DNS、クラウドサーバー、Linuxカーネル、C言語ランタイム、CPU命令セット、半導体ウエハー……最終的に、電力を消費している一枚のシリコンチップにたどり着く。

各層はどれも頑強に聞こえる。各層にはホワイトペーパーがあり、認証があり、大手企業の後押しがある。

しかし、それらを重ねて見ると、不安な光景が浮かび上がる——ぐらついている天上の塔が、下部で笑えるほど細い赤い柱に支えられている。

その名前は「フォン・ノイマン・ボトルネック」です。

塔の上に立って、あなたは携帯電話を掲げ、すべてが普通に思えている。

フォン・ノイマン、現代コンピュータの父。フォン・ノイマンアーキテクチャは、ほぼすべての現代コンピュータの基盤設計である。CPUは計算を担当し、メモリはデータ保存を担当し、両者は1本のバスを介してデータをやり取りする。この設計は1945年から今日まで使用され、大型コンピュータ、PC、インターネット、モバイル時代を乗り越え、現在は人工知能を支えている。

しかし、それは二つの天生の欠点を抱えている。1) CPUの計算速度は急速に向上しているが、メモリとバスはそれに追いついていない。データの移動がシステム全体のボトルネックとなっており、CPUの大部分の時間は計算ではなく、データを待つことに費やされている。2) CPUの高度な処理はキャッシュ容量に大きく依存しているが、キャッシュには物理的な限界があり、メモリのように水平に拡張できない。人間にとって読みやすいことを重視する現代の高級プログラミング言語の影響により、プログラムはますます肥大化し、異種データの複雑さも増している。これらはすでにキャッシュ容量の上限を超えており、その結果、メモリとCPU間のデータ移動の頻度と量がさらに増加し、コンピュータの動作はますます遅くなり、カクつきが増し、クラッシュしやすくなっている。これが「フォン・ノイマンボトルネック」である。

皮肉なことに、このボトルネックはIT産業の最も基本的で核心的かつ避けられない問題である一方、最も注目されていない問題でもある。

なぜですか？なぜなら、それを解決するのは難しく、利益を上げるのが容易ではないからです。

大手企業はより多くの層を積み重ねることを好む——より高速なGPU、より大きなメモリ、より複雑なキャッシュ階層、より賢いスケジューリングアルゴリズム。それぞれの層はPPTに書き込めるし、それぞれの層はお金を生む。そして、それぞれの層はその赤い柱を避け、問題に直面して解決することを避けています。

建物が常に上に増築される一方で、基礎の亀裂には次第に厚い壁紙が貼られていく。

あなたは中の人々が安全かどうか聞きますか？彼らはこう言うでしょう：安心してください、私たちは最新のスマートロックに交換し、最も高価な災害保険にも加入了しました。

この図を見ると、興味深い現象に気づきます。それぞれの層を単独で見ると、丁寧に設計されたブロックのように見えます。

オペレーティングシステムは厳密なカーネルアーキテクチャを備えています。高帯域幅メモリHBMは精密な積層技術を有しています。CPUとGPUは数十億のトランジスタを備えた精密な設計です。半導体ウェハ工場は人類の工業の王冠です。

LinuxおよびApache財団は、世界で最も信頼できるオープンソースインフラを維持しています。LibcURLは、ネットワークが必要なほぼすべてのプログラムによって呼び出されます。DNSシステムは、グローバルなインターネットが互いに見つけられるようにします。クラウドプロバイダーは99.99%の可用性を約束しています。

すべてのブロックは正方形で、それぞれに論文、標準、監査が備わっています。

しかし、それらを下から上へ積み重ねると、画面上の様子が変わる。

これが現代のデジタルインフラの真実だ：洗練された全体像ではなく、無数の臨時的な解決策が積み重なってできた奇跡である。

うまく動作するのは、設計が優れているからではなく、多くの人が多くの深夜に多くのパッチを当てたからである。

あなたは建物を使っていると思っているが、実はパッチの積み木の上に立っている。

写真の側面から伸びているアームには「AI人工知能」とラベルが付いています。

それは塔を支えるのではなく、レバーとして、ブロックのような施設の崩壊を加速している。

これは現在のAIブームに対する最も正確な風刺である。

すべての人がAIを生産力の革命、次の時代、すべてを救う銀の弾丸だと語っている。しかしインフラの観点から見ると、AIが最初にしたことは、すでに揺らぎ始めたシステムをさらに危険な境地に追い込んだことである。

なぜか？ 1) AIは計算能力の怪物である。大規模モデルのトレーニング1回で消費される電力は、小さな都市の1年分の電力消費に相当する。推論デプロイには膨大なGPUが必要だが、GPUの基盤は依然としてフォン・ノイマンアーキテクチャ上で動作しており、その赤い柱が負う負荷はかつてないほど大きくなっている。2) AIユーザーによる暴力的な検索は、データインフラに人間ユーザーの万倍以上の負荷をかける。現在推奨されているループ循環方式は、AIタスクのデータ検索・クエリおよび演算の頻度をさらに幾何学的に増加させるだけである。

より皮肉なのはAIの出力である。

大量のAI生成コードがオープンソースプロジェクトに提出され、品質はまちまちで、脆弱性が次々と発生している。大量のAI生成コンテンツがインターネットにあふれ、検索エンジンの結果がスパム情報で埋め尽くされている。大量のAI生成「ソリューション」が製品として包装され顧客に販売され、問題が発生してみれば、その基盤は幻にすぎなかった。

AIはその赤い柱を修復しなかった。ただ塔の上にさらに一层を追加し、すべての人々にこう言った。「見て、私たちの方がもっと高いよ。」

崩れるかどうかは、次の四半期の話です。

こんなジョークがあります：人類は70年かけて、コンピューターを「速く計算できる」ものから「無意味なことを言い出す」ものへと進化させ、それを「進歩」と呼んでいる。

図の右側では、怒った鳥が塔に突撃しています。横には「大手企業」が行っていることと表示されています。

この比喩は厳しいが、正確である。

大手企業は一定期間ごとに「革新的」な新製品、新フレームワーク、新標準を発表する。発表会は壮観で、PPTは美しく、KOLたちが一斉に称賛する。

しかし、これらの製品はしばしば既存の産業構造を修復または強化するのではなく、それを破壊しています。

新しいフレームワークが登場すれば、古いフレームワークのエコシステムは死ぬ。新しい標準が登場すれば、古い標準と互換性のあるすべてのデバイスは「遅れた製品」になってしまう。大手企業はこのようなアプローチに代償が伴うことを知らないわけではない。しかし彼らにとって、エコシステムを破壊するコストは開発者とユーザーが負担し、新しい製品がもたらす成長と評価は自らのものである。

図の左側では、Rustの独立開発者がロケットに乗って飛んでいき、ラベルには「Rustの独立開発者は自分のことをやっている」と書かれています。

これは別の皮肉です。

独立开发者はITエコシステムの中で最も活気のあるグループです。彼らは大手企業のKPIに縛られず、迅速に試行錯誤を重ね、大手企業では作れないクオリティの高いアプリケーションを生み出せます。

しかし、独立開発者の成果にはもう一つの側面もある

- 整然としていない。同じ機能について、十人の独立した開発者が十種類のバージョンを作成し、それぞれ異なる設計哲学を持ち、開発者が興味を失うまでしかメンテナンスされない。

無秩序である。統一された基準も、互換性の保証も、アップグレードのロードマップもない。今日使えるとしても、明日作者がリポジトリを削除してしまう可能性がある。

不十分厳密です。多くの独立プロジェクトはテストされておらず、ドキュメントもなければセキュリティ監査も行われていません。作者は「動けばいい」と考え、そのプロジェクトが他の一万のプロジェクトに依存されています。

これらの問題は一つ一つ見れば小さいが、積み重なることで市場への別の形の破壊となる。ユーザーは無数の未完成品の中から選択を迫られ、開発者は無数の廃止されたフレームワークに陥る。エコシステム全体の信頼コストはますます高まっている。

一方で、図中にロケットで飛び立つRust開発者のように、本当に優れた独立開発者たちは、自分たちのことをしっかりとやり、素晴らしい成果を上げていますが、このぐらついている塔とは無関係です。

塔は彼らによってより堅固にはならないし、彼らも塔によって立ち止まることはない。

皆それぞれ忙しく、それぞれ崩れている。

この図を最初から最後まで、全体を通して見てみましょう。

最下層には、灰色の大きな四角形があり、「電力（計算力、水、エネルギーなど）」と書かれている。これはすべての出発点だ——電力がなければ、計算は存在しない。しかしIT産業の物語では、電力は最も見過ごされている層である。クラウドネイティブやマイクロサービス、大規模モデルについて語られるが、これらが消費する電力はどこから来ているのか？いくらかかるのか？環境にどのような影響を与えるのか？という議論はほとんど行われない。

電力の上には、4つの基盤があります：オペレーティングシステム、高帯域幅メモリ（HBM）、CPU/GPU、半導体ウェハ工場。これらはハードウェア層であり、真正に「四角く整った」部分です。それぞれは人間の工業技術の最高峰を表しています。しかし注意してください、これらは1つの基盤ではなく、4つの別々の石です——それらの間の接続部には、もともと隙間があります。

その上には、「C言語開発者用動的配列」と書かれたぐらぐらと不安定な板が横たわっている。この板は四つの基盤の上に跨がっており、もともと不安定だ。そしてその真ん中には、細い赤い柱が上部のすべての重さを支えている——フォン・ノイマンボトルネック。IT世界全体の重さが、最終的にこの柱にかかっている。

さらに上では、スタイルが制御を失い始めた。未定義の動作に基づくC99プロジェクトが重要な機能を担っている。JVMの下では、リレーショナルデータベースにバツがつけられている。側面から機械臂が伸びてきて、「AI人工知能」とラベルが貼られ、タワーを押している。

さらに上には、V8エンジン、left-pad、ネットワークセキュリティ、WebAssemblyがあります——これらはWeb層です。横には「Web開発者の自己破壊」と「Webで起きている奇妙なこと」と大書されています。

最上部には、ユーザーを表す小さなマッチ棒人形がぐらついている塔の先端に立っており、横には「あなたはここにいます」と書かれています。拡大すると、その小さな人形は携帯電話を手に持ち、塔を使っており、塔はいつ崩れてもおかしくない状態です。

塔の左側では、Rustの独立開発者がロケットに乗って去っていき、自分のことに向かう。塔の右側では、怒った小鸟（大手企業）が塔に突っ込んでいる。塔の上には、1つの雲が孤独に浮かんでおり、「仕様に準拠したクラウドサーバー」と書かれている——この雲は塔とは一切接続されておらず、まるで単なる概念のようだ。

この図には余分な言葉は一つもない。すべての注釈が、IT産業が最も触れられたくない場所に突き刺さっている。

それは未来を予言しているのではなく、現在を描写しているのです。

ここまでこの記事を書いたところで、誰かが「あなたはあまりにも悲観的だ。IT産業はうまく機能しているではないか」と言うかもしれない。

はい、動作しています。

しかし、「動いている」と「安定している」は別物です。人が歩けるからといって、骨に亀裂がないとは限りません。橋が車を通せるからといって、許容荷重を超えていないとは限りません。

IT産業の恐ろしい点は、あらゆる層が高速で進化している一方で、最下層の問題はいまだに本質的に解決されていないことだ。フォン・ノイマンのボトルネックは依然として存在し、大手企業は建物を解体し続け、AIはゴミを生み出し続け、独立開発者は依然として孤立して戦っている。

誰もが上に建物を積み上げているが、誰も下を見ようとはしない。

下を見ると、基盤が歯木であることがわかります。そして、歯木にはいずれ耐えきれなくなる日が来ます。

おそらく、その日が来るまで、タワーの頂上で携帯電話を掲げている私たちこそが、初めてその質問を投げかけるだろう：この建物の基礎はどのようにして築かれたのか？