人工智慧資料中心最令人驚嘆的部分,可能不是 GPU。 而是電纜。 看看這個。 數百個連接點。 光纖電纜到處延伸。 收發器填滿了每個可用的埠。 坦白說,這是我第一個注意到的東西。 你或許能打造世界上最快的 GPU…… 但它們仍需彼此通訊。 當人工智慧模型分散在數千個 GPU 上時,它們之間傳輸資料便成為一項巨大的工程挑戰。 這就是為何現代人工智慧基礎設施需要專用的網路系統。 高頻寬。 低延遲。 快速交換器。 光學連接。 所有元件都必須協同運作。 因為如果 GPU 等待資料…… 那昂貴的運算能力就只是閒置著。 這部分我認為人們嚴重低估了。 當我們談論人工智慧硬體時,通常只談論 GPU。 但 GPU 只是這台機器的一部份。 網路才是將數千個獨立處理器整合成一個龐大運算系統的關鍵。 隨著人工智慧規模不斷擴大…… 這種連接變得越來越重要。 到了某個階段,建造人工智慧資料中心,看起來不再像建造一台電腦…… 而更像在建造一個神經系統。 GPU 是大腦。 網路則是連接它們的一切。

