Чіпи ШІ прискорюються, центри обробки даних переходять на оптичні мережі

Індустрія штучного інтелекту роками витрачала зусилля на прискорення процесорів. Зараз деякі з її найбільших інвестицій у інфраструктуру спрямовані на щось значно менш вражаюче: заміну електричних з’єднань на світлові.

Проблема стає очевидною всередині величезних AI-центри обробки даних, де тисячі GPU повинні безперервно обмінюватися інформацією. Навіть найпотужніший процесор може витрачати час на очікування, якщо мережа, що з’єднує його з іншими чіпами, не може пересилати дані достатньо швидко.

Фінансові наслідки вже помітні. Виробник оптичних технологій Coherent повідомив $2,37 млрд доходів за квартал 4 листопада, що на 50% більше, ніж рік тому, оскільки попит на обладнання для високоскоростних мереж зростав.

Традиційні центри обробки даних були спроектовані навколо серверів, які виконували відносно незалежні завдання. Мідні кабелі добре працювали, оскільки з’єднання були порівняно короткими, а вимоги до мережі були керованими.

Навчання ШІ змінює це рівняння.

Сучасні AI-кластери з’єднують тисячі GPU, які одночасно працюють над величезними моделями. Ці процесори повинні обмінюватися даними, синхронізувати обчислення та переказувати проміжні результати між стелажами.

Зі збільшенням швидкості обробки комунікація стає все більш важливою. Затримка у передачі інформації може призвести до недо використання дорогого обчислювального обладнання.

Мідь залишається ефективною на коротких відстанях, але вищі швидкості передачі та довші з’єднання збільшують проблеми втрат сигналу та споживання енергії.

Оптичні технології вирішують деякі з цих обмежень, перетворюючи електричні сигнали на світло та передаючи інформацію через оптоволокно.

Nvidia пояснила, що більші AI-кластери все більше потребують оптичних з’єднань між серверами та мережевими комутаторами, особливо зі збільшенням відстаней у мережі.

Виклик додає ще один вимір до існуючої нестачі електроенергії для ШІ, оскільки мережеве обладнання також вносить вклад у загальне споживання енергії.

Останні результати Coherent ілюструють, як перехід на нову інфраструктуру створює можливості поза Nvidia.

Його сегмент дата-центрів та зв’язку згенерував приблизно 1,95 мільярда доларів США в квартальному доході, що більше, ніж 1,09 мільярда доларів США роком раніше.

Це становить приблизно 79% зростання і становить приблизно 82% загального обсягу квартальних продажів компанії.

Сегмент включає продукти, крім оптичних з’єднань для AI-центрів даних, тому цю цифру не слід тлумачити виключно як дохід від AI-мереж.

Тим не менш, зростання допомагає пояснити, чому компанії-виробники напівпровідників здійснюють поглинання оптичних мереж для отримання технологій, необхідних для майбутніх обчислювальних систем.

Coherent також очікує, що ріст виторгу за фінансовий 2027 рік за проформою перевищить 60%, хоча це залишається керівництвом, а не гарантованим результатом.

Перехід створює нове інвестиційне міркування: покращення продуктивності GPU недостатнє, якщо мережа не зможе поспішати за ним.

Компанії, що розробляють інфраструктуру ШІ, повинні балансувати витрати на процесори з витратами на мережі, охолодження та електроенергію.

Це допомагає пояснити, чому капітальні витрати на ШІ все більше користують постачальникам обладнання, крім виробників чіпів.

Оптичні технології також можуть покращити енергоефективність у певних впровадженнях, зменшуючи електроенергію, необхідну для передачі інформації між великими обчислювальними кластерами.

Однак оптичні з’єднання не є універсально кращими. Мідь залишається привабливою для коротких з’єднань завдяки своїй вартості, простоті та доведеній ефективності.

Нові оптичні системи також вводять складність виробництва, витрати на компоненти та міркування щодо надійності.

Для компаній, що фінансують бум інфраструктури ШІ, ці компроміси мають значення, оскільки кожні додаткові інвестиції в мережеву інфраструктуру повинні в кінцевому підсумку генерувати достатню економічну вартість.