Mga pangunahing natutunan
- Mas mabilis na mga chip na AI ay lalong nagdudulot ng pagkabigo sa tradisyonal na mga koneksyon ng tanso
- Tumaas ang kita ng Coherent ng 50% dahil sa pangangailangan sa optical networking
- Maaaring baguhin ng mga koneksyon batay sa liwanag ang ekonomiks ng infrastruktura ng AI
Ginugugol ng industriya ng artificial intelligence ang mga taon upang gawing mas mabilis ang mga processor. Ngayon, ilan sa pinakamalalaking investmeng pang-imbentaryo nito ay patungo sa isang bagay na mas kaunting galing: pagpalit ng mga elektrikal na koneksyon sa liwanag.
Ang problema ay nagsisimulang maging malinaw sa loob ng mga napakalaking data center ng AI, kung saan ang libu-libo ng GPU ay kailangang magpalitan ng impormasyon nang tuloy-tuloy. Kahit ang pinakamalakas na processor ay maaaring maghintay ng oras kung ang network na nag-uugnay sa iyo sa iba pang chip ay hindi makakapagdaloy ng data nang sapat na mabilis.
Nakikita na ang mga pinansyal na epekto. Ang tagapagmamanhik ng optikal na teknolohiya, ang Coherent, ay nagsalaysay ng $2.37 bilyon sa kaukulang kita noong Nobyembre 4, tumaas ng 50% kumpara sa nakaraang taon, habang tumataas ang pangangailangan para sa mga kagamitan sa high-speed networking.
Bakit ang mas mabilis na mga chip ni Nvidia ay nagtatayo ng bagong bottleneck
Ang mga tradisyonal na data center ay disenyo na paligid sa mga server na nagpapagana ng mga relatif na magkakahiwalay na gawain. Ang mga kable ng tanso ay gumagana nang mabuti dahil ang mga koneksyon ay kumpara na maikli at ang mga pangangailangan sa networking ay masasagot.
Ang pagbabago sa pagtatrain ng AI ang nagbabago sa ekwasyon.
Ang mga modernong AI cluster ay nag-uugnay sa libo-libong GPU na nagtatrabaho nang sabay-sabay sa napakalaking mga modelo. Dapat magpalitan ng data, mag-synchronize ng mga kalkulasyon, at mag-transfer ng intermediate results ang mga processor na ito sa pagitan ng mga rack.
Habang tumataas ang bilis ng pagproseso, lalong mahalaga ang komunikasyon. Ang pagkakaroon ng pagkaantala sa pagpapadala ng impormasyon ay maaaring magiwan ng mahal na hardwared na kompyuter na hindi sapat na ginagamit.
Panatilihin ng tanso ang kanyang epektibidad sa maikling distansya, ngunit ang mas mataas na bilis ng transmisyon at mas mahabang koneksyon ay nagdudulot ng mga hamon sa pagkawala ng signal at paggamit ng kapangyarihan.
Ang optical technology ay tumutugon sa ilan sa mga limitasyon na iyon sa pamamagitan ng pagpapalit ng electrical signals sa liwanag at pagpapadala ng impormasyon sa pamamagitan ng fiber.
Nvidia ay nagpaliwanag na ang mas malalaking AI clusters ay lalo na kailangan ng optical connections sa pagitan ng mga server at network switches, lalo na habang lumalawak ang mga network distance.
Ang hamon ay nagdaragdag ng isa pang dimensyon sa umiiral na kakulangan sa kuryente ng AI, dahil ang mga kagamitan sa networking ay nag-aambag din sa kabuuang pagkonsumo ng enerhiya.
Ang $2.37 bilyong quarter ni Coherent ay nagpapakita kung saan papunta ang pera
Ang pinakabagong resulta ni Coherent ay nagpapakita kung paanong ang paglipat sa infrastruktura ay gumagawa ng mga pagkakataon na higit pa sa Nvidia.
Ang kaniyang segment ng Data Center at Komunikasyon ay nagdala ng halos $1.95 bilyon sa kaukulang kinita, tumaas mula sa $1.09 bilyon noong isang taon ang nakalipas.
Ito ay nagpapakita ng halos 79% na paglago at nag-aalok ng halos 82% ng kabuuang kwartal na kita ng kumpanya.
Ang segment ay naglalaman ng mga produkto na higit pa sa mga optical connection para sa AI data centers, kaya ang numero ay hindi dapat iinterpretahin nang buo bilang kita mula sa AI networking.
Gayunpaman, ang paglago ay tumutulong na ipaliwanag kung bakit ang mga kumpanya ng semiconductor ay nagpapalakas ng optical networking acquisitions upang matiyak ang teknolohiya na kailangan para sa mga susunod na sistema ng pag-compute.
Inaasahan din ng Coherent na lalampas sa 60% ang paglago ng pro forma na kita para sa piskal na 2027, bagaman ito ay nananatiling gabay ng pamamahala at hindi garantisadong performa.
Bakit Maaaring Mabago ng mga Optical Connection ang Ekonomiya ng AI
Ang paglipat ay naglalikha ng bagong pag-aalaga sa pag-invest: ang pagpapabuti ng GPU performance ay hindi sapat kung ang networking ay hindi makakasabay.
Ang mga kumpanyang nagbuo ng AI infrastructure ay dapat magbalanse sa gastos sa processor laban sa paggastos sa networking, pagpapalamig at kuryente.
Nakakatulong ito sa pagsasaliwan kung bakit AI capital expenditure ay lalong nagpapabuti sa mga supplier ng kagamitan kaysa sa mga tagagawa ng chip.
Ang optical technology ay maaari ring mapabuti ang pagiging epektibo sa enerhiya sa ilang mga pagpapatupad, na nagbabawas sa kuryente na kailangan upang ilipat ang impormasyon sa mga malalaking computing clusters.
Gayunpaman, ang mga optical link ay hindi lubos na mas mahusay. Ang tanso ay patuloy na nakakaakit para sa maikling koneksyon dahil sa kanyang gastos, simplisidad, at nakapagsasalba na performance.
Ang mga bagong optikal na sistema ay nagdadala rin ng kumplikadong paggawa, gastos sa mga komponente, at mga pag-aalala tungkol sa kumpiyansa.
Para sa mga kumpanyang pinaglalaban ang AI infrastructure boom, mahalaga ang mga kompromisong ito dahil ang bawat karagdagang pag-invest sa networking ay dapat magkaroon ng sapat na ekonomikong halaga.