Masalah apakah yang diselesaikan oleh CPO? Kluster latihan dan inferens AI bukan hanya terbatas pada komputasi, tetapi juga secara mendasar terbatas pada perhubungan. Semasa kluster GPU berskala hingga puluhan atau ratusan ribu GPU, tiga dinding muncul secara serentak: 1. Dinding bandwidth: Setiap generasi GPU baru (H100 → B200 → Rubin) memerlukan bandwidth I/O yang jauh lebih tinggi setiap cip untuk memastikan komputasi terus diisi. Bandwidth antarhubung perlu tumbuh lebih cepat daripada FLOP komputasi (operasi titik terapung per saat, yang merupakan unit yang digunakan untuk mengukur kuasa pemprosesan komputer untuk matematik kompleks), jika tidak, GPU akan menganggur sambil menunggu data. 2. Dinding kuasa: Konsep pusat data AI berskala gigawatt, seperti yang digambarkan oleh Jensen Huang daripada Nvidia, membayangkan fasiliti yang mengkonsumsi kuasa satu gigawatt atau lebih, dan setiap watt yang digunakan untuk menggerakkan bit antara cip adalah watt yang tidak digunakan untuk komputasi. Penandaran elektrik/optik konvensional membazir banyak kuasa hanya untuk memasukkan dan mengeluarkan data dari pakej. 3. Dinding jangkauan: Interkonduktor tembaga (NVLink, jejak PCIe) menjadi lesap + berkuasa tinggi selepas beberapa meter pada kelajuan penandaran yang diperlukan AI (100G+ setiap saluran). Optik tidak mempunyai penalti jarak ini, tetapi menukar antara domain elektrik dan optik menghabiskan kuasa dan menambah komponen. Optik yang dikemas bersama adalah jawapan kepada ketiga-tiga masalah ini sekaligus: alih-alih menukar data kepada cahaya di tepi papan, anda menggerakkan enjin optik sedekat mungkin secara fizikal kepada silikon yang menghasilkan data. Ini bermaksud pada substrat pakej yang sama dengan ASIC suis atau GPU itu sendiri.