Masalah apa yang dipecahkan oleh CPO? Cluster pelatihan dan inferensi AI tidak hanya terbatas pada komputasi, tetapi juga secara mendasar terbatas pada jaringan. Ketika cluster GPU meningkat hingga puluhan atau ratusan ribu GPU, tiga hambatan muncul secara bersamaan: 1. Hambatan bandwidth: setiap generasi GPU baru (H100 → B200 → Rubin) membutuhkan bandwidth I/O yang jauh lebih besar per chip untuk menjaga pasokan komputasi. Bandwidth interkoneks harus tumbuh lebih cepat daripada FLOPs komputasi (operasi titik mengambang per detik, yang merupakan satuan yang digunakan untuk mengukur daya pemrosesan komputer untuk matematika kompleks), jika tidak, GPU akan menganggur menunggu data. 2. Hambatan daya: Konsep pusat data AI berkapasitas gigawatt, seperti yang dijelaskan oleh Jensen Huang dari Nvidia, membayangkan fasilitas yang mengonsumsi satu gigawatt atau lebih daya, dan setiap watt yang digunakan untuk memindahkan bit antar chip adalah watt yang tidak digunakan untuk komputasi. Sinyal listrik/optik konvensional menghabiskan banyak daya hanya untuk memindahkan data masuk dan keluar dari paket. 3. Hambatan jangkauan: interkonektor tembaga (NVLink, jejak PCIe) menjadi lossy dan boros daya setelah beberapa meter pada kecepatan sinyal yang dibutuhkan AI (100G+ per saluran). Optik tidak memiliki hambatan jarak ini, tetapi konversi antara domain listrik dan optik membutuhkan daya dan menambah komponen. Co-packaged optics adalah solusi untuk ketiga masalah ini sekaligus: alih-alih mengonversi data menjadi cahaya di tepi papan, Anda memindahkan mesin optik sedekat mungkin secara fisik ke silikon yang menghasilkan data. Artinya, pada substrat paket yang sama dengan switch ASIC atau GPU itu sendiri.