CPO'lar hangi sorunu çözer? AI eğitimi ve çıkarım kümeleri yalnızca hesaplama açısından değil, temel olarak ağ açısından da sınırlıdır. GPU kümeleri on binlerce hatta yüz binlerce GPU'ya ölçeklendikçe üç engel aynı anda ortaya çıkar: 1. Bant genişliği engeli: Her yeni GPU nesli (H100 → B200 → Rubin), hesaplama gücünü beslemek için çip başına çok daha fazla I/O bant genişliğine ihtiyaç duyar. Bağlantı bant genişliği, bilgisayarın karmaşık matematiksel işlemler için hesaplama gücünü ölçen birim olan saniyedeki kayan noktalı işlem sayısı (FLOPs) kadar hızlı artmalıdır; aksi halde veri beklerken GPU'lar boşta kalır. 2. Güç engeli: Nvidia'nın Jensen Huang tarafından tanımlanan gigawatt ölçekli bir AI veri merkezi kavramı, gigawatt veya daha fazla güç tüketen tesisleri öngörür; çipler arasında veri taşımak için harcanan her watt, hesaplama için harcanan bir watt değildir. Geleneksel elektrik/optik sinyallemeler, veriyi bir paketin içine ve dışına taşımak için çok fazla güç tüketir. 3. Menzil engeli: Bakır bağlantılar (NVLink, PCIe izleri), AI'nın gerektirdiği sinyal hızlarında (her kanalda 100G+) birkaç metreden sonra kayıplı ve güç tüketici hale gelir. Optikler bu mesafe cezasına sahip değildir, ancak elektriksel ve optik alanlar arasında dönüşüm yapmak güç tüketir ve ek bileşenler ekler. Co-packaged optics, bu üç soruna aynı anda çözüm sunar: Veriyi bir kartın kenarında ışığa dönüştürmek yerine, optik motoru, veriyi üreten silikonun en yakın fiziksel konumuna taşır. Bu, anahtar ASIC veya GPU'nun kendisiyle aynı paket alt tabakasında anlamına gelir.