CPOs কী সমস্যা সমাধান করে? AI ট্রেনিং এবং ইনফারেন্স ক্লাস্টারগুলি শুধুমাত্র কম্পিউটেশন-সীমাবদ্ধ নয়, বরং মৌলিকভাবে নেটওয়ার্কিং-সীমাবদ্ধ। যখন GPU ক্লাস্টারগুলি দশহাজার বা শতহাজার পর্যন্ত GPU-এ বড় হয়, তখন একসাথে তিনটি প্রতিবন্ধকতা দেখা দেয়: 1. ব্যান্ডউইথের প্রতিবন্ধকতা: প্রতিটি নতুন GPU জেনারেশন (H100 → B200 → Rubin) কম্পিউটেশনকে সরবরাহ করতে প্রতি চিপে অসাধারণভাবে বেশি I/O ব্যান্ডউইথের প্রয়োজন। ইন্টারকানেক্ট ব্যান্ডউইথকে কম্পিউট FLOPs (প্রতি সেকেন্ডে ফ্লোটিং-পয়েন্ট অপারেশন, যা একটি কম্পিউটারের জটিল গণিতের জন্য প্রসেসিং শক্তির পরিমাপের একক) এর চেয়ে দ্রুত বৃদ্ধি করতে হবে, অন্যথায় GPUগুলি ডেটার জন্য অপেক্ষা করছে। 2. শক্তির প্রতিবন্ধকতা: Nvidia-এর Jensen Huang-এর বর্ণনা অনুযায়ী, গিগওয়াট-স্কেল AI ডেটা সেন্টারের ধারণা, যা 1 GW-এরও বেশি শক্তি খরচ করে, এবং চিপগুলির মধ্যে bit-এর সঞ্চালনের জন্য খরচকৃতপ্রতিটি watt-এর মধ্যেই computing-এর جন্য watt-এর 1টি। প্রচলিত বৈদ্যুতিক/অপটিক্যাল signaling-এর 1টি package-এর 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 1টি 3. reach-এর প্রতিবন্ধকতা: copper interconnects (NVLink, PCIe traces) AI-এর (প্রতিটি lane-এ 100G+)প্রয়োজনীয় signaling speed-এর চেয়েও few meters-এরও beyond-এ lossy + power-hungry become. Optics-এর distance penalty-এর kono problem nai, kintu electrical and optical domain-এr conversion power kharch kore ar components add kore. Co-packaged optics holo eti tin er somadhan: board-এr edge-e data ke light-e convert korar badle, optical engine-ke data generate kore thake silicon-er shathe shobcheye kare physical possible distance-e nia jay. Ei mato switch ASIC ba GPU-er shathe same package substrate-e.