Microsoft berencana menerapkan chip generasi baru Maia 300 dalam skala gigawatt tahun depan, dengan perkiraan output token per megawatt 40% lebih tinggi dibanding sistem GPU utama. Microsoft akan memprioritaskan chip buatan sendiri untuk mendukung layanan AI internal, bukan menyewakan daya komputasi ke pihak luar, guna mengurangi ketergantungan pada GPU NVIDIA dan biaya inferensi, serta mendorong perbaikan margin bisnis AI.
Microsoft sedang meningkatkan pengembangan chip AI buatan sendiri, berencana menerapkan seri chip Maia dalam skala gigawatt, secara bertahap mengurangi ketergantungan pada GPU NVIDIA, serta mengendalikan biaya infrastruktur AI melalui peningkatan efisiensi inferensi.
Pada 12 Oktober, menurut Bloomberg, Microsoft mengumumkan pada hari Senin bahwa chip generasi baru Maia 300 akan mulai dideploy di pusat data tahun depan, dirancang khusus untuk tugas inferensi AI. Microsoft memperkirakan bahwa Maia 300 akan mampu memproses 40% lebih banyak token per megawatt dibandingkan sistem GPU utama, yang berarti dapat menangani lebih banyak beban kerja AI dengan konsumsi energi yang sama.
Berbeda dengan Google dan Amazon yang telah membuka daya komputasi chip buatan sendiri kepada pelanggan cloud, Microsoft saat ini tidak berniat menyewakan daya komputasi chip Maia secara langsung kepada pelanggan eksternal. Pilihan ini mencerminkan prioritas Microsoft: memenuhi kebutuhan layanan AI besar mereka sendiri dengan chip buatan sendiri terlebih dahulu, lalu mengubah keunggulan efisiensi perangkat keras menjadi daya saing bisnis.
Deployasi gigawatt, efisiensi energi adalah logika inti
Microsoft meningkatkan investasi pada chip buatan sendiri, pada dasarnya untuk meningkatkan efisiensi inferensi AI dan menurunkan biaya operasional.
Inferensi merujuk pada penggunaan model AI yang telah dilatih untuk menjalankan tugas nyata, seperti merangkum catatan rapat atau menjawab pertanyaan penelitian, dan juga merupakan sumber utama permintaan daya komputasi dalam operasi aplikasi AI. Microsoft menyatakan bahwa seri Maia dirancang khusus untuk beban kerja inferensi di pusat data miliknya, memungkinkan penyelesaian tugas terkait lebih efisien dan mengurangi kebutuhan pembelian GPU NVIDIA. NVIDIA saat ini tetap menjadi sumber daya komputasi utama untuk bisnis inferensi Microsoft.
Rani Borkar, pemimpin bisnis perangkat keras pusat data Microsoft, mengatakan: "Kami percaya bahwa kami telah menciptakan produk terbaik untuk beban kerja ini. Kami akan menerapkan Maia dalam skala gigawatt mulai tahun depan sebagai bukti nyata dari keyakinan ini."
Produk sebelumnya telah diterapkan di berbagai lokasi, versi baru akan melanjutkan pada tahun depan
Strategi chip buatan sendiri Microsoft telah dimulai sejak lama. Pada awal tahun ini, perusahaan mulai memasang produk generasi sebelumnya, Maia 200, di pusat data, dan saat ini chip tersebut telah digunakan untuk menggerakkan perangkat lunak AI seperti Copilot serta tugas-tugas lainnya.
Borkar menjelaskan bahwa Maia 200 mendukung model OpenAI, model AI buatan Microsoft, serta beberapa seri model open-source, dengan cakupan penyebaran di pusat data Amerika Serikat, Eropa, dan Australia, memberikan dukungan kemampuan AI untuk produk-produk seperti Microsoft Teams dan Copilot.
Penggelaran Maia 300 generasi baru diharapkan mulai dilakukan tahun depan. Microsoft berharap dapat memanfaatkan keunggulan efisiensi energinya untuk lebih mengoptimalkan konfigurasi daya komputasi dalam bisnis AI yang terus berkembang, sekaligus menurunkan biaya inferensi.
Lintasan chip buatan sendiri, Microsoft mengejar Google dan Amazon
Dalam konteks raksasa komputasi awan yang saling mengembangkan chip AI buatan sendiri, strategi Microsoft relatif tertinggal. Google dan Amazon memulai lebih awal, telah membangun keunggulan pertama di bidang chip buatan sendiri, serta membuka daya komputasi terkait kepada pelanggan cloud.
Microsoft memilih jalur bisnis yang berbeda. Borkar mengatakan, "Layanan AI kami sendiri sudah cukup besar, dan kami ingin memberikan prioritas pada kebutuhan kami sendiri."
Ini berarti bahwa pada tahap ini, Microsoft lebih cenderung menggunakan chip Maia untuk bisnis AI internal, bukan untuk menciptakan pendapatan langsung melalui penyewaan daya komputasi. Bagi investor, nilai bisnis Maia akan lebih bergantung pada kemampuannya untuk meningkatkan efisiensi operasional layanan AI, menurunkan biaya inferensi, dan pada akhirnya meningkatkan margin keuntungan terkait, bukan pada seberapa besar pendapatan langsung yang dihasilkan dari bisnis penyewaan chip.