Platform cloud Microsoft Azure baru saja mencatat hasil pelatihan AI tercepat pada skala terbesar yang dilaporkan, didukung oleh kolaborasi yang diperdalam dengan Nvidia. Prestasi ini, diumumkan pada 18 Maret 2025, berfokus pada kinerja rekor dalam benchmark MLPerf Training v4.1, standar independen yang secara luas diakui untuk mengukur kinerja perangkat keras pembelajaran mesin.
Konfigurasi di balik hasil tersebut: 512 GPU Nvidia H200 yang bekerja secara sinergis, memberikan peningkatan kinerja 28% dibandingkan setup sebelumnya yang dibangun berdasarkan GPU H100.
Apa yang sebenarnya ditunjukkan oleh tolok ukur tersebut
Dalam benchmark tahun 2023 sebelumnya, Azure menunjukkan bahwa ia dapat melatih model GPT-3 dengan 175 miliar parameter pada 10.752 GPU H100 dalam waktu sekitar 4 menit. Konfigurasi berbasis H200 yang baru membangun fondasi tersebut dengan kinerja per-GPU yang jauh lebih baik, sehingga mengurangi jumlah perangkat keras yang dibutuhkan untuk mencapai kecepatan pelatihan yang sebanding.
Stack penuh di balik hasil ini melampaui sekadar mengganti GPU dengan yang lebih baru. Microsoft menyebut inovasi terintegrasi di seluruh perangkat keras, jaringan, dan perangkat lunak. Pengaturan ini memanfaatkan jaringan Nvidia Quantum InfiniBand, yang menangani permintaan transfer data besar antar GPU selama pelatihan terdistribusi. Pengaturan ini juga menggabungkan mikroservis Nvidia bersama layanan AI Azure sendiri, termasuk platform AI Foundry-nya.
Siapa yang sudah menggunakannya dan apa yang akan datang selanjutnya
Black Forest Labs, perusahaan AI yang dikenal dengan model gambar generatifnya, sudah memanfaatkan mesin virtual GB200 baru dari Azure untuk proyek-proyeknya.
Jajaran GPU yang mendukung kemampuan ini mencakup beberapa generasi. Azure saat ini menawarkan konfigurasi yang dibangun di sekitar seri GPU H200, H100, dan GB200. Pada akhir 2025, Microsoft berencana untuk mengintegrasikan GPU Nvidia Blackwell Ultra, yang dirancang khusus untuk meningkatkan kinerja dalam beban kerja reasoning dan multimodal AI.