Amazon Web Services, raksasa komputasi awan yang menjadi tulang belakang sebahagian besar internet, sedang melakukan sesuatu yang kelihatan hampir kuno bagi syarikat bernilai trilion dolar: meminta jurutera mereka mematikan komputer yang tidak digunakan.
Arahan ini menargetkan contoh EC2 yang tidak digunakan, server maya yang membentuk tulang belakang infrastruktur awan AWS. Dengan beban kerja AI yang menghabiskan kapasiti GPU pada kadar yang semakin cepat, penyedia awan terbesar di dunia sekalipun merasa tekanan.
Skala masalah sisa
Nombor-nombor itu menggambarkan ketidakefisienan yang menakjubkan. Secara kasar, 65% contoh EC2 mempertahankan penggunaan CPU purata di bawah 20% dalam jendela pengukuran 30 hari.
Alat Compute Optimizer AWS telah ditingkatkan untuk mengesan pelayan hantu ini. Ia kini menganalisis penggunaan CPU dan I/O rangkaian dalam tempoh 14 hari, dan menandakan contoh di mana CPU puncak kekal di bawah 5% dan trafik rangkaian adalah hampir tiada.
CEO Amazon, Andy Jassy, mengungkapkan bahawa AWS menambah kapasiti kuasa lebih daripada 3.8 gigawatt pada tahun lepas. Sebagai konteks, itu cukup untuk menyalakan kira-kira 2.8 juta rumah. Syarikat merancang untuk menggandakan kapasitinya pada 2027.
Permintaan AI menghancurkan ekonomi
Tekanan kapasiti mempunyai pendorong yang jelas: kecerdasan buatan. Contoh yang dipercepat dengan GPU, jentera utama di sebalik pelatihan dan menjalankan model bahasa besar, telah menjadi sumber yang paling langka dalam pengkomputeran awan.
Tekanan permintaan ini telah muncul secara langsung dalam penentuan harga. Blok Kapasiti EC2 untuk pembelajaran mesin mengalami kenaikan harga sekitar 15% pada Januari, diikuti oleh kenaikan lagi sebanyak kira-kira 20% pada Julai. Dua kenaikan harga dalam enam bulan untuk perkhidmatan yang sama mencerminkan ketidakseimbangan penawaran-permintaan.
Kekurangan GPU yang berterusan dilaporkan telah mendorong beberapa pelanggan AWS untuk mempertimbangkan pemindahan operasi ke penyedia awan pesaing.
Apa yang bermaksud ini untuk pasaran awan
Untuk perniagaan yang menjalankan beban kerja di AWS, pergerakan harga patut dipantau dengan teliti. Dua kenaikan harga yang signifikan pada blok kapasiti ML dalam masa setahun sahaja menunjukkan bahawa syarikat yang sangat bergantung kepada pemprosesan AI berasaskan awan perlu merancang bajet bagi peningkatan kos yang berterusan.
Angka 65% penggunaan tidak mencukupi bukan hanya masalah AWS. Ia mencerminkan kebiasaan sejagat industri dalam menyediakan sumber daya berlebihan kerana memulakan contoh baru selalu lebih mudah daripada menyesuaikan saiz contoh yang sedia ada.
Rancangan Amazon untuk menggandakan kapasiti pusat data nya pada 2027 mewakili salah satu pembinaan infrastruktur terbesar dalam sejarah korporat. Tetapi antara kini dan masa itu, syarikat itu nampaknya mengambil pendekatan berhati-hati: membina lebih banyak kapasiti sambil secara serentak memaksimakan kegunaan daripada apa yang sudah ada.