Amazon Web Services, công ty khổng lồ về điện toán đám mây hỗ trợ một phần đáng kinh ngạc của internet, đang thực hiện một việc nghe có vẻ hơi cổ điển đối với một công ty trị giá nghìn tỷ đô la: yêu cầu các kỹ sư của mình tắt các máy tính mà họ không sử dụng.
Chỉ thị nhắm vào các instance EC2 không hoạt động, những máy chủ ảo tạo nên nền tảng cốt lõi của hạ tầng đám mây AWS. Với các tải công việc AI tiêu thụ dung lượng GPU với tốc độ ngày càng tăng, ngay cả nhà cung cấp đám mây lớn nhất thế giới cũng đang cảm nhận được áp lực.
Quy mô của vấn đề rác thải
Con số này cho thấy một mức độ kém hiệu quả đáng kinh ngạc. Khoảng 65% các instance EC2 duy trì mức sử dụng CPU trung bình dưới 20% trong các khoảng thời gian đo lường 30 ngày.
Công cụ Compute Optimizer của AWS đã được nâng cấp để phát hiện những máy chủ ảo này. Hiện tại, nó phân tích việc sử dụng CPU và lưu lượng mạng trong các khoảng thời gian xem lại 14 ngày, đánh dấu các trường hợp CPU đỉnh duy trì dưới 5% và lưu lượng mạng không đáng kể.
CEO Amazon Andy Jassy tiết lộ rằng AWS đã tăng thêm hơn 3,8 gigawatt công suất điện trong năm trước. Để so sánh, điều này đủ điện để cung cấp cho khoảng 2,8 triệu hộ gia đình. Công ty dự định doubling công suất của mình vào năm 2027.
Nhu cầu về AI đang phá vỡ kinh tế
Sự khan hiếm năng lực có một nguyên nhân rõ ràng: trí tuệ nhân tạo. Các phiên bản được tăng tốc bằng GPU, những công cụ chủ chốt trong việc huấn luyện và chạy các mô hình ngôn ngữ lớn, đã trở thành nguồn tài nguyên khan hiếm nhất trong điện toán đám mây.
Áp lực nhu cầu này đã thể hiện trực tiếp qua giá cả. Các khối dung lượng EC2 dành cho học máy đã tăng giá khoảng 15% vào tháng Một, tiếp theo là đợt tăng thêm khoảng 20% vào tháng Bảy. Hai lần tăng giá trong sáu tháng đối với cùng một dịch vụ phản ánh sự mất cân bằng cung - cầu.
Sự thiếu hụt GPU kéo dài được cho là đã khiến một số khách hàng AWS xem xét chuyển hoạt động sang các nhà cung cấp đám mây đối thủ.
Điều này có nghĩa gì đối với thị trường đám mây
Đối với các doanh nghiệp đang chạy các tác vụ trên AWS, xu hướng giá cả đáng được theo dõi sát sao. Hai đợt tăng giá đáng kể đối với các khối năng lực ML trong cùng một năm cho thấy các công ty phụ thuộc nặng vào xử lý AI dựa trên đám mây nên lên kế hoạch ngân sách cho việc tăng chi phí liên tục.
Con số 65% sử dụng không hiệu quả không chỉ là vấn đề của AWS. Nó phản ánh thói quen toàn ngành trong việc cấp phát quá nhiều tài nguyên, vì việc khởi chạy một instance mới luôn dễ hơn việc điều chỉnh kích thước cho instance hiện có.
Kế hoạch của Amazon nhằm nhân đôi dung lượng trung tâm dữ liệu của mình đến năm 2027 là một trong những dự án cơ sở hạ tầng lớn nhất trong lịch sử doanh nghiệp. Nhưng giữa lúc này và thời điểm đó, công ty dường như đang áp dụng cách tiếp cận kép: xây dựng thêm năng lực trong khi đồng thời khai thác tối đa hiệu suất từ những gì đã có.