Amazon Web Services, internetin şaşırtıcı bir kısmını çalıştıran bulut bilişim devi, milyarlarca dolarlık bir şirket için neredeyse eski kalabalık bir şey yapıyor: Kullanmadıkları bilgisayarları kapatmalarını mühendislerine istiyor.
Direktif, AWS'nin bulut altyapısının temelini oluşturan boşta kalan EC2 örneklerini hedef alıyor. Yapay zeka iş yüklerinin GPU kapasitesini hızla tüketmesiyle, dünyanın en büyük bulut sağlayıcısı bile baskı altında kalıyor.
Çöp sorununun ölçeği
Sayılar şaşırtıcı düzeyde verimsizliği ortaya koyuyor. EC2 örneklerinin yaklaşık %65'i, 30 günlük ölçümler sırasında ortalama CPU kullanım oranını %20'nin altında tutuyor.
AWS'nin Compute Optimizer aracısı, bu ruh sunucularını tespit etmek için güncellendi. Şimdi 14 günlük geriye dönük dönemler boyunca CPU kullanımını ve ağ G/Ç'sini analiz ederek, zirve CPU'nun %5'in altında kaldığı ve ağ trafiğinin önemsiz olduğu örnekleri işaretliyor.
Amazon CEO Andy Jassy, AWS'nin geçen yıl 3,8 gigavatlık güç kapasitesi eklediğini açıkladı. Bu, yaklaşık 2,8 milyon evi çalıştırmak için yeterli elektrik demektir. Şirket, 2027 yılına kadar kapasitesini iki katına çıkarmayı planlıyor.
AI talebi ekonomiyi bozuyor
Kapasite darlığı için açık bir neden var: yapay zeka. GPU hızlandırılmış örnekler, büyük dil modellerinin eğitimi ve çalıştırılmasının arkasındaki temel unsurlar, bulut bilişimde en az kaynak haline gelmiştir.
Bu talep baskısı, doğrudan fiyatlamada ortaya çıktı. Makine öğrenimi için EC2 Kapasite Blokları, Ocak'ta yaklaşık %15 fiyat artışı yaşadı ve Temmuz'a kadar yaklaşık %20 daha bir artış daha kaydedildi. Aynı hizmet için altı ay içinde iki fiyat artışı, arz-talep dengesizliğini yansıtmaktadır.
Sürekli GPU eksikliği, bazı AWS müşterilerinin operasyonlarını rekabetçi bulut sağlayıcılara taşımayı düşünmesine neden olmuştur.
Bu, bulut pazarı için ne anlama geliyor
AWS üzerinde iş yükleri çalıştıran işletmeler için fiyat eğilimi dikkatle izlenmelidir. Tek bir yıl içinde ML kapasite bloklarında iki önemli fiyat artışı, bulut tabanlı AI işleme üzerinde yoğun şekilde bağımlı olan şirketlerin maliyetlerin artmaya devam etmesi için bütçe planlaması yapması gerektiğini göstermektedir.
%65 altta kullanılmama oranı sadece bir AWS sorunu değil. Yeni bir örnek başlatmak, mevcut bir örneği doğru boyuta ayarlamaktan her zaman daha kolay olduğu için, endüstride genel olarak kaynakların aşırı tahsis edilmesi alışkanlıklarını yansıtmaktadır.
Amazon’ın 2027 yılına kadar veri merkezi kapasitesini iki katına çıkarma planı, kurumsal tarihin en büyük altyapı projelerinden birini temsil ediyor. Ancak şu anda ve o zamana kadar şirket, mevcut olanlardan daha fazla fayda sağlarken aynı zamanda daha fazla kapasite inşa etmek için çift güvenlik yaklaşımını benimsemiş görünüyor.