Yapay zeka endüstrisi bir dönüm noktasına yaklaşmak üzeredir. Yapay zeka trendlerini izleyen bir kar amacı gütmeyen kuruluş olan Epoch AI'ye göre, 2030 yılına kadar yapay zeka modellerini çalıştırmak için ayrılan hesaplama gücü, bu modelleri oluşturmak için kullanılan hesaplama gücünden daha hızlı büyüyecek.
Vardiyanın arkasındaki sayılar
Epoch AI'nin projeksiyonları, dağıtım ekonomisinin geliştirme ekonomisini giderek baskı altına alacağı bir endüstri resmi çizer. Kuruluş, on yıl sonuna kadar tüm çıkarım hesaplama işleminin neredeyse yarısının ASIC'lere, yani Uygulama Özgü Integrated Devrelerine geçeceğini tahmin ediyor. Bu çipler, şu anda çoğu yapay zeka iş yükünü çalıştıran genel amaçlı GPU'ların aksine, bir şeyi çok iyi yapmak için tasarlanmıştır.
Bu arada, toplam AI operasyonlarındaki eğitim hesaplama payının yaklaşık %5 seviyesinde sabit kalması bekleniyor. Sınır ötesi AI modelleri için eğitim hesaplama şu anda yıllık %4-5 oranında büyüyor. Toplam kurulmuş AI hesaplama tabanı benzer bir hızda genişliyor.
Tarihsel olarak, çıkarım, gerçek uygulamalarda zaten hesaplamanın %60 ile %80'ini temsil etmiştir.
2030 yılına kadar öncü eğitim çalıştırmalarının yaklaşık 2e29 FLOP'a ulaşması bekleniyor. Bu ilerleme, 100 milyar doların üzerinde kaynakla desteklenen GPT-2'den GPT-4'e yapılan atlama ile karşılaştırılabilir. Bu öncü eğitim çalıştırmalarının her biri, 4 ile 16 gigavat arasında hesaplama gücü gerektirebilir.
Epoch AI projelerine göre, ABD'deki toplam AI gücü kapasitesi 2030 yılına kadar 50 GW'ı aşabilir ve küresel kapasite 100 GW'ı geçebilir.
Neden ASIC'ler çıkarımı yiyor
Google, Tensor İşlem Birimleri ile bunu yıllar önce çözdü. Amazon, Inferentia çiplerine sahip. Epoch AI'nın öngördüğü trend, bunun dar bir strateji olmadığını, aksine on yıl sonunda tahmini olarak inference pazarının yaklaşık yarısının izleyeceği yönü gösteriyor.
Bu büyüme yolundaki kısıtlamalar önemsiz değildir. Enerji talebi, çip üretim kapasitesi ve veri transferi sınırlamaları gerçek zorluklar oluşturmaktadır. Epoch AI, bu darboğazların mevcut büyüme varsayımları altında yönetilebilir olduğuna dair değerlendirme yapmaktadır.
Bu, yatırımcılar için ne anlama geliyor
Eğer çıkarım hesaplama, büyümeyi yönlendiren alan ise, yarı iletken sektörü için yatırım tezleri anlamlı bir şekilde değişiyor. Eğitim hâlâ GPU’lar gerektiriyor ve eğitim bütçeleri hâlâ yıllık olarak 4 ila 5 kat oranında büyüyor. Ancak daha yüksek hacimli, tekrarlayan gelir fırsatı giderek çıkarımda yer alıyor.
ABD'de yalnızca 50 GW AI gücü kapasitesinden bahsedildiğinde, bu, veri merkezlerinin, enerji üretiminin ve soğutma sistemlerinin büyük ölçekli bir kurulumudur.
Dikkat edilmesi gereken risk, hesaplama alanında yıllık 4 ila 5 kat büyüme oranının sürdürülebilirliği. Epoch AI'nın projeksiyonları mevcut eğilimlerin devam ettiğini varsayar, ancak enerji kısıtlamaları ve jeopolitik çip tedarik dinamikleri tümüyle sürtünmeye neden olabilir.