GitHub, AI ajantı iş akışlarından kaynaklanan hesaplama yüküne karşı Copilot bireysel sürümü için yeni aboneliklerin kabulünü durdurdu. Ürün vice presidenti Joe Binder, AI ajantlarının orijinal sistem tasarımının ötesinde uzun süreli ve yüksek eşzamanlı hesaplama gerektirdiğini belirtti. Mevcut kullanıcı hizmetlerinin kararlılığını korumak amacıyla GitHub, yeni kullanıcılar için sınırlamalar getirdi ve oturum sınırlamaları ile haftalık token limitleri uyguladı; yavaşça token tüketimine dayalı bir ücretlendirme modeline geçiş yapacak ve bazı üst düzey modellerin kullanım maliyetlerini kaldıracak ya da artıracaktır. Bu durum, mevcut AI altyapısının genel olarak kaynak darlığı ile karşı karşıya olduğunu göstermektedir; Anthropic, Google, OpenAI ve bulut sağlayıcıları AWS, Azure da benzer sınırlamalara başvurmuştur ve bu da büyük modellerin ölçekli uygulanması ile alt yapı hesaplama kapasitesi arasındaki yapısal çatışmayı ortaya koymaktadır.

Yazan: AIBase

Yapay zeka hesaplama kaynakları önceden görülmemiş bir baskı altında olduğu için, Microsoft'un sahibi olduğu GitHub, yeni Copilot bireysel aboneliklerini kabul etmeyi resmen durdurdu. Dünyanın en büyük kod barındırma platformu, bütçe ve hizmet taahhüdü arasında bir çekişme içinde.

GitHub ürün müdürü Joe Binder, AI ajanları tarafından yönetilen iş akışlarının hesaplama ihtiyaçlarını kökten değiştirdiğini belirtti. Bu, karmaşık görevleri kendi kendine gerçekleştirebilen "ajantlar", genellikle uzun süreli ve yüksek eşzamanlı hesaplama desteği gerektirir ve kaynak tüketimleri ilk tasarım beklentilerinin çok ötesindedir.

İşlem gücü eksikliği nedeniyle hizmet düzeyi düşürüldü

Mevcut kullanıcıların hizmet stabilitesini korumak amacıyla resmi kurumlar kısıtlamalar uygulamak zorunda kaldı. Yeni kullanıcıların büyümesi kısıtlanmazsa, tüm geliştiriciler hizmet kalitesinde büyük bir düşüşle karşı karşıya kalacaktır.

Aslında, bu hesaplama gücü kıtlığı, Anthropic, Google ve OpenAI gibi devlerin de kullanım kısıtlamalarını sıkılaştırdığı bir endüstri genelı sorun haline gelmiştir. Bulut hizmet sağlayıcılar da zorlanmaya devam ediyor; hatta AWS ve Azure gibi güçlü şirketler dahi yakın zamanda sıklıkla kapasite darboğazlarıyla karşılaştı.

Faturalama modeli dönüşümü ve hak ayarlamaları

Yüksek işletme maliyetlerine karşılık GitHub, kullanım kurallarını ayarlayarak daha katı oturum sınırlamaları ve haftalık token limitleri getirmeye başladı. Bu, geliştiricilerin tüketim tepe noktasına ulaştıktan sonra pencerenin sıfırlanmasını beklemesi gerektiği anlamına gelir.

Ayrıca, resmi plan, sabit ücret modelini yavaşça kaldırarak token tüketimine dayalı bir faturalama sistemine geçiş yapmayı hedefliyor. Maliyet azaltma planının bir parçası olarak, bazı maliyetli yüksek performanslı modeller abonelik kapsamından çıkarıldı veya daha yüksek kat sayılarla faturalandırılıyor.