OpenAI, daha yüksek model yanıt hızı vurgusuyla Ultrafast adlı yeni bir model duyurdu. Şirket, bu modun GPT 5.6 Sol'un standart işleme hızının 14 katı hızda çalıştırılmasını sağladığını ve çıktı hızının saniyede en fazla 750 token olabileceğini belirtti; şu anda bu özellik yalnızca sınırlı sayıda müşteriye ön izleme olarak sunuluyor.
Bu güncelleme, işletmelerin gerçek zamanlı AI işleme ihtiyaçlarına odaklanmaktadır. OpenAI, geçmişte daha gerçek zamanlı yanıtlar elde etmek için genellikle daha küçük modellere geçmek veya belirli görevler için optimize edilmiş sistemleri seçmek gerekiyordu. Ultrafast’ın amacı, yalnızca küçük modellere bağlı kalmadan, birim zamanda tamamlanabilecek etkili iş miktarını artırmaktır.
Çıkış hızı artırıldı
OpenAI'ye göre, Ultrafast'in temel avantajı, oluşturulma bekleme süresini önemli ölçüde kısaltmaktır.
- Maksimum çıktı hızı saniyede 750 token'dir.
- İşlem hızı, standart modun yaklaşık 14 katıdır.
- Geçerli sürüm hâlâ önizleme aşamasındadır
TechCrunch, Anthropic gibi rakiplerin daha önce hızlandırma modu sunduğunu belirtti. Claude örneğinde, ürün aynı hızlı modu sunuyor, ancak OpenAI'nin bu sefer açıkladığı hız göstergeleri daha yüksek.
Kurumsal iş akışları için
OpenAI, Ultrafast'ı çeşitli kurumsal görevler için kullanmayı hedefliyor; bunlar arasında olay yanıtı, müşteri hizmetleri ve desteği, finansal piyasa analizi ve e-ticaret gibi alanlar öne çıkıyor. Bu senaryolar genellikle gecikmeye daha duyarlıdır ve modelin yanıt süresi, insan işbirliği verimliliğini ve otomasyon süreçlerinin performansını doğrudan etkiler.
Ürün pozisyonuna göre, Ultrafast, GPT 5.6 Sol etrafında sağlanan bir yüksek hızlı çalışma şeklidir ve kurumsal müşteriler için, güçlü model yeteneklerini korurken AI'yi daha doğrudan gerçek zamanlı iş süreçlerine entegre etme imkanı sunar.
Cerebras tarafından desteklenmektedir
OpenAI, Ultrafast'ın chip şirketi Cerebras ile yaptığı iş birliğiyle desteklendiğini açıkladı. İlk önizleme erişimleri şu anda yalnızca küçük bir grup müşteriye açıktır ve hesaplama kapasitesi arttıkça erişim kapsamı genişletilecektir.
Bu, büyük modeller arasındaki rekabetin parametre ve yetenek yarışından yanıtlama hızı, dağıtım verimliliği ve temel hesaplama kaynaklarının koordinasyonuna kadar genişlediğini gösteriyor. Kurumsal pazar için tasarlanmış AI ürünlerinde, hız artık model kalitesiyle eşit öneme sahip bir kritik göstergedir.