AI Ajanı, CUDA Gibi Yazılımı 10 Saatte Kopyalıyor ve Tartışmalar Yarattı

CUDA yeniden yaratıldı...

Bu sefer harekete geçen, NVIDIA'nın kendi yetiştirdiği AI.

Yalnızca bir yıl önce kurulan küçük bir şirket, AI programlama Agent'ini kullanarak sadece 10 saatte bir "CUDA benzeri yazılım" geliştirdi.

Durdur, durdur, durdur.

NVIDIA'nın neredeyse 20 yılda inşa ettiği yazılım imparatorluğunu böylece kopyalandı mı?

Bunun dışında. DeepSeek Daha az CUDA alt yapısı yazmaya çalışıyorsunuz.

TileLang kullanılarak yazılmış, çok sayıda el ile yazılan alt seviye CUDA kodunu ortadan kaldıran TileKernels adlı bir GPU operatör kütüphanesini açık kaynak hale getirdiler.

Ancak benzer bir “CUDA krizi” bu sefer ilk kez değil.

Bazı aralıklarla CUDA, yerini aldı, aşılıp geçildi, koruma duvarı yeniden devrildi gibi suçlamalarla karşı karşıya kalıyor…

Gerçekten mi?

NVIDIA sözü duyulduğunda birçok kişinin ilk aklına GPU gelir.

H100, Blackwell, Rubin; nesiller halinde daha güçlü çiplerle NVIDIA, bu AI dalgasının en büyük kazanıcısı oldu.

Ancak NVIDIA'nın gerçekten güçlü olduğu nokta, donanım değil yazılımdır.

Çipler satın alınabilir, parametreler takip edilebilir, üretim süreci de ilerleyecektir. Müşterilerin NVIDIA’yı kullandıktan sonra değiştirmesi zor olan, GPU etrafında oluşturulan tam yazılım ekosistemidir.

Ancak CUDA, bu yazılım imparatorluğunun çekirdeğidir.

CUDA, tam adıyla Compute Unified Device Architecture, NVIDIA yöneticisi Ian Buck liderliğinde yaklaşık 20 yıl boyunca geliştirildi.

Genellikle bir programlama dili olarak adlandırılır, ancak daha doğru bir şekilde CUDA, NVIDIA GPU'ları etrafında kurulan bir tam yazılım platformudur.

Eğer basitçe üç katmana ayrılırsa, en alt katman, çipin doğrudan çalıştırılmasını sağlayan Kernel, derleyici ve çalışma zamanıdır.

Orta katman, cuBLAS, cuDNN gibi yüksek şekilde optimize edilmiş hesaplama kütüphaneleri ve hata ayıklama, doğrulama ve performans analizi araçlarıdır.

En üstte, PyTorch, TensorFlow gibi geliştirme çerçeveleri, şirketlerin biriktirdiği devasa kod ve iş akışları ile CUDA etrafında gelişen geliştirici ekosistemi yer alır.

△

Bu biraz soyut olabilir, ancak NVIDIA GPU'ları bir fabrika gibi düşünebilirsiniz.

CUDA, en alt katmanda makineye her adımı nasıl yapacağını söyler, orta katmanda hazır üretim araçları sağlar, en üst katmanda ise yıllardır çalışan tam bir üretim sistemi bulunur.

Bu nedenle müşteriler, yalnızca bir NVIDIA kartı değil, açıklayıp kullanmaya hazır bir fabrika satın alıyor.

Şimdi, Jeremy Nixon adlı biri AI Agent ile geldi.

Nixon, AI yazılım startup şirketi Infinity'ın kurucusudur ve daha önce Google Brain'te araştırmacı olarak çalışmıştır.

Takımı, farklı AI çipleri için alt düzey yazılımlar yazmak üzere bir AI araştırma Agentı olan Ignition'ı geliştirdi.

GPU çekirdeği oluşturabilir, testleri çalıştırabilir, hataları bulabilir, performansı ölçebilir ve sonuçlara göre kodu otomatik olarak yeniden yazabilir.

İnsan mühendisler, yüksek seviyeli yönlendirmeyi sağlar; kalan karmaşık ve zihinsel olarak yoğun işler, Agent'in tekrarlı döngüleriyle yapılır.

Bu şekilde, Infinity, AI çip startup şirketi d-Matrix için Ignition ile bir CUDA benzeri yazılım kurdu.

Sadece 10 saat harcandı.

Ah???

Daha önce chip yazılım mühendislerinin tekrar tekrar ayarlaması gereken alt seviye kodlar, şimdi gerçekten AI'ya bırakılabilir mi?

Gerçekten tamamen spekülasyon diyemeyiz.

AI Agent, net geri bildirim içeren bu tür programlama görevleri için gerçekten uygundur.

Kod derlenebilir mi, sonuç doğru mu, performans arttı mı, hepsi gerçek çalıştırma ile anlaşılabilir.

Bu nedenle, Ajan bir tam döngü oluşturabilir:

Kod yaz → Derle → Çalıştır → Doğruluk ve performansı test et → Geri bildirimlere göre düzenlemeye devam et

Ancak Infinity, CUDA'nın birinci katmanına odaklanıyor: farklı çipler için çıkarım Kernel'leri oluşturuyor ve optimize ediyor, bu Kernel'ler etrafında alt seviye yazılım yetenekleri kuruyor.

Çeşitli çipler için evrensel bir çıkarım kütüphanesi geliştiriyor, ancak bu, CUDA'nın yaklaşık 20 yıllık birikimini 10 saatte kopyalamak anlamına gelmez.

Ancak…

Ancak!

Bir CUDA kopyalamadan 15 milyon dolarlık finansmanı kazanabilirsiniz.

Şirketin şu anki değeri 100 milyon dolara ulaşmıştır.

NVIDIA'ya tehdit olup olmadığı belli değil, ancak sermaye oldukça satın alıyor. (doge)

Eğer AI Agent saldırı aracıysa, çıkarım pazarı kentin duvarındaki çatlaktır.

Büyük modellerin hesaplaması genellikle iki aşamaya ayrılır:

Eğitim, binlerce işlemci kartının birkaç ay boyunca birlikte çalışmasını gerektiren model oluşturmaktır; çıkarım, eğitilmiş modeli kullanarak sorulara cevap vermektir ve küçük bir küme veya hatta tek bir kartla yeterlidir.

Eğitim tarafında CUDA şu anda hâlâ neredeyse çözümsüz.

Büyük ölçekli eğitim, performans, istikrar ve küme koordinasyonuna son derece duyarlıdır. Çipler arasındaki iletişim, video belleğinin planlaması ve hata durumunda nasıl yeniden başlatılacağı gibi herhangi bir verim kaybı, binlerce hatta on binlerce çip üzerinde büyütüldüğünde gerçek zaman ve maliyetlere dönüşür.

Bu nedenle şirketler, eğitim platformu seçerken genellikle çok konservatif davranır.

Diğer çipler, yazılım yeterince olgun değilse veya kümeler yeterince kararlı değilse, tasarruf edilen donanım maliyetleri, geliştirme ve deneme-yanılma maliyetlerinden iki katına çıkarak geri ödenir.

Ancak çıkarım tarafında oyun kuralları değişti.

Güney Koreli AI çip şirketi Rebellions'un baş iş geliştirme görevlisi Marshall Choy şöyle düşünüyor:

Tahmin tarafında CUDA artık karar verici faktör değil. Bu, açık kaynak yazılımın bir rekabeti olacak.

Neden rakipler tüm dikkatini çıkarıma yöneltiyor?

Eğitim, "mükemmel performans"ı önemserken, çıkarım "her cevabın maliyetini" ön planda tutar.

Eğitim, binlerce işlemci birimiyle koordinasyon gerektirir; çıkarım, küçük kümelere veya tek bir işlemci birimine ayrılabilir; eğitimde çip değiştirmek risklidir, ancak çıkarımda değiştirebilirsiniz.

Ne kadar hızlı ve ucuzsa, müşteriler denemeye hazırdır.

Daha da önemlisi, çıkarım yazılımı farklı çipler üzerinde çalışabilir. Eğer çıkarım çerçevesi birden fazla çip destekliyorsa, kullanıcılar kodu yeniden yazmadan farklı donanımlar arasında geçiş yapabilir—

CUDA'nın en büyük kilitlenme etkisi burada sona erdi.

Bu, özel çıkarım çipleri için bir fırsat bırakır.

Tüketim görevlerinin tüm eğitimden küme işbirliğine kadar CUDA yeteneklerine gerek yoktur. Belirli modeller ve senaryolar için yeniden tasarlanmış çipler, daha hızlı, daha ucuz veya daha az enerji tüketiyorsa, NVIDIA'dan bir pazar payı kazanma şansına sahiptir.

Örneğin d-Matrix, kendi kendine çıkarım yapan çiplere odaklanan bir şirket tir.

Şirket 2019 yılında kurulmuş ve üreteç AI yorumlama çiplerine odaklanmıştır.

Ortak kurucu ve CEO Sid Sheth, erken dönemde AI çıkarımının fırsatlarının sonunda eğitimi geçeceğine karar verdiklerini hatırladı.

Infinity, AI Agent ile 10 saatte kurulan bu CUDA benzeri yazılım, d-Matrix'in çıkarım çiplerini hedef almaktadır.

Bu yüzden, "10 saatlik olay"ın tam hikayesi bir araya geliyor:

Yeni bir çip, çıkarım pazarına girmek istiyor ancak olgun bir yazılıma sahip değil; AI Agent, alt seviye Kernel’leri hızlıca oluşturup optimize ederek, aylar hatta yıllar sürebilecek uyumlaştırma işlerini saatlere veya günlere indiriyor.

Sid ayrıca açıkça şöyle dedi:

NVIDIA, eğitim alanında hakimiyetini korurken, çıkarım alanında güvence duvarı zayıflamıştır.

Bu boşluğu hedefleyenler sadece d-Matrix değil.

Rebellions, d-Matrix gibi çıkarımsal işleme odaklı; Cerebras gibi çip ölçekli; Amazon'un Inferentia'sı, Google'ın TPU'su, AMD'nin MI300X'i...

Çip üreticileri ve bulut hesaplama devleri, NVIDIA'dan bir parça pay almak için zaten çıkarım piyasasında pozisyon aldı.

Bu şirketler için NVIDIA'nın hemen yerini alması gerekmiyor.

Onlar, bazı akıl yürütme görevlerinde NVIDIA'nın tam donanım ve CUDA ekosistemine ihtiyaç duymadan daha hızlı veya daha ucuz çalıştırılabileceğini kanıtlamak zorunda.

Bu yeterli.

Cevap muhtemelen… henüz çok uzak.

Daha önce de belirtildiği gibi, 10 saatte yeniden yazılan, "bir çipin uyum kodudur"; ancak CUDA ekosisteminde 20 yıllık birikime sahip kütüphaneler, hata ayıklayıcı araçlar, topluluk ve milyonlarca geliştirici vardır.

Bu kolayca devrilemez.

Daha da önemlisi, kodun oluşturulabilmesi, kullanılabilir olduğu anlamına gelmez.

INT21 kurucusu Bing Xu, önceki AI çip yazılım şirketi HippoML'yi NVIDIA satın aldı ve o, bu yıl Nisan ayına kadar NVIDIA'da kaldı.

Onun kararı şuydu: Agent, kısa sürede büyük miktarda kod üretebilir, ancak doğrulama en büyük darboğazdır.

Yapay zeka, on bin satır kodu hızlıca oluşturabilir, ancak bu on bin satırın çeşitli sınır durumlarında doğru hesaplamalar yapmasını ve kararlı bir şekilde çalışmasını kanıtlamak çok yavaştır.

CUDA'nın en derin varlığı, doğrulama araç zinciridir—bu nedenle, Agent neslinde doğrulama ekosistemi, CUDA'nın bir sonraki koruma duvarı olacaktır.

Modular'un kurucu ortağı ve CEO'su Chris Lattner de bir su soğuttu.

O, kodlama Agent'in getirdiği iyileştirmelerin kademeli olduğunu, "halka açık konuşmaların ciddi şekilde abartıldığını" düşünüyor.

Üç neden var: Birincisi, kod yazmak yazılım mühendisliğinin sadece küçük bir parçasıdır; üretim seviyesindeki optimizasyonlar, çip performansını ve dolayısıyla AI çalıştırmak için doğrudan maliyeti belirler;

İkinci olarak, çip yazılımı küçük bir elit alandır ve uygulama geliştirme ile karşılaştırıldığında açık kaynak kodlar çok daha azdır; AI için bu alanda öğrenilebilecek eğitim verileri zaten azdır;

Üçüncü olarak, milyonlarca satır mevcut kodun taşınma maliyeti hâlâ devam etmektedir; bu, teknik bir sorun değil, organizasyonel bir karardır.

Dikkat edilmesi kolayca unutulan bir nokta: NVIDIA kendi kendini de AI kullanıyor.

NVIDIA Geliştirici Ekosistemi Başkan Yardımcısı Ankit Patel, şunu söyledi:

Ayrıca, CUDA'yı daha hızlı geliştirmek ve daha büyük ölçeklerde doğrulamak için AI Agent kullanıyoruz.

Kendi mızığınızla karşı tarafın kalkanını saldırırsanız, saldırganın göreceli avantajı azalır.

Bing Xu'un özetlemesine göre, bu savaşın sonucu, rakiplerin NVIDIA'yı ne kadar hızlı yakalayabileceğine ve NVIDIA'nın kendi kendini yenileme hızından daha hızlı olup olamayacağına bağlıdır.

Ancak açıkça görülüyor ki, dünyanın en büyük çip üreticisi, "uyumuyor ya da yerinde dönüyor" değil.

Genel olarak, kısa vadeli olarak NVIDIA'nın koruma duvarı güvenli olsa da, değişiklikler öncelikle çıkarım tarafında sessizce başlayacaktır.

Uzun vadeli gerçek gizem şudur: koruma duvarı, "kodun stokundan" "doğrulama ve optimizasyon ekosistemine" taşınmaktadır.

Yeni pozisyonu ilk kapatan, bir sonraki kazanan olur.

Referans bağlantısı: [1]https://www.businessinsider.com/nvidia-cuda-new-threats-ai-coding-agents-2026-8

Bu yazı, WeChat hesabından "Quantum Bit" tarafından yazılmıştır, yazar: Ting Yu