Palantir CEO Alex Karp, son zamanlarda Silicon Valley'de popüler hale gelen "tokenmaxxing" fikrini açıkça eleştirerek, şirketlerin AI kullanımını sürekli artırmanın gerçek bir iş değeri yaratmak anlamına gelmediğini belirtti. Palantir AIP Con 10 sırasında yaptığı röportajda, pazarın "AI gerçekten var mı?" tartışmasından, "AI gerçekten etkili, ancak birçok senaryo beklendiği gibi çalışmıyor" yönüne geçtiğini ifade etti.
Tüketim yoğun kullanım yönünde itirazlar var
Token, büyük dil modellerinin metin işleme sırasında kullandığı temel ölçü birimidir ve AI hizmet sağlayıcıları genellikle token tüketimine göre ücretlendirir. Geçtiğimiz birkaç haftadır, Silicon Valley'deki bazı profesyoneller, AI agent'ların gelişim hızını yakalamak için AI kullanımını neredeyse sınırsız şekilde genişleten "tokenmaxxing" kültürünü yeniden değerlendirmeye başladı.
Karp'ın görüşü, daha fazla token'in genellikle daha yüksek değerli sonuçlar yerine daha fazla düşük kaliteli çıktı anlamına geldiğidir. Palantir'in baş teknoloji görevlisi Shyam Sankar, geçen ay finansal rapor telefon görüşmesinde, şirketin içsel olarak "no slop zone" vurgusunu yaparak, ucuz modellerin çağrısını değer olarak görmeyi reddettiğini ifade etti.
Palantir, model yığınları yerine sistemlere vurgu yapıyor.
Sankar, daha ucuz bir AI'nın otomatik olarak daha yüksek getiri sağlamayacağını, şirketlerin hala model yeteneklerini gerçek iş ortamlarıyla bağlayan Palantir AIP gibi sistemlere ihtiyaç duyacağını ve yanlış çıktıların ekonomik kayıplara yol açmasını önlemek gerektiğini belirtti.
Karp, en son röportajında, modelin genel bir içerik üretmesinin zor olmasının değil, AI'yı sürekli çalışan iş süreçlerine entegre etmenin gerçekten zor olduğunu belirtti. Örneğin, Çin'in GSYİH büyümesi hakkında bir rapor yazmak büyük modeller için iyi bir şekilde tamamlanabilir; ancak petrol ve doğalgaz kazımı, tedarik zinciri ayarlaması, savunma sanayii üretimi veya otomobil üretimi gibi karmaşık görevlerde AI, doğrudan süreçleri değiştiremez.
Karmaşık işlemler hâlâ sürdürülmelidir
O, bu tür sorunların genellikle maliyet, uyumluluk, etik ve yürütme detaylarını aynı anda içerdiğini ve hassas ve sürekli bir işlem sürecine ihtiyaç duyduğunu düşünüyor. Büyük modeller bu süreçleri güçlendirebilir, ancak doğrudan yerlerini alamaz.
Karp, endüstrinin artık AI yeteneklerinin doğrulandığını fark etmeye başladığını, ancak şirketlerin bunu gerçek ticari sonuçlara dönüştürmek için anahtarın model kullanımını sonsuza kadar artırmak değil, hangi iş sorununu çözmek istediğini ve modeli uygulanabilir sistemlere nasıl entegre edeceğini net bir şekilde bilmek olduğunu belirtti.