Bugün eski马的 süper araba sahnesinden yararlanarak, önceki iki gün önce bıraktığım boşlukları dolduruyorum: Jev, Strata ve Atlas — son zamanlarda AI dünyasında ilginç bulduğum üç şey. Teknik detaylara girmeden, bu üç şeyi bir film sahnesiyle birleştirip anlatıyorum; ilgilenenler kendi kendilerine AI’ya sorabilir veya araştırmalarını yapabilir. Bu sahne ne? — Terminator! T-800’un 1984’e gönderildiğini hayal edin; görevi Sarah Connor’ı bulup öldürmek! Bu durumda T-800’un şu üç temel işlevi olmalı: uzay anlamak, anlık karar vermek, internete bağlı olmaksızın düşünmek (1984’te tıpkı SkyNet gibi bir şey yoktu). İşte bu üç işlev tam olarak Atlas, Jev ve Strata ile örtüşüyor. 1. Önce Li Feifei Profesör’ün Atlas’ını anlatayım — Uzayı Anlamak Schwarzenegger (T-800) bir odaya girer, bir bakışla kapının arkasında, masanın altında ne olduğunu anlar. Atlas şu anda tam olarak bunu yapıyor: birkaç fotoğraf verildiğinde, farklı bir açıdan nasıl görüneceğini tahmin ediyor. LLM bir sonraki kelimeyi tahmin eder. Video modelleri (örneğin Seedance) zaman ekseni boyunca görüntüleri üretir. Atlas ise yeni bir bakış açısı tahmin eder. Şu anda birçok video modeli kendisine “dünya modeli” diyor; Li Feifei birkaç ay önce bunları sınıflandırdı: render, simülatör, planlayıcı. Simülatör render’a dönüşebilir; ancak planlayıcı güçlü bir simülatöre dayanmalıdır. T-800 bir bakışla odanın içinde ne olduğunu bilir — bu simülatördür. Aşağı atlandığında ne olacağını hesaplamak, mermilerin nereye çarpacağını hesaplamak da simülatördür. Kaçmak, takip etmek ya da arabayla çarpmak gibi eylemleri seçmek büyük olasılıkla planlayıcı gerektirir; render ise neredeyse kullanılmaz. Atlas’ın hedefi en güçlü simülatörü oluşturmak ve gelecekte planlayıcıya yükseltmek. Yol haritası şöyle: Statik 3D uzay (şu an) → Dinamik (4D) → Düzenlenebilir → Etkileşimli → Simülatör = Planlayıcı (son hedef) Bu uzun yolun sadece ilk adımını attık; ancak Terminator’u gerçekleştirmek için bu gerekli — yalnızca LLM yeterli değil. 2. Sonra Jev — Anlık Karar Verme O sahneyi hatırlıyor musunuz? T-800 otel odasında görevli tarafından kapı çalındığında, görüş alanına doğrudan birkaç cevap seçeneği çıkar; birini seçip hemen cevap veriyor, hiçbir zaman dilim oluşturmadan. (Hatırlıyorum ki en kaba olanı seçmişti…) İşte Jev tam olarak bu: LLM’in bir metin üretmesine gerek yok, COT (Chain-of-Thought) düşünmesine de gerek yok — sadece verilen seçeneklerden birini seçip ne kadar emin olduğunu söylüyor. TypeSafe’in Jev’i tam olarak böyle çalışıyor: metin üretmiyor, sadece verilen seçeneklerden birini seçiyor ve kalibre edilmiş olasılıkları veriyor. Bir cevap 0.97 → Hemen gönder. En yüksek 0.60 ise → Hemen gönderme, daha yavaş ama daha akıllı büyük modele sor. TypeSafe’in gösterim videosunda bir faturanın sahte olup olmadığına karar veriliyor; geleneksel LLM 8 saniye sürüyor, Jev ise sadece 0.1 saniye. Hızlı çünkü sadece çoktan seçmeli yapıyor, metin üretmiyor; hassasiyeti ise sihirli bir teknoloji olan RLCD — Calibrated Decisions için Güçlendirilmiş Öğrenme — sayesinde. Mimari henüz açık değil; ancak muhtemelen hâlâ Transformer tabanlı ama üretim aşamasını tamamen kaldırdı. LLM’nin belirli bağlamdaki ASIC versiyonu olarak düşünülebilir: sohbet edemez, kod yazamaz, yalnızca yüksek frekanslı kararlar alır; geleneksel LLM’in birçok adımını tek bir doğru/yanlış ya da çoktan seçmeli soruya sıkıştırır — hız ve maliyet açısından bir ila iki sıralık fark var. Daniel Kahneman’in ünlü kitabı “Düşünmek Hızlı ve Yavaş”taki Sistem I’ye çok benziyor; geleneksel LLM Sistem II gibi. Herhalde T-800 şu anki LLM’in karar verme hızıyla filmdeki herhangi bir görevi tamamlayamazdı — salyangoz gibi hareket ederdi (neden aniden “Crazy Rich Asians”daki闪电’ı düşündüm…)? İşte bu noktada Jev ortaya çıkıyor — Terminator’un ikinci parçası tamamlandı. 3. Son parça — Strata — Yerelde Büyük Model Çalıştırma 1984’te internet vardı ama çok yavaştı, ikincisi sadece askeri ve akademik kurumlarda vardı; ayrıca bulutta SkyNet gibi bir şey yoktu! T-800’un zihnine yerel bir model yüklemek zorundaydı. Strata, 12GB VRAM + 64GB RAM’li tüketici seviyesi bir GPU’da 125 milyar parametreli Qwen3.8-Flash-Next modelini çalıştırmayı mümkün kılıyor. Sihirli teknoloji şu: önce parametreleri 16-bit’ten 2–3 bite sıkıştırarak boyutu birkaç kat azaltıyor; sonra sık kullanılan %20 uzman (kopyaları) VRAM’e atıyor, tüm uzmanları 64GB RAM’e atıyor; son olarak 30GB’lık büyük bir arama tablosu (eğitim sırasında hızlı erişim rehberi) SSD’ye atıyor. Tamamen çevrimdışı, veri gizliliği sağlıyor; tabii sıkıştırma nedeniyle performans düşüyor ve uzun belgeleri okumak yavaş ama高端 oyun konsollarında yüz milyarlarca parametreli model çalıştırılıyor — bu tamamen sıfırdan bir şey yaratmak demek. T-800’un içindeki GPU, RAM ve CPU parametreleri belli değil ama Strata, sınırlı donanım ortamında daha büyük parametreli MOE tabanlı modelleri çalıştırmayı sağlıyor (şu anda yalnızca Qwen modelini destekliyor ancak bu yaklaşım MoE modelleri için genel geçerli). Böyle bakınca, SkyNet ve Terminator çağına giderek yaklaşıyoruz gibi görünüyor! @drfeifei @theworldlabs @typesafeai P.S - Kimse Roadster’ı 2028’de bana deneyimlemek için alır mı? Lütfen!
