Postingan
avatar

Memanfaatkan momen mobil gila Pak Ma hari ini, saya akan mengisi lubang yang baru saja saya gali dua hari lalu—tentang Jev, Strata, dan Atlas, tiga hal menarik di dunia AI belakangan ini. Saya akan menyatukan ketiganya lewat satu adegan film—Terminator! Bayangkan T-800 dikirim kembali ke tahun 1984, dengan misi: menemukan dan membunuh Sarah Connor! Untuk itu, ia membutuhkan tiga fungsi dasar: memahami ruang, membuat keputusan instan, dan berpikir tanpa koneksi internet (tahun 1984 belum ada SkyNet untuk terhubung). Ternyata, ketiganya secara tepat sesuai dengan Atlas, Jev, dan Strata. 1. Pertama, Atlas dari Prof. Li Fei-Fei — Memahami Ruang Saat Schwarzenegger (T-800) masuk ke sebuah ruangan, ia hanya perlu sekilas melihat untuk langsung tahu apa yang ada di balik pintu atau di bawah meja. Itulah yang dilakukan Atlas saat ini: dari beberapa gambar, ia memprediksi seperti apa pemandangan dari sudut pandang baru. LLM memprediksi kata berikutnya. Model video (seperti Seedance) menghasilkan frame sepanjang sumbu waktu. Atlas memprediksi sudut pandang baru. Saat ini banyak model video menyebut diri mereka “world models.” Beberapa bulan lalu, Li Fei-Fei mengklasifikasikannya menjadi tiga: renderer, simulator, planner. Simulator bisa diubah menjadi renderer, tapi planner harus berbasis simulator yang kuat. T-800 yang sekilas tahu isi ruangan — itu simulator. Menghitung apa yang terjadi jika melompat atau ke mana peluru akan mengenai — juga simulator. Memilih untuk mengejar, bersembunyi, atau menabrak mobil — kemungkinan besar butuh planner. Renderer hampir tidak digunakan. Tujuan Atlas adalah menjadi simulator terkuat, lalu nantinya berkembang menjadi planner. Peta jalan mereka seperti ini: Ruang 3D statis (saat ini) → dinamis (4D) → dapat diedit → dapat diinteraksi → simulator sebagai planner (akhirnya) Perjalanan panjang baru saja memulai langkah pertama, tapi untuk menciptakan Terminator, ini mutlak diperlukan — LLM murni tidak cukup. 2. Lalu ada Jev — Keputusan Instan Ingat adegan itu? T-800 di motel, petugas mengetuk pintu. Di pandangannya langsung muncul serangkaian opsi jawaban, ia pilih satu dan langsung balas — tanpa menyusun kalimat sama sekali. (Saya ingat dia pilih yang paling kasar…) Itulah Jev: tidak perlu LLM menghasilkan teks panjang, tidak perlu berpikir melalui chain-of-thought. Hanya memilih dari opsi yang tersedia, lalu memberi tingkat kepercayaan. Jev TypeSafe bekerja seperti ini: tidak menghasilkan teks, hanya memilih dari opsi yang diberikan, dengan probabilitas yang sudah dikalibrasi. Jawaban dengan probabilitas 0.97 → langsung kirim. Yang tertinggi hanya 0.60 → jangan kirim dulu, serahkan ke model besar yang lebih lambat tapi lebih cerdas. Dalam demo video TypeSafe, mereka menilai apakah faktur itu palsu atau tidak: LLM tradisional butuh 8 detik, Jev hanya 0.1 detik. Cepat karena hanya menjawab pilihan ganda, bukan menghasilkan teks. Akurat karena teknologi canggih RLCD — Reinforcement Learning for Calibrated Decisions (Pembelajaran Penguatan untuk Keputusan yang Dikalibrasi). Arsitektur belum dirilis, tapi saya rasa kemungkinan besar masih berbasis Transformer, hanya saja bagian generasi teks dihapus total. Bisa dianggap sebagai ASIC LLM dalam konteks tertentu: tidak bisa ngobrol, tidak bisa nulis kode, hanya membuat keputusan frekuensi tinggi — semua langkah penilaian tradisional LLM disederhanakan menjadi satu pertanyaan pilihan ganda. Kecepatan dan biayanya berbeda satu hingga dua orde besar. Mirip dengan sistem satu dalam buku terkenal Daniel Kahneman “Thinking, Fast and Slow.” LLM tradisional adalah sistem dua. Saya rasa jika T-800 mengandalkan kecepatan penilaian LLM saat ini, ia tidak akan bisa menyelesaikan satu pun misi dalam film — akan bergerak seperti siput (kok tiba-tiba saya ingat Flash di Zootopia…). Di sinilah Jev muncul — potongan kedua puzzle Terminator sudah terpasang. 3. Potongan terakhir — Strata — Menjalankan Model Besar Secara Lokal Tahun 1984 memang ada internet, tapi sangat lambat, hanya tersedia di militer dan universitas. Lagipula, tidak ada cloud dengan SkyNet untuk terhubung! Jadi T-800 harus membawa model lokal di dalam otaknya saat kembali ke masa lalu. Strata memungkinkan GPU konsumen dengan 12GB VRAM + 64GB RAM menjalankan model Qwen3.8-Flash-Next dengan 125 miliar parameter. Teknologi rahasia: pertama-tama kuantisasi parameter dari 16-bit menjadi 2–3-bit, mengurangi ukuran beberapa kali lipat. Lalu 20% ekspert (salinan) dimuat ke VRAM, seluruh ekspert dimuat ke RAM 64GB, dan terakhir ada tabel pencarian besar 30GB (buku referensi pelatihan) disimpan di SSD. Benar-benar offline, privasi data terjaga. Tentu saja kemampuannya turun karena kompresi, dan membaca dokumen panjang jadi lambat. Tapi sekarang konsol game high-end bisa menjalankan model raksasa ratusan miliar parameter — ini masalah dari nol menjadi ada. Parameter GPU, memori, dan CPU di dalam T-800 tidak kita ketahui. Tapi Strata memungkinkan Anda menjalankan model MOE besar di lingkungan perangkat keras terbatas (saat ini hanya mendukung Qwen, tapi pendekatannya berlaku umum untuk model MOE). Dari sini tampaknya kita semakin dekat dengan era SkyNet dan Terminator! @drfeifei @theworldlabs @typesafeai P.S — Siapa yang sudah pesan Roadster? Tolong bawa saya uji coba tahun 2028 ya, mohon banget!

Konten ini hanya untuk tujuan informasi dan edukasi. Konten dapat mencakup wawasan pihak ketiga, konten bersponsor, atau materi promosi yang mana kreatornya mungkin menerima kompensasi. Tidak ada dari umpan ini yang merupakan saran investasi atau jaminan imbal hasil. Anda sepenuhnya bertanggung jawab terhadap keputusan investasi Anda sendiri. Selalu lakukan riset mandiri dan berhati-hati sebelum trading. Kami tidak menjamin keakuratan informasi pihak ketiga dan tidak bertanggung jawab terhadap segala kerugian yang ditimbulkan. Kinerja di masa lalu bukan menunjukkan hasil di masa depan. Silakan lihat Ketentuan Komunitas dan Pernyataan Pengungkapan Risiko untuk detail selengkapnya.

avatarPosting balasan Anda

Komentar