Siaran
avatar

Menggunakan momentum aksi mobil spektakuler Pak Lao hari ini, saya akan mengisi lubang yang telah saya gali dua hari lalu mengenai tiga hal menarik dalam dunia AI baru-baru ini: Jev, Strata, dan Atlas. Saya akan menyatukan ketiganya melalui satu adegan film—Terminator! Bayangkan T-800 dikirim kembali ke tahun 1984 dengan misi: menemukan dan membunuh Sarah Connor! Untuk itu, ia memerlukan tiga fungsi dasar: memahami ruang, membuat keputusan instan, dan berpikir tanpa koneksi internet (tahun 1984 belum ada SkyNet untuk terhubung). Tak disangka, ketiganya secara tepat sesuai dengan Atlas, Jev, dan Strata. 1. Pertama, Atlas dari Profesor Li Feifei — Memahami Ruang Saat Schwarzenegger (T-800) masuk ke sebuah ruangan, ia hanya perlu sekilas untuk mengetahui apa yang ada di belakang pintu atau di bawah meja. Atlas saat ini melakukan hal yang sama: memberikan beberapa foto, lalu memprediksi seperti apa pemandangan dari sudut pandang baru. LLM memprediksi kata berikutnya. Model video (seperti Seedance) menghasilkan gambar sepanjang sumbu waktu. Atlas memprediksi sudut pandang baru. Saat ini banyak model video menyebut diri mereka "world models." Beberapa bulan lalu, Li Feifei mengklasifikasikannya menjadi tiga kategori: renderer, simulator, dan planner. Simulator bisa menjadi renderer, tetapi planner harus berdasarkan simulator yang kuat. Ketika T-800 melihat sekilas dan tahu apa yang ada di dalam ruangan, itu adalah simulator. Menghitung apa yang terjadi jika ia melompat atau ke mana peluru akan mengenai juga bagian dari simulator. Memilih untuk mengejar, bersembunyi, atau menabrak mobil dengan mobil kemungkinan besar membutuhkan planner. Renderer hampir tidak digunakan. Tujuan Atlas seharusnya adalah menjadi simulator terkuat, lalu dikembangkan menjadi planner di masa depan. Peta jalan seperti ini: Ruang 3D statis (saat ini) → dinamis (4D) → dapat diedit → dapat diinteraksi → simulator sebagai planner (akhir) Perjalanan panjang baru saja memulai langkah pertama, tetapi untuk menciptakan Terminator, hal ini benar-benar diperlukan—LLM murni tidak cukup. 2. Lalu ada Jev — Keputusan Instan Ingat adegan itu? T-800 di motel ditekan pintunya oleh petugas. Di pandangannya langsung muncul serangkaian opsi jawaban; ia tinggal memilih satu dan langsung merespons—tanpa menyusun kalimat sama sekali. (Saya ingat ia memilih yang paling kasar…) Inilah Jev: tidak perlu LLM menghasilkan teks panjang, tidak perlu pemikiran berantai (COT), hanya memilih dari opsi yang sudah tersedia dan memberikan tingkat kepercayaan. Jev TypeSafe bekerja seperti ini: tidak menghasilkan teks, hanya memilih dari opsi yang diberikan dengan probabilitas yang dikalibrasi. Jawaban dengan probabilitas 0.97 → langsung kirim. Yang tertinggi hanya 0.60 → jangan kirim dulu, serahkan ke model besar yang lebih lambat tapi lebih cerdas. Dalam demo video TypeSafe, mereka menilai apakah faktur itu palsu atau tidak. LLM tradisional butuh 8 detik; Jev hanya butuh 0.1 detik. Cepat karena hanya menjawab pilihan ganda, bukan menghasilkan teks. Akurat karena teknologi canggih RLCD — Reinforcement Learning for Calibrated Decisions (Pembelajaran Penguatan untuk Keputusan yang Dikalibrasi). Arsitektur belum dirilis, tapi saya duga tetap menggunakan dasar Transformer, hanya saja bagian generasi dihapus sepenuhnya. Bisa dianggap sebagai ASIC LLM dalam konteks tertentu: tidak bisa ngobrol, tidak bisa menulis kode, hanya membuat keputusan frekuensi tinggi—mengompres dan menyederhanakan semua langkah penilaian LLM tradisional menjadi satu pertanyaan pilihan ganda. Kecepatan dan biaya berbeda satu hingga dua orde besar. Mirip dengan sistem satu dalam buku terkenal Daniel Kahneman “Thinking, Fast and Slow.” LLM tradisional adalah sistem dua. Saya rasa jika T-800 menggunakan kecepatan penilaian LLM saat ini, ia tidak akan bisa menyelesaikan satu pun misi dalam film—akan bergerak seperti siput. (Mengapa tiba-tiba saya teringat Lightning dari Zootopia?) Di sinilah Jev muncul—potongan kedua teka-teki Terminator telah terpasang. 3. Potongan terakhir — Strata — Menjalankan Model Besar Secara Lokal Tahun 1984 memang ada internet, tapi sangat lambat, dan hanya tersedia di militer dan universitas. Lagipula, tidak ada awan yang menyediakan SkyNet! Anda tetap harus memasang model lokal di dalam otak T-800 untuk melakukan misi ini. Strata memungkinkan GPU konsumen dengan 12GB VRAM dan 64GB RAM menjalankan model Qwen3.8-Flash-Next dengan 125 miliar parameter. Teknologi ajaibnya: pertama, kuantisasi memampatkan parameter dari 16-bit menjadi 2–3 bit, mengurangi ukuran beberapa kali lipat. Kemudian, 20% ekspert (salinan) dimuat ke VRAM, seluruh ekspert dimuat ke RAM 64GB, dan terakhir ada tabel pencarian besar 30GB (buku referensi pelatihan) disimpan di SSD. Benar-benar offline, privasi data terjaga. Tentu saja kemampuannya turun karena kompresi, dan membaca dokumen panjang jadi lebih lambat. Tapi sekarang konsol game high-end bisa menjalankan model raksasa berparameter triliunan—ini masalah dari nol menjadi ada. Kita tidak tahu spesifikasi GPU, memori, dan CPU di dalam T-800. Tapi Strata memungkinkan Anda menjalankan model MOE berparameter besar dalam lingkungan perangkat keras terbatas (saat ini hanya mendukung model Qwen, tapi pendekatannya berlaku umum untuk model MOE). Dengan melihat ketiganya bersama-sama, tampaknya kita semakin dekat dengan era SkyNet dan Terminator! @drfeifei @theworldlabs @typesafeai P.S — Siapa yang sudah pesan Roadster? Tolong ajak saya uji coba tahun 2028 ya, mohon banget!

Kandungan ini adalah bagi tujuan maklumat dan pendidikan sahaja. Ia mungkin termasuk pandangan pihak ketiga, kandungan tajaan, atau bahan promosi yang mana pencipta mungkin menerima pampasan. Tiada apa-apa dalam suapan ini yang merupakan nasihat pelaburan atau jaminan pulangan. Anda bertanggungjawab sepenuhnya ke atas keputusan pelaburan anda sendiri. Sentiasa jalankan penyelidikan anda sendiri dan berhati-hati sebelum berdagang. Kami tidak menjamin ketepatan maklumat pihak ketiga dan tidak bertanggungjawab ke atas sebarang kerugian yang ditanggung. Prestasi masa lalu tidak menunjukkan hasil masa hadapan. Sila rujuk Terma Komuniti dan Penyata Pendedahan Risiko kami untuk mendapatkan butiran.

avatarSiarkan balasan anda

Komen