Thinking Machines merilis model open-source Inkling-Small dengan total parameter 276 miliar dan parameter yang diaktifkan 12 miliar, menggunakan arsitektur MoE dan desain multimodal asli. Model ini hanya dengan seperempat ukuran saja mampu mengungguli Inkling generasi pertama dalam berbagai benchmark seperti matematika, penalaran, dan pemrograman agen. Kinerja yang lebih unggul dicapai melalui distilasi dan pelatihan reinforcement learning selama dua minggu, secara signifikan menurunkan ambang batas inferensi sehingga tim menengah pun dapat melakukan kustomisasi model. Meskipun empat dari enam pendiri telah pergi, tim tetap mempertahankan ritme rilis yang sering meskipun dalam kondisi动荡.

Penulis artikel, sumber: 36Kr

Thinking Machines merilis model open-source Inkling-Small yang melampaui generasi pertama

Setelah model pertama Inkling muncul, AI baru lagi-lagi menjadi sorotan!

Hari ini, Thinking Machines secara resmi meluncurkan model andalan kedua mereka—Inkling-Small.

276 miliar parameter total, 12 miliar parameter aktif, multimodal asli, konteks 1 juta token

Setengah bulan yang lalu, Inkling 975B open-source pertama muncul dan memicu gelombang besar di kalangan AI.

Inkling-Small hanya dengan seperempat ukuran, secara langsung mencapai kinerja yang melampaui "saudara besar triliunan".

Di ARC-AGI-2, Inkling-Small memperbarui SOTA open-source

Melihat kembali beberapa hari ini Thinking Machines, alur ceritanya benar-benar penuh gejolak.

Hanya dua hari setelah pendiri bersama Weng Li mengumumkan pengunduran dirinya, OpenAI mengonfirmasi kehadirannya kembali—memimpin upaya dalam "Recursive Self-Improvement" (RSI).

Hasilnya pada hari ketiga, perusahaan yang baru kehilangan salah satu tokoh utamanya, langsung merilis "seluruh bobot" model baru.

Inkling-Small versi baru telah hadir, 276B mengalahkan triliunan

Dalam deskripsi blog resmi, Inkling-Small adalah model berarsitektur MoE dengan total parameter 276 miliar dan 12 miliar parameter yang diaktifkan dalam satu kali inferensi.

Dibandingkan dengan Inkling generasi pertama, ukurannya langsung diringkas menjadi seperempat.

Seperti yang dikatakan oleh Horace He, sang ahli PyTorch, "Inkling-Small sama sekali tidak perlu mengerahkan seluruh desa, cukup gunakan teknologi generasi sebelumnya."

Yang paling kuat adalah, meskipun skalanya berkurang, kemampuan komprehensifnya meningkat signifikan.

Dalam matematika, penalaran, pengkodean agen, dan benchmark multimodal, Inkling-Small sebanding, bahkan melampaui Inkling dan DeepSeek V4 Flash.

Pada tiga indikator inti—HLE, Terminal-Bench, dan IFBench—Inkling-Small menghasilkan kinerja lebih tinggi per FLOP dibandingkan Inkling.

Terlihat bahwa kurva Inkling-Small selalu berada di atas Inkling.

Di sisi multimodal, hampir tidak tertinggal—pemahaman grafik, penalaran visual, pemahaman suara, dan penalaran audio panjang, Inkling-Small dalam evaluasi «mendekati» versi aslinya, tetapi dengan biaya jauh lebih rendah.

Hasil benchmark lainnya adalah:

Sebuah model dengan ukuran hanya seperempatnya mengalahkan saudara besarnya dalam tugas inferensi dan agen.

Untuk cara melakukannya, pihak resmi menjelaskan langkah-langkahnya dengan sangat rinci, yang penting adalah dua langkah utama.

Waktu pelatihan Inkling-Small lebih terlambat daripada Inkling, sehingga menyerap semua kendala yang pernah dialami pada putaran sebelumnya—

Rasio data pra-pelatihan telah diubah, resep pembelajaran mesin telah disempurnakan kembali.

Yang lebih penting lagi, adalah dua langkah operasi.

Langkah pertama, gunakan Inkling sebagai guru untuk distilasi on-policy, buat terlebih dahulu checkpoint preview.

Langkah kedua, agen melanjutkan pelatihan pembelajaran penguatan kode selama dua minggu penuh dari titik pemeriksaan ini, sehingga menghasilkan hasil "siswa melebihi guru".

Hanya dalam dua minggu, kesenjangan telah tertutup dan bahkan melewati.

Ini berarti Thinking Machines secara langsung menjalankan jalur produksi yang dapat menghasilkan model secara berulang-ulang. Model pertama adalah karya, model kedua adalah bukti kapasitas produksi.

12 miliar diaktifkan, baru merupakan titik balik sejati

Bagi sebagian besar pengembang, yang benar-benar mereka pedulikan adalah apakah mereka bisa menggunakannya?

Ambang batas Inkling versi asli sangat tinggi, persyaratan minimum checkpoint BF16 adalah 2 TB memori GPU teragregasi—

Contoh konfigurasi adalah 8 unit B300 atau 16 unit H200; bahkan jika diganti dengan versi kuantisasi NVFP4, tetap membutuhkan minimal 600GB.

Inkling-Small menurunkan ambang ini sejauh yang sangat signifikan.

LMSYS menyatakan dengan jelas: 276B total parameter dengan 12B aktif adalah titik ideal untuk reinforcement learning, sehingga LoRA dan pelatihan parameter penuh menjadi 'terjangkau'.

Sebelumnya, hanya perusahaan besar yang bisa menyesuaikan model, sekarang tim berukuran menengah juga memiliki kesempatan untuk benar-benar melatihnya menjadi milik mereka sendiri.

Uji coba menunjukkan bahwa dalam lingkungan yang sama dengan 8 B200, TP8, NVFP4, dan batch size 1, menjalankan Inkling-Small dengan SGLang mencapai 648 tok/s saat mengaktifkan DSpark, dan 288 tok/s saat tidak mengaktifkannya.

Pada Februari tahun lalu, Thinking Machines memulai dengan tim enam orang yang disebut "Tim Impian OpenAI":

Mira Murati, John Schulman, Barret Zoph, Weng Li, Andrew Tulloch, Luke Metz.

Pada saat itu, mereka mengambil skenario luar biasa dengan putaran seed sebesar 2 miliar dolar AS dan valuasi 12 miliar dolar AS.

Siapa yang menyangka, pendanaan dengan valuasi 5 miliar dolar AS pada Januari tahun ini akhirnya gagal, menjadi awal dari titik balik.

Saat ini, hanya tersisa Murati dan Schulman dari enam orang tersebut.

Yang lebih menarik, dari keempat orang yang pergi, Zoph dan Metz kembali ke OpenAI, dan sekarang Weng Li menjadi yang ketiga.

Sebuah perusahaan yang didirikan oleh "pemberontak" dari OpenAI, para anggota intinya akhirnya tetap tidak bisa lepas dari medan gravitasi OpenAI.

Namun, yang benar-benar penuh drama adalah reaksi tim terhadap ketidakstabilan.

Pada 15 Juli, Thinking Machines yang telah diam selama 17 bulan penuh akhirnya meluncurkan model besar pertamanya, Inkling.

Kurang dari dua minggu, Weng Li mengumumkan pengunduran dirinya; hanya tiga hari kemudian, model open-source kedua dengan bobot penuh segera diluncurkan.

Talenta sedang hilang lebih cepat, model sedang melaju kencang.

Dua kurva yang saling bertentangan ini menjadi adegan paling representatif di industri AI.

Mungkin inilah jalan tak terhindarkan menuju ASI: semakin sedikit yang tersisa, roda mesin yang maju akan semakin cepat berputar.

Thinking Machines merilis model open-source Inkling-Small dengan total parameter 276 miliar dan parameter yang diaktifkan 12 miliar, menggunakan arsitektur MoE dan desain multimodal asli. Model ini hanya dengan seperempat ukuran saja mampu mengungguli Inkling generasi pertama dalam berbagai benchmark seperti matematika, penalaran, dan pemrograman agen. Kinerja yang lebih unggul dicapai melalui distilasi dan pelatihan reinforcement learning selama dua minggu, secara signifikan menurunkan ambang batas inferensi sehingga tim menengah pun dapat melakukan kustomisasi model. Meskipun empat dari enam pendiri telah pergi, tim tetap mempertahankan ritme rilis yang sering meskipun dalam kondisi动荡.

Sumber artikel: Sinar Zhiyuan