Thinking Machines melancarkan model sumber terbuka Inkling-Small dengan jumlah parameter keseluruhan 276 bilion dan parameter yang diaktifkan 12 bilion, menggunakan arsitektur MoE dan reka bentuk multimodal asli. Model ini hanya menggunakan seperempat saiz tetapi mengatasi Inkling generasi pertama dalam ujian piawai seperti matematik, penalaran, dan pengkodean agen. Prestasi yang lebih tinggi dicapai melalui distilasi dan latihan pembelajaran penguatan selama dua minggu, secara signifikan menurunkan ambang penalaran, membolehkan pasukan sederhana melakukan penyesuaian model. Walaupun empat daripada enam pencipta bersama telah meninggalkan tim, pasukan ini terus mempertahankan tempoh pelancaran yang kerap dalam keadaan tidak stabil.

Penulis artikel, sumber: 36Kr

Thinking Machines melancarkan model sumber terbuka Inkling-Small yang melebihi generasi pertama

Selepas model pertama Inkling diperkenalkan, AI baharu sekali lagi menjadi tajuk utama!

Hari ini, Thinking Machines secara rasmi melancarkan model penting kedua mereka—Inkling-Small.

276B parameter keseluruhan, 12B parameter yang diaktifkan, multimodal asli, konteks 1 juta token

Setengah bulan yang lalu, Inkling 975B sumber terbuka pertama muncul dan menimbulkan gelombang besar di kalangan AI.

Inkling-Small hanya menggunakan seperempat saiz, secara langsung melebihi prestasi "saudara besar triliunan".

Di ARC-AGI-2, Inkling-Small memperbaharui SOTA sumber terbuka

Melihat semula beberapa hari ini Thinking Machines, alur ceritanya benar-benar penuh kejutan.

Dua hari sahaja selepas pengasas bersama Wong Li meninggalkan jawatannya secara rasmi, OpenAI mengesahkan keembalinya beliau—memimpin usaha untuk mengatasi "Peningkatan Diri Berulang" (RSI).

Pada hari ketiga, syarikat yang baru kehilangan seorang pegawai utama itu secara langsung memperkenalkan "berat penuh" model baharu.

Inkling-Small baharu telah tiba, 276B mengalahkan trilion

Dalam pengenalan rasmi, Inkling-Small adalah model berarkitektur MoE dengan jumlah parameter sebanyak 276 bilion, dengan 12 bilion parameter yang diaktifkan semasa inferensi tunggal.

Dibandingkan dengan Inkling generasi pertama, ukurannya secara langsung diringkaskan menjadi seperempat.

Seperti yang dikatakan oleh Horace He, ahli Pytorch besar, "Inkling-Small sama sekali tidak perlu mengerahkan seluruh desa, cukup teruskan teknologi generasi sebelumnya."

Yang paling ketat ialah, walaupun saiznya berkurang, kekuatan keseluruhan meningkat secara ketara.

Dalam matematik, penarikan kesimpulan, pengkodean agen, dan penilaian multimodal, Inkling-Small setara, bahkan melampaui Inkling dan DeepSeek V4 Flash.

Pada tiga metrik utama—HLE, Terminal-Bench, dan IFBench—Inkling-Small mendapat prestasi lebih tinggi setiap FLOP berbanding Inkling.

Boleh dilihat, lengkung Inkling-Small sentiasa berada di bawah Inkling.

Di sisi multimodal, hampir tidak tertinggal—pemahaman grafik, penalaran visual, pemahaman suara, dan penalaran audio panjang, Inkling-Small dalam ujian «hampir» setara dengan versi asli, tetapi dengan biaya jauh lebih rendah.

Keputusan ujian rujukan lain adalah seperti berikut:

Satu model yang saiznya hanya seperempat, mengalahkan saudara besarnya dalam tugas inferens dan agen.

Untuk cara melakukannya, pihak rasmi telah menjelaskan langkah-langkahnya dengan terperinci, dan kuncinya ialah dua langkah.

Masa latihan Inkling-Small bermula lebih lewat daripada Inkling, jadi ia mengambil semua kesilapan yang telah dilalui pada putaran sebelumnya—

Nisbah data pra-latihan telah diubah, resepi pembelajaran mesin telah disempurnakan semula.

Lebih penting lagi, dua langkah operasi.

Langkah pertama, gunakan Inkling sebagai guru untuk distilasi on-policy, dan hasilkan titik pratonton terlebih dahulu.

Langkah kedua, agen tersebut meneruskan pembelajaran penguatan kodin selama dua minggu penuh dari titik pemeriksaan ini, menghasilkan kejadian "pelajar melampaui guru".

Hanya dalam masa dua minggu, jurang telah ditutup dan bahkan melebihi.

Ini bermakna Thinking Machines secara langsung menjalankan satu garis pengeluaran yang mampu menghasilkan model berulang-ulang. Model pertama adalah karya, model kedua adalah bukti kapasiti pengeluaran.

12 bilion diaktifkan, baru merupakan titik balik sebenarnya

Bagi kebanyakan pembangun, yang benar-benar mereka pedulikan ialah sama ada mereka boleh menggunakannya atau tidak.

Tahap ambang Inkling asal sangat tinggi, keperluan minimum checkpoint BF16 ialah 2TB memori grafik terkumpul—

Konfigurasi contoh adalah 8 unit B300 atau 16 unit H200; walaupun ditukar kepada versi kuantisasi NVFP4, masih memerlukan 600GB ke atas.

Inkling-Small menarik ambang ini ke bawah dengan besar.

LMSYS menyatakan dengan jelas: 276B parameter total dengan 12B yang diaktifkan adalah titik ideal untuk pembelajaran penguatan, di mana LoRA dan pelatihan parameter penuh menjadi "terjangkau".

Sebelum ini, hanya syarikat besar yang boleh menyesuaikan model, tetapi kini, pasukan berskala sederhana juga mempunyai peluang untuk melatihnya menjadi milik mereka sendiri.

Ujian sebenar menunjukkan, dalam persekitaran yang sama dengan 8 unit B200, TP8, NVFP4, dan batch size 1, menjalankan Inkling-Small dengan SGLang, membuka DSpark mencapai 648 tok/s dalam dekod, sementara tanpa ia mencapai 288 tok/s.

Pada Februari tahun lalu, Thinking Machines memulakan dengan senarai enam orang yang dianggap sebagai "pasukan impian OpenAI":

Mira Murati, John Schulman, Barret Zoph, Weng Li, Andrew Tulloch, Luke Metz.

Pada masa itu, mereka mendapat skrip luar biasa dengan pembiayaan benih sebanyak US$2 bilion dan penilaian sebanyak US$120 bilion.

Siapa yang menyangka, pendanaan pada Januari tahun ini dengan valuasi 50 miliar dolar AS akhirnya gagal, menjadi permulaan perubahan.

Sekarang, kumpulan enam orang hanya tinggal Murati dan Schulman.

Yang lebih menarik, di antara empat orang yang pergi, Zoph dan Metz kembali ke OpenAI berturut-turut, dan kini Weng Li menjadi orang ketiga.

Sebuah syarikat yang ditubuhkan oleh "pemberontak" OpenAI, tetapi tenaga utamanya akhirnya tidak dapat melarikan diri daripada medan graviti OpenAI.

Namun, yang benar-benar penuh dramatik ialah tindakan pasukan apabila menghadapi ketidakstabilan.

Pada 15 Julai, Thinking Machines yang telah bungkam selama 17 bulan penuh akhirnya mengumumkan model besar pertamanya, Inkling.

Kurang dari dua minggu, Ong Li mengumumkan pengunduran diri; hanya tiga hari kemudian, model open-source kedua dengan bobot penuh segera dilancarkan.

Talenta sedang hilang dengan lebih cepat, model sedang melaju dengan pantas.

Dua lengkung yang bertentangan ini menjadi adegan paling ikonik dalam industri AI.

Mungkin inilah jalan yang harus dilalui menuju ASI: semakin sedikit orang yang tinggal, roda mesin yang bergerak maju akan semakin berputar cepat.

Thinking Machines melancarkan model sumber terbuka Inkling-Small dengan jumlah parameter keseluruhan 276 bilion dan parameter yang diaktifkan 12 bilion, menggunakan arsitektur MoE dan reka bentuk multimodal asli. Model ini hanya menggunakan seperempat saiz tetapi mengatasi Inkling generasi pertama dalam ujian piawai seperti matematik, penalaran, dan pengkodean agen. Prestasi yang lebih tinggi dicapai melalui distilasi dan latihan pembelajaran penguatan selama dua minggu, secara signifikan menurunkan ambang penalaran, membolehkan pasukan sederhana melakukan penyesuaian model. Walaupun empat daripada enam pencipta bersama telah meninggalkan tim, pasukan ini terus mempertahankan tempoh pelancaran yang kerap dalam keadaan tidak stabil.

Sumber artikel: Sinar Cerdas