Startup Wang Yunhe Meluncurkan NeoHorse, Model Pertama yang Native Agent

Setelah memulai usaha, Wang Yunhe pertama kali menyerahkan hasil model besar.

Quantum Bit melaporkan, mantan kepala Laboratorium Noah's Ark Huawei, Pangu Large Model Yuan Yuan Lüdong, yang didirikan oleh Wang Yunhe, meluncurkan model Agent-Native pertama, NeoHorse.

Model ini didukung oleh infrastruktur dasar dan kemampuan optimasi Infra dari Wuwen Xinqiong, dengan tim dari Universitas Tsinghua dan Universitas Peking yang berpartisipasi dalam penelitian algoritma dan metode pelatihan, bersama-sama mengeksplorasi peningkatan efisiensi pemanfaatan data dan efektivitas pelatihan setelah pelatihan Agent.

NeoHorse-1 mencakup dua versi, 4B dan 9B, yang secara khusus dirancang untuk mendukung serangkaian kemampuan yang dibutuhkan dalam proses agen, termasuk memanggil alat, membaca umpan balik lingkungan, mendeteksi kesalahan, menyesuaikan jalur, dan akhirnya menyelesaikan tugas.

Dalam 10 evaluasi yang mencakup Harness Agent, penggunaan alat, kode, dan kepatuhan instruksi, setelah Agentic Post-Training, kinerja komprehensif model 4B telah mencapai/ sedikit melebihi model dasar 9B.

Perusahaan yang selalu menekankan kolaborasi multi-model, mengapa mulai melatih modelnya sendiri? Primordial Rhythm akan bergabung ke meja model dasar?

Dari jawaban NeoHorse, arah tidak mengalami perubahan semacam itu.

Model ini lebih mirip dengan pengalaman eksekusi multi-model yang dikumpulkan oleh Primordial Rhythm, dan pertama kalinya masuk ke parameter model.

Sejauh ini, skor sering menjadi dasar utama untuk membandingkan model.

Namun, ketika model mulai dimasukkan ke dalam sistem Agent dan menangani tugas lengkap, daya penjelasan dari satu skor tunggal akan menurun.

Dalam sebuah tugas, model tidak hanya harus memberikan jawaban yang tampak masuk akal, tetapi juga harus terus membaca umpan balik lingkungan selama eksekusi, menangani kesalahan, dan menyesuaikan jalur berikutnya berdasarkan kemajuan aktual; setiap tahap memiliki persyaratan kemampuan model yang berbeda.

Dengan demikian, tim Primordial Rhythm membentuk sebuah penilaian.

Model yang tidak dinormalisasi akan menjadi struktur yang terus ada dalam industri AI.

Semakin banyak model, semakin spesifik pembagian tugas, semakin jelas perbedaan harga dan kemampuan, semakin dibutuhkan satu sistem untuk menjawab beberapa pertanyaan—

Langkah ini sebaiknya menggunakan model mana? Bagian mana yang bisa diserahkan ke model yang biayanya lebih rendah? Kapan perlu meningkatkan ke model dengan kemampuan inferensi dan eksekusi yang lebih kuat? Setelah satu jalur eksekusi terhambat, siapa yang harus mengambil alih? Bisakah beberapa model memberikan solusi secara paralel, lalu hasilnya digabungkan?

Tim Wang Yunhe menyebut sistem lapisan ini sebagai Routing Harness (proyek open-source terkaitnya, OpenSquilla, telah terintegrasi dengan berbagai model, melakukan routing granular, pergantian model, dan kolaborasi multi-model selama proses eksekusi Agent melalui antarmuka terpadu).

Demikian pula, berdasarkan pemikiran ini, Primitive Rhythm tampaknya tidak memiliki alasan kuat untuk melatih modelnya sendiri. Pasar sudah menyediakan cukup banyak model yang beragam, sehingga memanggil model sesuai kebutuhan terasa lebih fleksibel.

Saat sistem penjadwalan terus berjalan, kelas aset lain mulai terakumulasi, seperti "tugas apa yang memerlukan kemampuan apa", "pada tahap mana model mudah gagal", "jalur perbaikan seperti apa yang efektif", dan "hasil seperti apa yang dapat lulus verifikasi lingkungan".

Informasi ini, di satu sisi, dapat meningkatkan penilaian rute, dan di sisi lain, mulai memiliki nilai pelatihan.

Ini agak seperti platform yang menghubungkan banyak merek dengan konsumen. Permintaan, ulasan, dan umpan balik penggunaan yang terakumulasi selama proses perdagangan dapat membantu produk menemukan pengguna yang lebih tepat, serta memberikan umpan balik lebih lanjut kepada pengembangan produk.

Proses pasar layanan platform ini menjadi sumber data untuk perbaikan produk berikutnya.

NeoHorse bertugas mengubah sebagian pengalaman eksekusi yang terakumulasi di Harness menjadi kemampuan model.

Sumber data NeoHorse patut diperhatikan.

Korpus intinya adalah menggabungkan sinyal eksekusi Agent yang dihasilkan oleh Routing Harness dengan data publik untuk membangun sistem data yang ditujukan untuk pelatihan setelah Agent.

Agen akan meninggalkan catatan eksekusi lengkap setelah menyelesaikan satu tugas di Harness.

1. Masukkan tugas → Router menentukan kemampuan apa yang diperlukan
2. → Pilih model tertentu
3. Model melakukan inferensi dan pemanggilan alat
4. → Hasil pengembalian lingkungan
5. → Model melanjutkan eksekusi atau terjadi kesalahan
6. → Sistem beralih model atau menyesuaikan jalur
7. → Tugas selesai atau gagal

Data FAQ seringkali berfokus pada kedua ujungnya: "pertanyaan" dan "jawaban".

Data Routing Harness juga berisi beberapa lapisan informasi tambahan: kemampuan apa yang dibutuhkan tugas, keputusan eksekusi apa yang diambil sistem, dan umpan balik apa yang diberikan lingkungan pada akhirnya.

Misalnya, router awalnya menilai bahwa suatu tugas hanya memerlukan model biasa, tetapi setelah mengalami kegagalan berulang selama eksekusi, ia meningkatkan ke model yang lebih kuat, sehingga tugas tersebut baru dapat diselesaikan.

Jalur ini berisi informasi jauh lebih banyak daripada sekadar kegagalan.

Sistem dapat mengetahui bahwa penilaian kemampuan awal mungkin terlalu rendah, model mengalami masalah di langkah mana, model yang lebih kuat menggunakan strategi seperti apa, jalur eksekusi mana yang akhirnya lulus verifikasi lingkungan, serta berapa banyak Token dan waktu tambahan yang dikonsumsi untuk menyelesaikan tugas.

Yang lebih penting lagi, gerakan primitif yang diamati bukanlah penilaian suatu model terhadap kemampuannya sendiri, melainkan kinerja horisontal yang ditinggalkan oleh beberapa model saat menghadapi tugas yang serupa.

Di antaranya ada jalur sukses, serta catatan eksekusi yang gagal di tengah jalan dan kemudian diambil alih oleh model lain.

Dari sudut pandang pelatihan, trajektori kegagalan bahkan mungkin memberikan informasi yang lebih banyak.

Jawaban akhir dapat memberi tahu model satu jalur yang dapat ditempuh, sementara proses kegagalan dan perbaikan menambahkan dua jenis pengetahuan lainnya: di mana kesalahan mudah terjadi, dan bagaimana menyesuaikan setelah kesalahan terjadi.

Selain hasil yang diberikan oleh beberapa model, juga ada jalur yang benar-benar dilalui oleh beberapa model dalam lingkungan tugas, ini juga merupakan salah satu ciri khas NeoHorse.

Memasukkan semua log ke dalam pelatihan tidak secara alami akan menghasilkan model Agent yang lebih kuat.

Jejak agen biasanya sangat panjang, mencakup petunjuk sistem, permintaan pengguna, parameter alat, hasil eksekusi, upaya berulang, informasi kesalahan, dan sejumlah besar output menengah.

Beberapa langkah memiliki nilai pelatihan, beberapa lainnya lebih mirip noise. Ada pula proses trajektori yang lengkap, tetapi hasilnya sendiri tidak benar.

Primer Rhythm pertama-tama perlu menyelesaikan pertanyaan "data mana yang layak dipelajari oleh model".

Menurut laporan teknis, setiap jejak akan melalui pemeriksaan struktural untuk memastikan kesesuaian antara permintaan, respons model, pemanggilan alat, dan hasil lingkungan.

Selanjutnya, sistem akan mengevaluasi kualitas pelaksanaan dari enam dimensi, termasuk apakah tujuan pengguna tercapai, apakah instruksi dipatuhi, penggunaan alat apakah masuk akal, apakah kesimpulan didukung oleh bukti, kemampuan pemulihan setelah terjadi kesalahan, serta apakah model menghentikan tugas pada waktu yang tepat.

Di sini juga terlibat masalah yang sering disamakan dalam pelatihan Agent.

Penyelesaian tugas tidak sama dengan terpenuhinya tujuan pengguna—keluaran model yang menyatakan “tugas telah selesai” hanya menunjukkan bahwa proses eksekusi berhenti, bukan membuktikan bahwa hasil yang diserahkan memenuhi persyaratan pengguna.

Oleh karena itu, status penyelesaian, tingkat kepuasan tujuan, bukti lingkungan, dan umpan balik pengguna perlu dicatat sebagai sinyal yang berbeda.

Setelah data selesai disaring, sinyal routing mulai memainkan peran lain.

Router akan memperkirakan kemampuan yang dibutuhkan oleh tugas dan membentuk sinyal dengan tingkat kemampuan yang berbeda. NeoHorse mengatur urutan sampel selama pelatihan berdasarkan ini, memulai dengan tugas yang membutuhkan kemampuan lebih rendah, lalu secara bertahap meningkatkan trajektori eksekusi yang lebih kompleks, sekaligus mempertahankan cakupan tugas dasar.

Metode ini disebut Routing-Guided Curriculum, atau pembelajaran kurikulum yang dipandu routing.

Secara sederhana, sinyal routing menentukan secara online tugas mana yang diberikan kepada siapa, dan selama tahap pelatihan, ia juga dapat memberi tahu model tugas mana yang lebih baik dipelajari lebih dulu dan mana yang lebih baik dipelajari kemudian.

Selain fine-tuning pengawasan rutin, NeoHorse juga menggunakan On-Policy Distillation.

Dapat dipahami sebagai membiarkan siswa menyelesaikan soal dengan cara mereka sendiri terlebih dahulu, lalu guru memberikan bimbingan berdasarkan langkah-langkah yang sebenarnya telah diambil siswa.

Dengan demikian, model guru menangani masalah yang akan dihadapi oleh model siswa dalam distribusi saat ini, bukan serangkaian kesalahan standar yang telah dipersiapkan sebelumnya.

Setelah tahapan-tahapan ini, pengalaman yang terakumulasi dari tugas jangka panjang multi-model mulai digunakan untuk post-training NeoHorse.

Berdasarkan hasil dari laporan teknis saat ini, Agentic Post-Training memberikan peningkatan stabil pada dua skala, 4B dan 9B.

Di antaranya, kinerja komprehensif NeoHorse-1-4B (skor rata-rata makro meningkat dari 58,94 menjadi 64,87) telah mencapai SOTA pada skala yang sama—melebihi model dasarnya Qwen3.5-4B pada semua benchmark yang dapat dibandingkan, serta memimpin secara komprehensif di antara model seukuran 4B lainnya.

Namun, SOTA tidak berarti kemampuan tersebar merata.

Dengan memecah hasil lebih lanjut, peningkatan pada model 4B terutama terkonsentrasi pada satu jenis tugas.

Tugas-tugas semacam ini biasanya memiliki alur kerja yang relatif jelas, umpan balik lingkungan dapat diamati, keberhasilan dan kegagalan dapat diverifikasi, dan standar pengiriman akhir juga cukup jelas.

Misalnya, dalam sebuah tugas penjadwalan proyek, model dasar meskipun telah menemukan file di direktori kerja, tidak melanjutkan untuk membaca email yang berisi batasan dependensi terbaru.

Hasilnya, ia membuat rencana berdasarkan informasi yang sudah kedaluwarsa dan menulis file ke lokasi yang salah.

Model yang telah menjalani pelatihan lanjutan akan terus membaca bukti tambahan, mendeteksi perubahan pada kendala, menghitung ulang jadwal, memvalidasi hasil, lalu menyimpan artefak ke lokasi yang tepat.

Perbedaan keduanya terlihat pada rantai eksekusi Agent.

Satu model secara umum tahu bagaimana seharusnya menyelesaikan tugas, sedangkan model lain sudah mampu menyusun alur kerja yang lebih lengkap, mulai dari mengumpulkan bukti, memperbarui batasan, menjalankan, memvalidasi, hingga menyerahkan hasil.

Mencapai SOTA pada skala yang sama tidak berarti harus menyerahkan semua tugas kepada NeoHorse-1-4B. Primitif Rhythmic lebih peduli pada bagaimana membagi secara halus batas kemampuan berbagai model.

Tugas yang dapat diselesaikan secara stabil oleh model 4B dapat mengurangi panggilan terhadap model yang lebih besar; tugas yang dapat diselesaikan oleh model yang lebih kuat juga tidak perlu terus-menerus dinaikkan ke model unggulan dengan harga tertinggi; ketika tingkat kesulitan terus meningkat, baru diserahkan kepada model dalam pool dengan kemampuan lebih kuat.

Di sini tepat menghubungkan hubungan antara Routing Harness dan model buatan sendiri.

Model terus memperluas rentang biaya tugas yang dapat ditanggung, sementara sistem routing menempatkan kemampuan yang berbeda di posisi yang tepat berdasarkan tingkat kesulitan dan kinerja tugas.

Dengan demikian, hubungan antara beberapa lini produk Primitif Rhythm juga menjadi lebih jelas.

Lapisan pertama adalah OpenSquilla versi open source.

Dengan produk gratis, open-source, deploy lokal, dan desktop, Primal Rhythm menurunkan hambatan bagi pengembang dalam menggunakan Agent multi-model, sekaligus menghubungkan pengembang dengan pintu masuk tugas.

Lapisan kedua adalah TokenRhythm API.

Posisinya mirip dengan "OpenRouter versi Tiongkok", yang menyediakan kemampuan pemanggilan berbagai model melalui antarmuka terpadu, memenuhi kebutuhan pengembang dan perusahaan dalam penggunaan model, sekaligus membantu pabrikan model terhubung ke lebih banyak skenario aplikasi.

Perusahaan tidak perlu menyesuaikan secara terpisah berbagai antarmuka model, sehingga lebih mudah untuk mengevaluasi, memilih, dan beralih antar model.

Lapisan ketiga adalah layanan dan kemampuan deploy yang ditujukan untuk perusahaan.

Industri keuangan, manufaktur, dan lainnya memiliki persyaratan berbeda terkait otorisasi, stabilitas, deployment pribadi, dan jaminan layanan, yang menciptakan ruang bisnis lebih lanjut.

Lapisan keempat adalah NeoHorse.

NeoHorse pertama-tama memverifikasi koneksi kunci: pengalaman valid yang dihasilkan selama proses Harness, setelah disaring dan dilatih, memang memiliki potensi untuk diubah menjadi kemampuan model itu sendiri.

Dengan demikian, roda bisnis yang sebelumnya diajukan oleh Primordial Rhythm pertama kali menghasilkan hasil pada tingkat model.

Hal ini juga membuka kemungkinan untuk mengoptimalkan akuntansi ekonomi inferensi.

Jika NeoHorse nantinya mampu secara stabil menerima sejumlah tugas Agent yang frekuensinya tinggi dan memiliki standar yang relatif jelas, platform akan memiliki tambahan kapasitas penyediaan yang dapat diatur secara mandiri.

Tugas-tugas ini dapat dioptimalkan lebih lanjut untuk mengurangi biaya inferensi, meningkatkan kecepatan respons, dan stabilitas, serta memberikan fleksibilitas yang lebih besar dalam konfigurasi penyediaan model. Seiring dengan terus berjalannya iterasi model, cakupan tugas yang dapat dilayani masih memiliki ruang untuk diperluas lebih lanjut.

Dari sudut pandang ini, yang ingin dicapai oleh Primordial Rhythm agak mirip dengan akumulasi proses dalam sistem manufaktur.

Ekosistem model eksternal menyediakan berbagai kemampuan, dan Harness bertanggung jawab untuk mengorganisasi dan menjalankannya; pengalaman yang terbentuk selama proses eksekusi kemudian masuk ke siklus perbaikan model berikutnya.

Dari menghubungkan model, menyediakan layanan, hingga mengubah pengalaman yang dihasilkan dari layanan tersebut menjadi kemampuan model, serta terus meningkatkan efisiensi dan kualitas, ini juga merupakan langkah tambahan yang diambil oleh Primordial Rhythm di luar platform agregasi API.

Siklus dalam konsep Primitif Rhythm dapat dihubungkan sekitar beberapa garis bisnis:

1. Routing Harness menghubungkan pengembang dengan tugas Agent
2. → Model penyediaan dan permintaan panggilan API TokenRhythm
3. → Dilaksanakan oleh organisasi Harness, akumulasi rute dan jejak tugas
4. Jejak yang tersedia telah disaring untuk pelatihan model
5. → Model yang diperbarui mengembalikan Harness, ikuti tugas adaptasi
6. → Perbaiki pengalaman tugas, eksplorasi kecepatan respons dan efisiensi biaya yang lebih baik
7. → Penggunaan berkelanjutan, pembayaran, dan peningkatan efisiensi operasional
8. → Mendukung penyempurnaan layanan dan investasi R&D pada putaran berikutnya

Salah satu perubahan kunci adalah bahwa trajektori yang dihasilkan oleh model tidak lagi hanya berhenti pada tahap konsumsi dan pemanggilan, tetapi juga dapat menjadi sumber untuk pelatihan model berikutnya.

Setiap kali agen menyelesaikan satu tugas, Harness mendapatkan satu observasi tambahan tentang batasan kemampuan.

Satu model gagal, sistem mengetahui di mana kemungkinan kesenjangan kemampuan terjadi; model lain berhasil mengambil alih, dan sistem mendapatkan jalur perbaikan baru; pengguna akhirnya menerima atau menolak hasil, memberikan umpan balik eksternal tambahan.

Semakin banyak tugas yang terakumulasi, semakin akurat penilaian rute; setelah penilaian rute menjadi lebih akurat, lintasan pelatihan yang disaring juga akan lebih mendekati tugas nyata; setelah model menjadi lebih cocok untuk tugas tersebut, layanan API berkesempatan mendapatkan biaya dan pengalaman yang lebih baik.

Jika siklus ini dapat berlaku dalam jangka panjang, perbedaan antara prinsip dasar dan platform agregasi API biasa juga akan secara bertahap memasuki desain tugas pelatihan, metode pelatihan, dan parameter model.

Terakhir, ditunjukkan melalui kinerja produk.

Di atas adalah latar belakang ketika Primal Rhythm mulai membahas RSI (Recursive Self-Improvement, Peningkatan Diri Rekursif).

Primitif Rhythmic saat ini memverifikasi rentang RSI yang lebih mendekati sebuah siklus teknis, yang dapat dibagi menjadi dua bagian.

Yang pertama adalah Data-RSI.

Model terus menjalankan tugas di Harness, dan setiap routing, pemanggilan alat, pemulihan kegagalan, serta hasil akhir menghasilkan catatan terstruktur baru.

Setelah direkam dan diproses, catatan-catatan ini dapat dimasukkan ke dalam kumpulan data pelatihan selanjutnya. Oleh karena itu, data pelatihan tidak perlu sepenuhnya bergantung pada persiapan manual sebelumnya, tetapi juga dapat bertambah seiring penggunaan sistem yang berkelanjutan.

Yang kedua adalah Model-RSI.

Sistem mengidentifikasi kelemahan kemampuan model berdasarkan hasil evaluasi, menyesuaikan distribusi data pelatihan untuk putaran berikutnya, memperbarui model, lalu mengembalikan model baru ke Harness untuk dijalankan.

Artinya, model belajar dari pengalaman eksekusi, dan model yang diperbarui kemudian menjalankan tugas baru untuk menghasilkan umpan balik baru bagi pelatihan berikutnya.

Namun, berdasarkan informasi yang saat ini dipublikasikan oleh NeoHorse, sistem ini belum dapat dianggap sebagai RSI yang lengkap.

Laporan teknis saat ini memvalidasi satu siklus tertutup "eksekusi-evaluasi-pemilihan-pembaruan". Desain sinyal, desain reward, dan proses pelatihan masih ditetapkan oleh manusia; apakah model generasi berulang dapat terus memperoleh peningkatan yang stabil juga perlu dikonfirmasi melalui lebih banyak eksperimen.

Oleh karena itu, pernyataan yang lebih akurat adalah bahwa rilis ini oleh NeoHorse telah menyelesaikan dua lapis verifikasi.

Lapisan pertama adalah aspek bisnis, data yang terakumulasi dalam sistem dapat digunakan untuk pelatihan model dan diubah menjadi peningkatan kapasitas yang dapat diukur.

Lapisan lainnya bersifat teknis, di mana Wang Yunhe memimpin tim startup dalam menyelesaikan verifikasi teknis satu putaran yang berfokus pada arah RSI.

Of course, for the story of Primal Rhythm to hold true, several hurdles still need to be overcome.

Pertama, apakah ekosistem open-source dapat terus diubah menjadi penggunaan API dan pendapatan.

Kedua, seiring peningkatan jenis tugas, apakah sistem dapat terus memperoleh trajektori Agent berkualitas tinggi yang cukup untuk pelatihan.

Ketiga, setelah kemampuan model ditingkatkan, apakah hal itu dapat secara stabil diubah menjadi pengalaman dan efisiensi pelaksanaan tugas yang lebih baik, serta tercermin lebih lanjut dalam data operasional.

Keempat, setelah beberapa iterasi model, berapa lama peningkatan kemampuan akan terus berlanjut.

Semua pertanyaan ini memerlukan pengamatan lebih lama.

Dan masih ada satu variabel yang tak bisa dihindari— DeepSeek 、Qwen、 MiniMax Pabrikan model juga sedang memperluas ke produk Harness dan Agent, dengan tren integrasi vertikal antara model dan infrastruktur Agent menjadi semakin jelas.

Sebagai contoh Primal Rhythm, salah satu perbedaan yang dimiliki perusahaan ini saat ini adalah netralitas model, serta data perbandingan horizontal yang terbentuk selama proses eksekusi lintas model.

Namun, jika perbedaan kemampuan antar model cukup besar, penjadwalan lintas model berpeluang menjadi bisnis mandiri; jika model teratas secara bertahap mencakup lebih banyak tugas, atau pabrikan sendiri menggabungkan Routing, pemanggilan alat, dan kerangka Agent menjadi satu paket, ruang bagi lapisan tengah akan terkompresi.

Ketika kemampuan hulu semakin kuat dan semakin murah, mengapa lapisan tengah ini masih diperlukan?

Untuk prinsip ritme, NeoHorse setidaknya menambahkan satu sudut pandang baru terhadap masalah ini.

Dulu ia membuktikan diri bisa "menggunakan model", sekarang mulai mencoba membuktikan bahwa data yang terakumulasi dari penggunaan jangka panjang model juga bisa mengendap menjadi kemampuan model miliknya sendiri.

Jika jalan ini berhasil, moat dari Element Oscillation tidak hanya berada pada strategi routing; jika gagal, ia tetap harus menghadapi semua masalah yang dihadapi lapisan tengah model.

GitHub: https://github.com/TokenRhythm/NeoHorse

Peluk wajah: https://huggingface.co/collections/TokenRhythm/neohorse-1

Artikel ini berasal dari akun WeChat "Quantum Bit", penulis: Heng Yu