Penyelidik MIT gunakan GPT-6 Astra untuk meningkatkan kemampuan matematik Qwen sebanyak 6x

Ditulis oleh Shenchao TechFlow

Tidak perlu latihan, tidak perlu data, tidak perlu penurunan gradien.

Penyelidik dari MIT memberikan bobot model kecil sumber terbuka kepada GPT-6 Astra, dan memberikan arahan dalam bahasa semula jadi: "Tingkatkan kemampuan matematiknya."

Astra menghabiskan 20 jam, memeriksa 800 juta parameter, dan menjalani pembedahan untuk menemukan 131.072 bobot dalam jaringan dua lapisan.

Sebelum pembedahan, model ini mendapat skor 7.9% pada ujian rujukan MATH-500; selepas pembedahan, 48.1%.

Ini adalah berita AI paling mengejutkan hari ini.

Pada 2 November, pasukan penyelidik dari Laboratorium Sains Komputer dan Kecerdasan Buatan MIT (CSAIL) menerbitkan sebuah blog yang mengumumkan keputusan eksperimen yang mereka sebut sebagai "Pemrograman Ruang Bobot" (Weight-Space Programming). Penulis pertama, Rikiya Takehi, adalah pelajar doktoral tahun pertama di CSAIL MIT, dengan rakan kajian termasuk Jayden Teoh, Alex Zhang, dan pensyarah Takehi, Omar Khattab.

Gagasan utama eksperimen ini boleh diringkaskan dalam satu ayat: biarkan AI yang cukup kuat membaca secara langsung “otak” AI lain, mengenal pasti masalahnya, kemudian memodifikasinya dengan tepat seperti menggunakan pisau pembedah.

Pesakit yang dipilih ialah model sumber terbuka Alibaba, Qwen3.5-0.8B, sebuah model bahasa kecil dengan 800 juta parameter. Perindu pula ialah GPT-6 Astra terkini dari OpenAI.

Pasukan penyelidik memberikan tiga perkara kepada Astra: sekumpulan soalan matematik, persekitaran Python yang boleh membaca dan menulis timbangan model, serta akses terhad kepada panggilan inferens model. Tiada GPU, tiada kitaran latihan, tiada pengoptimum. Astra perlu, seperti seorang penyelidik manusia, mendiagnosis masalah melalui pemerhatian tingkah laku model dan pemeriksaan nilai timbangan, kemudian mengubah parameter secara langsung.

Proses keseluruhan mengambil masa 20.3 jam, dengan 4.7 jam dihabiskan menunggu perkhidmatan pulih. Astra menjalani 158 perbualan, 80 pelaksanaan Python, dan 50 penilaian model.

Pada akhirnya, ia menemukan satu "arah numerik" yang menyebabkan model terjebak dalam output berulang di matriks output MLP pada lapisan ke-15 dan ke-19, kemudian mengurangkan arah ini dari 64 kolom output. Jumlah bobot yang dimodifikasi ialah 131,072, atau 0.016% daripada semua parameter model.

Perubahan kecil, kesan besar.

Berikut adalah perbandingan sebelum dan selepas pengubahsuaian pada tiga ujian piawai:

MATH-500: 7.9% → 48.1%

GSM8K: 13.8% → 67.1%

IFEval (Pematuhan arahan): 21.0% → 62.3%

Nombor yang lebih intuitif ialah: sebelum pengubahsuaian, 93% jawapan Qwen3.5-0.8B pada MATH-500 terkena had 32,768 token kerana terperangkap dalam kitaran pengulangan. Selepas pengubahsuaian, nisbah ini turun kepada 33.1%.

Laporan VentureBeat membandingkannya dengan "suntingan gen pada rangkaian saraf". Perbandingan ini secara tepat menangkap intinya: latihan model tradisional seperti membiarkan seseorang meningkatkan kemampuan matematik melalui latihan berulang, manakala pemrograman ruang bobot lebih seperti membuka otak secara langsung, mencari saraf yang salah sambung, dan menyambungkannya semula.

Namun, pasukan penyelidik itu sendiri memberikan batasan penting: Astra tidak menyuntikkan kemampuan matematik baru ke dalam Qwen, ia hanya menghilangkan halangan yang menghalang model daripada memperlihatkan kemampuan yang sudah ada.

Perbezaan ini sangat penting. Untuk mengesahkan ini, pasukan mengulangi eksperimen yang sama pada model Gemma 3 270M milik Google. Gemma 3 jarang mengalami masalah output berulang (hanya 8.5% jawapan menyentuh had token), dan hasilnya, Astra hampir tidak meningkatkan skor MATH-500-nya, dengan fluktuasi tidak melebihi 1 peratus.

Kesimpulannya jelas: Pemrograman ruang bobot saat ini mampu melakukan "menghapus halangan", bukan "membina jalan baru".

Matematik hanyalah satu senario yang dipaparkan oleh pasukan penyelidikan, dan kemampuan Astra dalam ruang berat jauh melebihi itu.

Mengenal “jiwa”: Pasukan penyelidik melatih empat rangkaian strategi permainan Atari yang mempunyai arsitektur identik (Breakout, Pong, Pac-Man, Freeway), kemudian hanya memberikan berat kepada Astra tanpa memberikan label apa pun. Astra hanya dengan menggunakan nilai berat mampu mengenal dengan tepat permainan yang berkaitan dengan setiap rangkaian. Cara penalarannya ialah: berat lapisan pertama rangkaian Breakout terkumpul di bahagian bawah skrin (posisi raket), manakala taburan tindakan lapisan keluaran cenderung ke arah pergerakan kiri dan kanan.

Membina rangkaian dari awal: Dalam eksperimen MinAtar (versi mini Atari), Astra menulis rangkaian strategi permainan secara langsung dalam ruang berat, dari awal. Pada Breakout, rangkaian yang ditulis oleh Astra mendapat skor 517.4, manakala rangkaian yang dilatih dengan algoritma PPO selama 500 juta langkah hanya mendapat skor 25.3.

Memperbaiki pengendali autonoom yang terjebak: Pengendali kereta yang dilatih dengan PPO terjebak di lereng akibat optimum tempatan. Astra hanya menggunakan satu percakapan, mengubah 3.5% bobot, dan pengendali yang diperbaiki berjaya sepenuhnya dalam 1,024 ujian.

Titik persamaan dalam eksperimen ini ialah: Astra tidak hanya mampu 「membaca」 berat, memahami apa yang diwakili oleh setiap nombor, tetapi juga mampu 「menulis semula」 berat, membolehkan model melakukan perkara yang tidak dapat dilakukan oleh algoritma latihan.

Sebelum pengaturan pemrograman ruang bobot, akademik telah mencuba mengedit bobot model secara langsung. ROME di NeurIPS 2022 dan MEMIT di ICLR 2023 semuanya menunjukkan bagaimana untuk menyisipkan atau memodifikasi pengetahuan fakta secara tepat dalam bobot model bahasa, seperti menukar "Menara Eiffel berada di Paris" kepada "Menara Eiffel berada di Rome".

Namun, ROME dan MEMIT melakukan penggantian berdasarkan fakta, dengan objek operasi ialah satu unit pengetahuan. Perbezaan yang ditunjukkan oleh pasukan MIT kali ini: Astra mengubah kemampuan generik model, iaitu penalaran matematik dan kepatuhan arahan, yang melintasi sempadan daripada «mengedit satu titik pengetahuan» kepada «mengubah satu corak tingkah laku».

Penilaian Takehi dalam blognya lebih agresif: "Bobot rangkaian saraf akan segera dioptimasi secara native oleh LLM yang mampu menalar bobot."

Jika arah ini disahkan, skenario aplikasi berpotensi termasuk:

Pembaikan model: Selepas penghantaran, jika model mengalami masalah, tidak perlu ditarik semula untuk dilatih semula—biarkan AI lain “mendiagnosis” dan memperbaikinya. Bagi model canggih yang kos latihannya boleh mencapai puluhan juta dolar, ini boleh bermakna penghematan kos yang besar.

Pengauditan model: Jika AI boleh membaca berat, penyelidik keselamatan juga boleh menggunakannya untuk memeriksa sama ada model tersebut telah ditanam dengan backdoor atau perilaku jahat.

Penyesuaian model sumber terbuka: AI yang cukup kuat boleh "menyesuaikan" kemampuan model sumber terbuka melalui arahan bahasa semula jadi, tanpa memerlukan infrastruktur latihan apa pun.

GPT-6 Astra sendiri adalah model yang penuh kontroversi. OpenAI pernah menangguhkan pelancaran versi terkemukaannya, GPT-6.1 Astra, kerana kebimbangan keselamatan.

Ilmuwan utama OpenAI, Jakub Pachocki, menulis artikel peringatan tiga hari selepas pelancaran Astra: hasil ujian dalaman OpenAI menunjukkan bahawa kemajuan AI mungkin bergerak ke arah "peningkatan diri berulang", di mana sistem AI semakin banyak terlibat dalam membina penerusnya sendiri. Beliau berkata, tiada sistem semakan dalaman mana-mana makmal yang mencukupi untuk menghadapi prospek ini.

Pemrograman ruang bobot secara tepat menyentuh inti amaran ini. Jika satu AI boleh mengubah bobot AI lain untuk meningkatkan kemampuannya, secara teori, adakah satu AI boleh mengubah bobotnya sendiri?

Pasukan penyelidik dengan jelas menyatakan dalam blog bahawa mereka tidak menunjukkan peningkatan diri berulang, juga tidak menunjukkan kesan yang boleh berterusan dan bertambah. Namun, ini tidak menghalang kewaspadaan komuniti keselamatan. Maxime Fournes dari PauseAI menyebutnya sebagai "arah penyelidikan yang sangat tidak bertanggungjawab".

Pembatasan semasa adalah nyata: eksperimen hanya berjaya pada model kecil dengan 800 juta parameter, dan gagal pada Gemma 3. Proses keseluruhan memerlukan 20 jam dan banyak percubaan dan kesilapan, tiada pasukan bebas yang berjaya meniru semula, dan kelebihan kos berbanding penyesuaian tradisional juga belum disahkan.

Tetapi arahnya telah ditunjukkan. Kertas kerja di ICML 2026 telah mencadangkan bahawa ruang bobot seharusnya menjadi "moda kelas pertama" dalam AI generatif, sejajar dengan teks, imej, dan audio, di mana model seharusnya memahami dan mengendalikan bobot secara asli.

Jika 2024 adalah tahun di mana AI belajar "menggambarkan gambar", 2025 adalah tahun di mana AI belajar "menulis kod secara aktif", maka 2026 mungkin sedang menjadi tahun di mana AI belajar "memperbaiki AI".

Where this road leads is currently unknown.