Penyelidik AI terkemuka mengkaji pembangunan AI yang digerakkan oleh AI

Bagaimana untuk membiarkan AI mengembangkan AI generasi seterusnya untuk anda

Penulis artikel, sumber: Aplikasi WeChat "APPSO"

Jika seorang jurutera AI warga negara, mahir dalam teknologi, mempunyai latar belakang yang cemerlang, dan lulus dari universiti terkemuka seperti Universiti Peking, maka ta boleh membuat apa-apa sahaja, tetapi tidak mungkin tidak bekerja.

Setelah sebelumnya meninggalkan Thinking Machines Lab kerana kesihatan dan kehidupan adalah “kerja yang paling penting untuk diselaraskan”, Weng Li kini dilaporkan kembali bekerja di OpenAI. Menurut jurucakap syarikat, dia akan memimpin sebuah pasukan yang mempercepat penyelidikan dalaman, serta terlibat dalam eksplorasi OpenAI terhadap “peningkatan diri berulang”, iaitu membolehkan AI terlibat dalam pelatihan dan peningkatan model generasi seterusnya.

Tidak terkecuali, rakan sekerja lamanya, Ilya Sutskever, salah seorang tokoh utama OpenAI yang mendirikan Safe Superintelligence, akhirnya membuka sedikit celah daripada penyelidikan yang sangat rahsia. NVIDIA, setelah mendapat akses yang jarang berlaku kepada penyelidikan dalaman, memutuskan untuk melabur dalam SSI dan meningkatkan kuasa pengiraannya satu peringkat dengan sistem Vera Rubin generasi baru.

NVIDIA yakin bahawa SSI telah meneruskan arah penyelidikan baru yang berbeza daripada jalan sedia ada untuk model besar dalam dua tahun terakhir. Ilya tidak memberikan maklumat lanjut, hanya mengatakan: "Kami mempunyai penyelidikan yang layak untuk diperbesarkan."

Kumpulan orang yang penasaran menjadi lebih bersemangat, dan sebuah analisis songsang terhadap petunjuk awam muncul di media sosial, mengesyorkan bahawa SSI bukan mencari resepi pra-latihan yang lebih besar seterusnya, tetapi satu cara iterasi dan evolusi baharu: membolehkan model tidak hanya berhenti setelah latihan selesai, tetapi terus berkembang menjadi generasi seterusnya yang lebih kuat melalui maklum balas, eksperimen, dan pembelajaran berterusan.

Penilaian ini belum disahkan oleh SSI, tetapi ia sangat selari dengan pendirian Ilya sebelum ini. Beliau sebelum ini telah berulang kali menyatakan bahawa era scaling yang bergantung semata-mata pada lebih banyak data dan kuasa pengiraan sedang mendekati batasnya, dan AI perlu belajar semula bagaimana seperti manusia, membentuk pemahaman yang lebih mendalam dengan pengalaman yang kurang, serta terus berkembang melalui interaksi dengan persekitaran.

Kepala-kepala bakat AI yang sudah sangat berjaya ini kelihatannya semuanya sedang memandang ke arah yang sama: bagaimana membuat AI menggantikan mereka dalam mengembangkan AI generasi seterusnya.

Apabila disebut tentang peningkatan diri berulang, mudah untuk membayangkan adegan sains fiksyen: AI tiba-tiba menyedari kelemahannya, mengubah bobot rangkaian saraf secara langsung, dan bangun dengan kecerdasan sepuluh kali ganda lebih tinggi daripada semalam.

Titik permulaan dalam dunia nyata jauh lebih sederhana. Pengembangan AI pada dasarnya adalah garis produksi berulang: penyelidik membaca kertas kerja dan rekod eksperimen, mengemukakan satu hipotesis, memodifikasi kod latihan, mengantri untuk menjalankan eksperimen, menunggu hasil keluar, membandingkan indikator, mencari sebab kegagalan, kemudian mereka bentuk rancangan seterusnya.

Model besar hari ini sudah boleh terlibat dalam banyak peringkat, ia mampu membaca repositori kod, mereplikasi kertas kerja, menulis skrip eksperimen, memanggil kuasa pengiraan untuk menjalankan ujian, mengatur puluhan set keputusan, menganalisis parameter mana yang mungkin bermasalah, kemudian meneruskan pengubahsuaian kod. Dahulu, satu pasukan memerlukan beberapa hari untuk menyelesaikan satu putaran kerja, tetapi di masa depan, beberapa agen pintar mungkin akan mencuba puluhan laluan secara serentak, kemudian menyerahkan keputusan yang paling menjanjikan kepada manusia untuk penilaian.

Weng Li dalam esei panjangnya yang diterbitkan pada awal Julai, "Harness Engineering for Self-Improvement", hampir menulis terlebih dahulu arah penyelidikan yang akan dia kendalikan. Beliau berpendapat, lintasan paling realistik untuk peningkatan diri pada masa ini bukanlah model yang secara langsung menulis semula otak, tetapi membolehkan AI terlebih dahulu belajar untuk mengubah persekitaran kerjanya: menganalisis rekod kegagalan secara automatik, menyesuaikan pengurusan konteks, pemanggilan alat, dan aliran kerja, kemudian terus mengoptimumkan sistem ini melalui keputusan eksperimen baharu. Harness yang lebih matang boleh mendorong penyelidikan automatik, sementara model yang lebih kuat boleh sebaliknya membuat harness menjadi lebih mudah, membentuk satu kitaran timbal balik.

Ini juga menciptakan resonansi menarik antara dua lintasan Wang Li dan Ilya: OpenAI seolah-olah secara bertahap menyerahkan proses penyelidikan semasa kepada AI, menjadikannya terlebih dahulu seorang jurutera penyelidik yang berfungsi; SSI pula mungkin berusaha mencari paradigma pembelajaran baru yang lebih asas, supaya model itu sendiri memiliki kemampuan untuk beriterasi dan berevolusi secara berterusan.

AI tidak perlu mula-mula mempunyai kemampuan untuk mengubah bobotnya sendiri secara langsung. Selagi ia mampu memperbaiki proses latihan, menyaring data, mereka ujian, atau mengoptimumkan harness yang membungkus model, ia sudah terlibat dalam mencipta penggantinya.

Yang pertama bergerak masuk dari kitaran kejuruteraan, manakala yang kedua bergerak keluar dari mekanisme model, dengan tujuan memperpendek jarak antara AI generasi satu ke generasi seterusnya.

Sementara para pemain besar ingin mempercepat taruhan mereka terhadap jalan ini, suara lain muncul di dalam industri.

Minggu ini, lebih daripada 1,100 praktisi dari syarikat-syarikat seperti OpenAI, Anthropic, Google, dan Meta menandatangani pernyataan yang meminta pembinaan awal teknologi dan alat koordinasi untuk mengawal laju "pengembangan AI automatik". Peserta termasuk penyelidik-penyelidik tinggi seperti Jakub Pachocki, Ketua Saintis OpenAI, Jack Clark dan Jared Kaplan, rakan penubuh Anthropic—serta Ilya sendiri.

Petisyen tersebut tidak meminta penghentian penyelidikan AI, bahkan tidak menafikan nilai yang mungkin dibawa oleh peningkatan diri. Ia bimbang bahawa sekiranya AI mula mempercepatkan pembangunan AI secara ketara, pertumbuhan kemampuan mungkin berlaku lebih cepat daripada kecekapan manusia dalam memahami dan mengawal sistem.

Fikirkan dengan teliti, perubahan berulang yang "kelihatan bertentangan" ini datang daripada kumpulan yang sama, bahkan individu yang sama. Pada masa yang sama, mereka boleh membuat dua penilaian: mereka percaya bahawa penyelidikan automatik mungkin merupakan kunci kepada lompatan seterusnya dalam AI, dan juga percaya bahawa sekiranya litar umpan balik ini benar-benar berfungsi, industri mesti mempunyai keupayaan untuk memperlambatkan laju apabila diperlukan.

Kerana satu kitaran ini apabila terbentuk, ia berbeza daripada memperkenalkan model yang lebih kuat pada masa lalu. Kelajuan kemajuan pada masa lalu akhirnya terbatas oleh pasukan penyelidik manusia. Manusia perlu mengemukakan soalan, mengatur eksperimen, dan menilai keputusan, dan kemajuan juga boleh terhenti disebabkan oleh bajet, tenaga kerja, dan proses organisasi.

Matlamat pengembangan AI automatik ialah secara berperingkat menghilangkan bottleneck-bottleneck ini. Model semakin kuat, semakin banyak membantu pasukan mencipta model generasi seterusnya lebih pantas; model generasi seterusnya pula akan menjadi penyelidik yang lebih baik, serta memperpendek masa pengembangan seterusnya.

Oleh itu, walaupun dua kekuatan yang kelihatan bertentangan, keduanya berkongsi premis yang sama: pengembangan AI automatik sedang berubah daripada konsep jauh menjadi satu matlamat kejuruteraan yang spesifik.

Weng Jing kembali ke OpenAI, menunjukkan bahawa peningkatan diri berulang telah memperoleh organisasi dan pemimpin khusus; NVIDIA bersedia untuk mengalokasikan dana besar dan kekuatan pengiraan terkini selepas melihat kajian rahsia SSI, menunjukkan bahawa laluan pembelajaran baharu sekurang-kurangnya telah sampai ke peringkat yang layak untuk diperluaskan pengesahannya.

Pemohon meminta persediaan brek, bukan kerana mereka percaya jalan ini tidak akan berjaya, malah kerana mereka mula mempertimbangkan dengan serius apa yang akan berlaku selepas ia berjaya.

Perbezaan sebenar bukan sama ada AI seharusnya membantu manusia dalam penyelidikan. Penghasilan kod, pencarian kertas kerja, dan automatik eksperimen sudah lama memasuki makmal. Sebaliknya, apabila AI berubah daripada alat yang meningkatkan kecekapan penyelidik kepada sistem penyelidikan yang mampu mencadangkan penyelesaian sendiri, menjalankan eksperimen, menilai keputusan, dan memperbaiki proses seterusnya, manusia harus mengekalkan kuasa pengambilan keputusan pada titik-titik mana.

Ini bermakna serangkaian isu yang perlu dibincangkan: siapa yang menetapkan matlamat pengoptimuman? Siapa yang menilai sama ada perubahan yang kelihatan meningkatkan skor telah merosakkan sempadan keselamatan? Apabila pelbagai makmal berada dalam persaingan, syarikat mana yang bersedia untuk menghentikan sementara satu iterasi yang berkesan? Jika kitaran pembangunan model benar-benar dipendekkan dari setahun kepada beberapa bulan atau minggu, adakah penilaian luaran dan pasukan keselamatan dalaman masih mampu mengekori?

Syarikat AI kini bukan sekadar bersaing untuk mencipta model popular, tetapi sedang bersaing untuk mengembangkan sistem penyelidikan dan pembangunan yang mampu menghasilkan model yang lebih kuat secara berterusan.

Di satu sisi, para penyelidik terkemuka seperti Ilya dan Weng Li ingin mencari cara iterasi baru agar AI terlibat dalam evolusi mereka; di sisi lain, ribuan penyelidik dalam industri yang sama meminta persiapan awal mekanisme perlambatan. Antara dua sikap ini, kubu sentiasa berubah, dan sikap tidak saling bertentangan—semua orang menghadapi satu masalah bersama: apabila alat penyelidikan mula mempercepat penyelidikan itu sendiri, siapakah yang masih boleh menentukan kapan AI generasi seterusnya seharusnya tiba?