Peneliti AI Terkemuka Menjelajahi Pengembangan AI yang Didorong oleh AI

Bagaimana membuat AI mengembangkan AI generasi berikutnya untuk Anda

Penulis artikel, sumber: Akun WeChat "APPSO"

Jika seorang insinyur AI asal Tiongkok, memiliki keahlian teknis yang kuat, riwayat yang cemerlang, dan lulusan dari universitas top seperti Peking University, maka ta bisa melakukan apa saja, tapi tidak mungkin tidak bekerja.

Sebelumnya, Weng Li yang meninggalkan Thinking Machines Lab karena menganggap kesehatan dan kehidupan sebagai "pekerjaan yang paling penting untuk diselaraskan", kini dikabarkan kembali bergabung dengan OpenAI. Menurut juru bicara perusahaan, ia akan memimpin tim yang mempercepat penelitian internal, serta terlibat dalam eksplorasi OpenAI terhadap "perbaikan diri rekursif"—yaitu memungkinkan AI untuk berpartisipasi dalam pelatihan dan meningkatkan model generasi berikutnya.

Tidak sendirian, rekan kerjanya yang sebelumnya, Ilya Sutskever, salah satu tokoh inti OpenAI yang mendirikan Safe Superintelligence, akhirnya membuka sedikit celah dari penelitian rahasia mereka. NVIDIA, setelah mendapatkan akses langka ke penelitian internal, memutuskan untuk berinvestasi di SSI dan memperluas daya komputasinya sepuluh kali lipat dengan sistem Vera Rubin generasi baru.

NVIDIA yakin bahwa SSI selama dua tahun terakhir telah mendorong arah penelitian baru yang berbeda dari jalur model besar yang ada. Ilya tidak mengungkapkan lebih lanjut, hanya mengatakan: "Kami memiliki penelitian yang layak untuk diperluas."

Kerumunan yang penasaran menjadi semakin bersemangat, muncul sebuah analisis terbalik terhadap petunjuk publik di media sosial, yang menduga bahwa SSI tidak mencari resep pra-pelatihan berikutnya yang lebih besar, melainkan sebuah cara iterasi dan evolusi baru: membuat model tidak hanya diam setelah pelatihan selesai, tetapi terus berkembang menjadi generasi berikutnya yang lebih kuat melalui umpan balik, eksperimen, dan pembelajaran berkelanjutan.

Penilaian ini belum dikonfirmasi oleh SSI, tetapi sangat konsisten dengan klaim Ilya di masa lalu. Ia sebelumnya telah beberapa kali menyatakan bahwa era scaling yang hanya mengandalkan lebih banyak data dan daya komputasi sedang mendekati batasnya; AI perlu belajar kembali seperti manusia, membentuk pemahaman yang lebih dalam dengan sedikit pengalaman, dan terus berkembang melalui interaksi dengan lingkungan.

Para ahli AI papan atas yang sudah sangat sukses ini tampaknya semua melihat ke arah yang sama: bagaimana membuat AI mengembangkan AI generasi berikutnya untuk mereka.

Mengingat peningkatan diri rekursif, mudah membayangkan adegan fiksi ilmiah: AI tiba-tiba menyadari kelemahannya, langsung mengubah bobot jaringan saraf, dan bangun dengan kecerdasan sepuluh kali lebih tinggi dari kemarin.

Titik awal di dunia nyata jauh lebih sederhana. Pengembangan AI pada dasarnya adalah jalur produksi yang berulang terus-menerus: peneliti membaca paper dan catatan eksperimen, merumuskan sebuah hipotesis, memodifikasi kode pelatihan, antri untuk menjalankan eksperimen, menunggu hasilnya keluar, membandingkan metrik, mencari penyebab kegagalan, lalu merancang siklus berikutnya.

Model besar hari ini sudah dapat terlibat dalam banyak tahap proses, ia dapat membaca repositori kode, mereproduksi paper, menulis skrip eksperimen, memanggil daya komputasi untuk menjalankan pengujian, mengatur puluhan hasil, menganalisis parameter mana yang mungkin bermasalah, lalu terus memperbaiki kode. Dulu, tim yang terdiri dari beberapa orang membutuhkan beberapa hari untuk menyelesaikan satu siklus kerja, namun di masa depan, beberapa agen cerdas dapat secara paralel mencoba puluhan jalur, lalu menyerahkan hasil yang paling menjanjikan kepada manusia untuk penilaian.

Weng Li pada awal Juli menerbitkan artikel panjang berjudul "Harness Engineering for Self-Improvement", yang hampir secara tepat memprediksi arah penelitian yang akan dia pimpin. Ia berpendapat bahwa jalur paling realistis untuk perbaikan diri saat ini bukanlah model yang secara langsung menulis ulang otak, melainkan membiarkan AI terlebih dahulu belajar untuk mengubah lingkungan kerjanya sendiri: menganalisis otomatis catatan kegagalan, menyesuaikan manajemen konteks, pemanggilan alat, dan alur kerja, lalu terus mengoptimalkan sistem ini berdasarkan hasil eksperimen baru. Harness yang lebih matang dapat mendorong penelitian otomatis, sementara model yang lebih kuat dapat sebaliknya menyederhanakan harness, menciptakan siklus timbal balik.

Ini juga menciptakan resonansi menarik antara dua jalur Wang Li dan Ilya: OpenAI sepertinya secara bertahap menyerahkan proses riset yang ada kepada AI, membuatnya terlebih dahulu menjadi insinyur riset yang dapat berfungsi; sementara SSI mungkin berusaha mencari paradigma pembelajaran baru yang lebih mendasar, sehingga model itu sendiri memiliki kemampuan untuk terus beriterasi dan berevolusi.

AI tidak perlu awalnya memiliki kemampuan untuk secara langsung mengubah bobotnya sendiri. Selama ia dapat meningkatkan proses pelatihan, menyaring data, merancang evaluasi, atau mengoptimalkan harness yang membungkus model, ia sudah berpartisipasi dalam menciptakan penerusnya.

Yang pertama bergerak ke dalam dari siklus teknik, yang kedua bergerak keluar dari mekanisme model, dengan tujuan memperpendek jarak antara AI generasi satu ke generasi berikutnya.

Saat para pelaku besar ingin mempercepat taruhan pada jalur ini, muncul suara lain di dalam industri.

Minggu ini, lebih dari 1.100 praktisi dari perusahaan seperti OpenAI, Anthropic, Google, dan Meta menandatangani pernyataan yang menyerukan pembentukan teknologi dan alat koordinasi untuk mengendalikan kecepatan "pengembangan AI otomatis". Peserta termasuk ilmuwan utama OpenAI Jakub Pachocki, co-founder Anthropic Jack Clark dan Jared Kaplan, serta Ilya sendiri.

Petisi tersebut tidak meminta penghentian penelitian AI, bahkan tidak menyangkal nilai yang mungkin dibawa oleh peningkatan mandiri. Petisi tersebut khawatir bahwa begitu AI mulai mempercepat signifikan pengembangan AI, pertumbuhan kemampuan bisa lebih cepat daripada kecepatan manusia dalam memahami dan mengendalikan sistem.

Pikirkan lebih dalam, fluktuasi berulang yang "terlihat kontradiktif" ini berasal dari kelompok yang sama, bahkan dari individu yang sama. Pada waktu yang sama, mereka dapat membuat dua penilaian: mereka percaya bahwa penelitian otomatis mungkin merupakan kunci lompatan berikutnya AI, sekaligus percaya bahwa ketika umpan balik ini benar-benar berjalan, industri harus memiliki kemampuan untuk memperlambat jika diperlukan.

Karena siklus ini, begitu terbentuk, berbeda dari peluncuran model yang lebih kuat di masa lalu. Kecepatan kemajuan di masa lalu pada akhirnya dibatasi oleh tim peneliti manusia. Manusia harus mengajukan pertanyaan, mengatur eksperimen, dan menilai hasil, serta kemajuan bisa terhenti karena anggaran, tenaga kerja, dan proses organisasi.

Tujuan pengembangan AI otomatis adalah secara bertahap menghilangkan hambatan-hambatan ini. Semakin kuat modelnya, semakin besar bantuan yang diberikan kepada tim untuk lebih cepat menciptakan model generasi berikutnya; model generasi berikutnya akan menjadi peneliti yang lebih baik, sehingga memperpendek waktu pengembangan putaran berikutnya.

Oleh karena itu, meskipun tampak seperti dua kekuatan yang kontradiktif, keduanya berbagi premis yang sama: pengembangan AI otomatis sedang berubah dari gagasan jauh menjadi tujuan teknis yang konkret.

Weng Jing kembali ke OpenAI, menunjukkan bahwa peningkatan diri rekursif telah mulai mendapatkan organisasi dan pemimpin khusus; NVIDIA bersedia menginvestasikan dana besar dan daya komputasi terbaru setelah melihat penelitian rahasia SSI, menunjukkan bahwa jalur pembelajaran baru setidaknya telah mencapai tahap yang layak untuk diperluas dan diverifikasi.

Para penandatangan petisi meminta persiapan rem, bukan karena mereka menganggap rute ini tidak akan berhasil, justru karena mereka mulai serius mempertimbangkan apa yang akan terjadi setelahnya berhasil.

Perbedaan sejati bukanlah apakah AI seharusnya membantu manusia dalam penelitian. Generasi kode, pencarian paper, dan otomatisasi eksperimen sudah lama memasuki laboratorium. Namun, ketika AI berubah dari alat yang meningkatkan efisiensi peneliti menjadi sistem penelitian yang mampu mengusulkan solusi sendiri, menjalankan eksperimen, mengevaluasi hasil, dan memodifikasi proses putaran berikutnya, manusia harus mempertahankan hak keputusan di titik-titik mana saja.

Ini berarti serangkaian masalah yang perlu dibahas: siapa yang menetapkan tujuan optimasinya? Siapa yang menilai apakah perubahan yang tampaknya meningkatkan skor merusak batas keamanan? Ketika beberapa laboratorium saling bersaing, perusahaan mana yang bersedia menghentikan sementara satu iterasi yang efektif? Jika siklus pengembangan model benar-benar berkurang dari satu tahun menjadi beberapa bulan atau minggu, apakah evaluasi eksternal dan tim keamanan internal masih bisa mengejar?

Perusahaan AI sekarang tidak lagi hanya bersaing untuk menciptakan model populer, tetapi sedang bersaing untuk membangun sistem penelitian dan pengembangan yang mampu terus menghasilkan model yang lebih kuat.

Di satu sisi, para peneliti top seperti Ilya dan Weng Li ingin menemukan cara iterasi baru agar AI terlibat dalam evolusi mereka; di sisi lain, ribuan peneliti di industri yang sama menuntut persiapan sebelumnya terhadap mekanisme perlambatan. Di antara dua posisi ini, kubu-kubu selalu berubah, dan sikapnya tidak saling bertentangan—semua orang menghadapi tantangan bersama: ketika alat penelitian mulai mempercepat penelitian itu sendiri, siapa yang masih bisa menentukan kapan AI generasi berikutnya seharusnya tiba?