Berita Huoxing Caijing melaporkan bahwa ilmuwan utama OpenAI, Jakub Pachocki, menerbitkan artikel berjudul "An Alien Mind" pada 6 September 2026. Artikel tersebut mengulas hasil pertama dari proyek penelitian RLSlow pada pertengahan 2023 yang menunjukkan kemampuan pelatihan dan inferensi model yang dapat diskalakan, menyatakan bahwa tiga tahun kemudian, model bahasa inferensi telah menjadi bagian penting dari pertumbuhan ekonomi yang cepat, mulai mendorong batas-batas ilmiah, mampu mengoperasikan komputer dan antarmuka grafis, berkolaborasi dengan manusia dan AI lainnya dalam proyek penelitian, sekaligus mengubah lanskap keamanan komputer dan membawa bahaya baru. Berdasarkan hasil internal, penulis memperkirakan kecepatan kemajuan saat ini dapat berlanjut hingga perbaikan mandiri rekursif. Jika perkembangan AI terus mengikuti jalur saat ini, sistem di masa depan kemungkinan akan mengalami lonjakan kemampuan yang setara atau lebih besar, serta semakin mendorong perkembangannya sendiri. Penulis menyerukan kehati-hatian ekstrem, menyatakan bahwa tidak ada yang siap menghadapi konsekuensi dari peningkatan cepat dan berkelanjutan dari kecerdasan mesin. OpenAI akan terus mencari solusi teknis untuk alignmen dan pemantauan, membangun sistem pertahanan, serta menghentikan skalisasi lebih lanjut secara sepihak jika diperlukan, tetapi menilai bahwa intervensi yang lebih luas diperlukan. Artikel tersebut menyatakan bahwa kecerdasan mesin terutama didorong oleh peningkatan kapasitas komputasi, dan AI lebih merupakan pertumbuhan daripada desain. Dalam hal alignmen, dibedakan antara alignmen tujuan dan alignmen nilai; tantangan utama adalah generalisasi. Alignmen GPT-6 Astra jauh lebih unggul dibanding GPT-5.6 Sol, tetapi masih memerlukan kemajuan lebih lanjut. Dalam hal pemantauan, fokus utama ditempatkan pada pemantauan rantai pemikiran; evaluasi menunjukkan ketergantungan pada kemampuan ini secara bertahap melemah. Dalam hal pertahanan yang dapat diskalakan, model kini menjadi supermanusia dalam menembus sistem komputer, dan saat ini berada dalam jendela sempit untuk menggunakan model terbaik yang tersedia guna memperkuat keamanan sistem kritis.
Ilmuwan Utama OpenAI Memperingatkan Kemajuan Cepat AI Menuju Peningkatan Diri Rekursif
MarsBitBagikan
Ringkasan
Ilmuwan Utama OpenAI, Jakub Pachocki, menerbitkan artikel pada 6 September 2026 berjudul 'An Alien Mind.' Ia memperingatkan bahwa kemajuan AI sedang mempercepat menuju peningkatan mandiri rekursif, didorong oleh model penalaran skalabel yang pertama kali ditunjukkan pada 2023 oleh proyek RLSlow. Model-model ini kini memengaruhi pertumbuhan ekonomi, penelitian ilmiah, dan keamanan siber. Pachocki menekankan perlunya keselarasan dan pemantauan, karena masyarakat belum siap menghadapi lonjakan kemampuan yang cepat. OpenAI mungkin menghentikan skala jika diperlukan. Artikel tersebut mencatat bahwa pertumbuhan AI bergantung pada peningkatan daya komputasi, dengan sistem Proof of Work (PoW) dan Proof of Stake (PoS) memainkan peran dalam alokasi sumber daya.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.