Berita Huoxing Caijing melaporkan bahwa CEO OpenAI, Altman, minggu lalu memperkenalkan tiga skema pengembangan super AI yang aman kepada karyawan. Pertama, mendirikan organisasi pengawas global mirip Badan Energi Atom Internasional untuk memeriksa model canggih dan mengaudit langkah-langkah keamanan. Sumber yang mengetahui mengatakan bahwa Altman cenderung memilih jalur ini. Kedua, meniru Organisasi Riset Nuklir Eropa (CERN), di mana laboratorium AI utama bergabung menjadi satu organisasi atau berkolaborasi melalui lembaga terpadu, bukan terus bersaing secara individu. Ketiga, yang paling ekstrem, disebutnya sebagai "skema Eliezer": satu perusahaan AI mencapai peningkatan diri rekursif terlebih dahulu, lalu mengendalikan daya komputasi dengan kekuatan ekonomi yang tak tertandingi, sehingga pengembang lain tidak bisa mengejar. Altman menggambarkan gagasan ini sebagai "melelehkan GPU semua perusahaan lain," sekaligus menyatakan bahwa skema ini sangat buruk dan hanya dimaksudkan untuk melengkapi semua kemungkinan. Gagasan "melelehkan GPU" berasal dari peneliti keamanan AI Eliezer Yudkowsky, yang pada 2021 mengajukan eksperimen pemikiran tentang super AI menciptakan mesin nano yang dapat mereplikasi diri untuk melelehkan GPU global—namun ia menekankan bahwa ini hanyalah contoh ekstrem untuk menunjukkan tingkat intervensi, bukan usulan untuk dijalankan. Pada 2023, OpenAI pernah mengusulkan pembentukan "IAEA versi AI," dan Hassabis, pemimpin Google DeepMind, juga pernah mendukung pendirian "CERN versi AI." Saat ini, OpenAI, Google, dan Anthropic berencana membentuk organisasi standar keamanan bersama pada akhir tahun ini atau awal tahun depan, tetapi masih ada perbedaan pendapat mengenai tanggung jawab pengujian keamanan model. Altman ingin menetapkan batas kecepatan dalam pengembangan AI, sekaligus menyatakan bahwa OpenAI saat ini tidak bisa melepaskan keunggulan kompetitifnya kepada pesaing.
CEO OpenAI Mengusulkan Tiga Jalur untuk Pengembangan Super AI yang Aman
MarsBitBagikan
Ringkasan
CEO OpenAI, Sam Altman, menguraikan tiga strategi untuk pengembangan AI super yang aman kepada staf minggu lalu. Salah satu opsi adalah badan regulasi global sejenis IAEA untuk mengaudit langkah-langkah keamanan dan selaras dengan protokol CFT. Ide kedua menyarankan penggabungan laboratorium AI terkemuka menjadi entitas seperti CERN. Ketiga, "Rencana Eliezer," akan melihat satu perusahaan mencapai peningkatan mandiri dan mendominasi daya komputasi, meskipun Altman menolaknya. OpenAI, Google, dan Anthropic bertujuan meluncurkan kelompok standar keamanan pada akhir 2026, tetapi perselisihan masih berlanjut mengenai pengujian model, termasuk perlindungan aset safe-haven.
Sumber:Tampilkan versi asli
Penafian: Informasi pada halaman ini mungkin telah diperoleh dari pihak ketiga dan tidak mencerminkan pandangan atau opini KuCoin. Konten ini disediakan hanya untuk tujuan informasi umum, tanpa representasi atau jaminan apa pun, dan tidak dapat ditafsirkan sebagai saran keuangan atau investasi. KuCoin tidak bertanggung jawab terhadap segala kesalahan atau kelalaian, atau hasil apa pun yang keluar dari penggunaan informasi ini.
Berinvestasi di aset digital dapat berisiko. Harap mengevaluasi risiko produk dan toleransi risiko Anda secara cermat berdasarkan situasi keuangan Anda sendiri. Untuk informasi lebih lanjut, silakan lihat Ketentuan Penggunaan dan Pengungkapan Risiko.