Sam Altman Memperingatkan Pengembangan AI Harus Diperlambat untuk Mengatasi Risiko Frontier

Wawasan Utama:

• Peringatan Sam Altman menggeser berita AI menuju pengembangan yang lebih lambat dan keamanan yang lebih kuat.
• OpenAI menyiapkan kasus keamanan sebelum pelatihan yang diharapkan dapat meningkatkan kemampuan.
• Altman memperingatkan tentang hilangnya kendali manusia dan kekuatan AI yang berlebihan di tangan satu pihak.

Berita AI beralih ke keselamatan frontier setelah CEO OpenAI Sam Altman menyerukan pengembangan model yang lebih lambat dan dipantau dengan lebih hati-hati. Ia memperingatkan bahwa umat manusia bisa kehilangan kendali jika kemampuan berkembang lebih cepat daripada sistem penyelarasan dan pemantauan.

Altman juga mengidentifikasi kendali terpusat yang kuat atas AI kuat sebagai bahaya terpisah. Pernyataannya pada 14 September mendukung kemajuan berkelanjutan, meskipun pengembang harus menerima biaya keamanan tambahan dan pengembangan yang lebih lambat.

Altman menyetujui proposal CEO Anthropic, Dario Amodei, untuk memperlambat pengembangan sambil para peneliti memperkuat perlindungan keamanan.

Namun, ia menjelaskan bahwa pengaturan kecepatan tidak berarti menghentikan kemajuan teknologi. Sebaliknya, laboratorium harus menerima perkembangan yang lebih lambat ketika tinjauan keselamatan memerlukan lebih banyak waktu. Intervensi-intervensi tersebut menimbulkan biaya tinggi, tetapi Altman menggambarkan biaya-biaya tersebut sebagai hal yang diperlukan.

Selain berita AI, Altman mengatakan tekanan kompetitif di dalam Amerika Serikat seharusnya tidak pernah membenarkan pengembangan yang sembarangan. Ia menambahkan bahwa kemampuan model tidak boleh maju melampaui sistem penyelarasan dan pemantauan.

Kemajuan telah dipercepat, membuat pengembangan yang bertanggung jawab menjadi lebih penting bagi setiap laboratorium frontier. Dia mengatakan perusahaan-perusahaan Amerika harus memberikan kepercayaan kepada publik bahwa mereka akan mengembangkan sistem canggih secara bertanggung jawab.

Kerangka kerja perusahaan sebelumnya sebagian besar memeriksa model yang telah selesai sebelum peluncuran publik mereka. Ini termasuk Kebijakan Penskalaan yang Bertanggung Jawab dan Kerangka Kesiapan yang dikembangkan oleh laboratorium frontier.

Altman mengatakan kondisi pengembangan saat ini memerlukan alat-alat baru dan evaluasi keamanan yang lebih awal. Akibatnya, OpenAI telah memajukan beberapa pekerjaan keamanan sebelum peningkatan kemampuan utama.

OpenAI sekarang merumuskan kasus keamanan eksplisit sebelum menjalankan reinforcement learning frontier yang dipilih. Perusahaan menerapkannya ketika para peneliti mengharapkan proses pelatihan menghasilkan peningkatan kemampuan yang signifikan.

OpenAI juga terus melakukan pekerjaan keselamatan sebelum merilis model yang telah selesai. Pendekatan ini, oleh karena itu, menempatkan evaluasi pada tahap pengembangan dan peluncuran.

Altman mengatakan perusahaan harus berbagi pendekatan dan mengusulkan prosedur keamanan mereka sendiri. Ia mendukung standar umum yang mencakup misalignment model, pemantauan, dan keamanan.

Standar-standar ini dapat membimbing laboratorium dalam menilai sistem-sistem yang semakin canggih. Ia juga menyambut baik auditor independen sebagai bagian dari kerangka kerja risiko frontier yang konsisten.

Pernyataan berita AI terbaru menyerukan tindakan industri segera tanpa menunggu undang-undang. Altman mengatakan perusahaan tidak memerlukan pengecualian anti-monopoli sebelum memperkenalkan pengamanan.

Dia juga mendukung kerangka federal yang menetapkan persyaratan konsisten bagi pengembang frontier. Namun, ia memberikan peran yang lebih besar kepada pemerintah dalam mengoordinasikan aturan keselamatan internasional.

Altman mengatakan laboratorium sebaiknya terlebih dahulu menerapkan perlindungan yang tersedia di dalam organisasi mereka sendiri. Pemerintah kemudian dapat mendukung koordinasi antarnegara untuk mengembangkan model-model canggih.

Pernyataannya tidak menyerukan penghentian penelitian AI atau peningkatan kemampuan. Sebaliknya, ia mengusulkan pengembangan berkelanjutan dengan pemantauan yang lebih kuat dan kecepatan yang disengaja.

Altman menjelaskan dua cara pengembangan AI canggih dapat menghasilkan hasil yang sangat merusak. Pertama, umat manusia bisa kehilangan kendali jika kemampuan melampaui perlindungan yang tersedia.

Kedua, satu perusahaan, negara, laboratorium, atau individu bisa mendapatkan kendali berlebihan atas sistem-sistem kuat. Konsentrasi ini memungkinkan satu pelaku memaksakan pandangan dunianya kepada orang lain.

Peringatan tersebut menempatkan kontrol teknis dan kontrol institusional dalam diskusi keamanan yang sama. Altman mengatakan OpenAI tetap berkomitmen untuk memastikan AI melayani umat manusia.

Menurut berita AI terbaru, CEO OpenAI juga menekankan bahwa setiap laboratorium frontier harus memenuhi tanggung jawab tersebut. Jika tidak, sistem yang lebih mampu dapat berkembang tanpa pengawasan yang memadai atau standar bersama.

Pos AI News: Sam Altman Mengatakan Kemajuan AI Harus Diperlambat karena Risiko Frontier Meningkat pertama kali muncul di The Coin Republic.