Sam Altman Memperingatkan Pembangunan AI Mesti Diperlambat untuk Mengatasi Risiko Perbatasan

Wawasan Utama:

• Amaran Sam Altman mengalihkan berita AI ke arah pembangunan yang lebih perlahan dan keselamatan yang lebih kuat.
• OpenAI menyediakan kes keselamatan sebelum latihan yang dijangka akan meningkatkan kemampuan.
• Altman memperingatkan tentang kehilangan kawalan manusia dan kuasa AI yang berlebihan di tangan satu pihak.

Berita AI berpindah ke keselamatan perbatasan selepas CEO OpenAI, Sam Altman, meminta pembangunan model yang lebih perlahan dan dipantau dengan lebih teliti. Beliau memperingatkan bahawa manusia boleh kehilangan kawalan jika kemampuan maju lebih pantas daripada sistem penyelarasan dan pemantauan.

Altman juga mengenal pasti kawalan terpusat yang kuat terhadap AI berkuasa sebagai bahaya yang berasingan. Pernyataannya pada 14 September menyokong kemajuan berterusan, walaupun pembangun perlu menerima kos keselamatan tambahan dan pembangunan yang lebih perlahan.

Altman menyokong cadangan CEO Anthropic, Dario Amodei, untuk memperlahankan pembangunan sambil penyelidik memperkuat perlindungan keselamatan.

Namun, beliau menjelaskan bahawa pengurusan tempoh tidak bermaksud menghentikan kemajuan teknologi. Sebaliknya, makmal sepatutnya menerima perkembangan yang lebih perlahan apabila ulasan keselamatan memerlukan lebih banyak masa. Tindakan-tindakan tersebut membawa kos yang tinggi, tetapi Altman menggambarkan kos-kos tersebut sebagai perlu.

Selain berita AI, Altman mengatakan tekanan kompetitif di dalam Amerika Syarikat tidak sepatutnya membenarkan pembangunan yang tidak bertanggungjawab. Beliau menambah bahawa kemampuan model tidak boleh maju melampaui sistem penyelarasan dan pemantauan.

Kemajuan telah dipercepat, menjadikan pembangunan yang bertanggungjawab lebih penting bagi setiap makmal hadapan. Beliau berkata syarikat-syarikat Amerika mesti memberikan keyakinan kepada awam bahawa mereka akan membangunkan sistem canggih secara bertanggungjawab.

Kerangka kerja syarikat sebelum ini terutamanya mengkaji model yang telah selesai sebelum pelancaran awam. Ini termasuk Dasar Penskalaan Bertanggungjawab dan Kerangka Kesiapan yang dibangunkan oleh makmal terkemuka.

Altman mengatakan bahawa keadaan pembangunan semasa memerlukan alat-alat baru dan penilaian keselamatan yang lebih awal. Akibatnya, OpenAI telah menggesa beberapa kerja keselamatan sebelum peningkatan kemampuan utama.

OpenAI kini merumuskan kes keselamatan yang jelas sebelum menjalankan pembelajaran peningkatan perbatasan yang dipilih. Syarikat ini menggunakannya apabila penyelidik mengharapkan satu run latihan akan menghasilkan peningkatan kemampuan yang signifikan.

OpenAI juga terus menjalankan kerja keselamatan sebelum melepaskan model yang telah selesai. Pendekatan ini, oleh itu, menempatkan penilaian pada peringkat pembangunan dan pelaksanaan.

Altman mengatakan syarikat-syarikat sepatutnya berkongsi pendekatan dan mencadangkan prosedur keselamatan sendiri. Beliau menyokong piawaian umum yang merangkumi ketidakselarasan model, pemantauan, dan keselamatan.

Piawaian-piawaian ini boleh membimbing makmal dalam menilai sistem-sistem yang semakin canggih. Beliau juga menyambut baik auditor bebas sebagai sebahagian daripada kerangka risiko hadapan yang konsisten.

Pernyataan berita AI terkini menyerukan tindakan industri segera tanpa menunggu undang-undang. Altman mengatakan syarikat tidak memerlukan pengecualian antimonopoli sebelum memperkenalkan langkah-langkah keselamatan.

Beliau juga menyokong kerangka persekutuan yang menetapkan keperluan yang konsisten untuk pembangun perbatasan. Namun, beliau memberikan peranan yang lebih besar kepada kerajaan dalam mengkoordinasikan peraturan keselamatan antarabangsa.

Altman mengatakan makmal seharusnya terlebih dahulu melaksanakan perlindungan yang tersedia dalam organisasi mereka sendiri. Kerajaan-kerajaan kemudian boleh menyokong koordinasi antara negara-negara untuk membangunkan model canggih.

Pernyataannya tidak meminta penghentian penyelidikan AI atau peningkatan kemampuan. Sebaliknya, ia mencadangkan pembangunan berterusan dengan pemantauan yang lebih kuat dan penghalaan yang sengaja.

Altman menggambarkan dua cara pembangunan AI canggih boleh menghasilkan kesan yang sangat merosakkan. Pertama, umat manusia boleh kehilangan kawalan jika kemampuan melampaui jaminan yang tersedia.

Kedua, satu syarikat, negara, makmal, atau individu boleh mendapat kawalan berlebihan atas sistem yang kuat. Pengumpulan ini boleh membenarkan satu pihak memaksakan pandangan dunianya terhadap pihak lain.

Amaran itu meletakkan kawalan teknikal dan kawalan institusi dalam perbincangan keselamatan yang sama. Altman berkata OpenAI terus berkomitmen untuk memastikan AI melayani manusia.

Menurut berita AI terkini, CEO OpenAI juga menekankan bahawa setiap makmal hadapan mesti memenuhi tanggungjawab itu. Jika tidak, sistem yang lebih cekap boleh maju tanpa pengawasan yang mencukupi atau piawaian bersama.

Post Berita AI: Sam Altman Mengatakan Kemajuan AI Perlu Diperlambat Kerana Risiko Hadapan Meningkat muncul pertama kali di The Coin Republic.