OpenAI mencadangkan piawaian keselamatan AI global untuk pembangunan AI autonomi

Kecerdasan buatan semakin baik dalam melakukan lebih daripada sekadar menjawab soalan. Sistem AI kini membantu dalam pengkodean, penyelidikan, analisis dan tugas-tugas lain yang dahulunya ditangani hampir sepenuhnya oleh manusia. Ini menimbulkan soalan baru: apa yang berlaku apabila AI mula memainkan peranan yang lebih besar dalam membina generasi seterusnya AI?

OpenAI kini meminta piawaian antarabangsa untuk membantu menjawab soalan itu. Dalam posting 21 September bertajuk “Membina piawaian untuk fasa seterusnya AI”, OpenAI mencadangkan usaha antarabangsa yang dipimpin AS untuk mencipta piawaian teknikal sepunya untuk AI terkini. Syarikat ini mengatakan piawaian ini boleh membantu negara-negara mengukur kemampuan AI, menilai risiko, menguji langkah-langkah keselamatan, dan melaporkan insiden serius menggunakan kaedah yang lebih konsisten.

• OpenAI ingin piawaian antarabangsa untuk menilai AI terkini.
• Cadangan ini merangkumi kemampuan, risiko, pengawalan keselamatan, dan pelaporan insiden.
• OpenAI mengatakan peningkatan diri berulang sepenuhnya otonom tidak berlaku hari ini.
• Syarikat ingin kawalan manusia kekal menjadi pusat seiring dengan meningkatnya kemampuan AI.
• Organisasi keselamatan AI yang sedia ada boleh membantu membangunkan piawaian teknikal sepunya.

Gagasan asasnya cukup mudah. Tidak perlu setiap negara mencipta metodologi yang sepenuhnya berbeza untuk menilai bahaya yang ditimbulkan oleh AI canggih. Menurut OpenAI, standardisasi pendekatan teknikal boleh memberikan cara yang berkesan kepada negara-negara, penyelidik, dan komuniti AI untuk menilai AI mereka yang semakin canggih. Ini menjadi semakin relevan apabila insiden berkaitan AI berlaku merentas sempadan.

Syarikat tersebut tidak mencadangkan satu undang-undang AI global tunggal. Sebaliknya, ia ingin negara-negara membangunkan piawaian yang selari yang boleh ditentukan oleh kerajaan bagaimana ia digunakan dalam sistem peraturan masing-masing. Perbezaan ini penting kerana piawaian yang dicadangkan tidak serta-merta menjadi keperluan untuk lesen atau sijil bagi semua teknologi kecerdasan buatan. Sebaliknya, kerajaan kekal mempunyai kuasa untuk menentukan bagaimana piawaian tersebut akan diterapkan dalam yurisdiksi mereka.

Salah satu bahagian yang lebih menarik dalam cadangan OpenAI ialah perbincangan mengenai peningkatan diri berulang (RSI). Konsep ini menggambarkan masa depan di mana sistem AI boleh semakin membantu penyelidik dalam membangunkan sistem AI yang lebih cekap. Dalam istilah mudah, AI boleh menjadi sebahagian daripada proses meningkatkan AI itu sendiri.

Itu berpotensi mempercepat penyelidikan AI. Tetapi ia juga menciptakan soalan keselamatan yang sukar: sejauh mana pengawasan manusia harus kekal dalam proses jika sistem AI menjadi sangat terlibat dalam membangunkan model masa depan?

OpenAI mengatakan bahawa peningkatan diri berulang sepenuhnya autonomi tidak berlaku hari ini. Ia juga berhujah bahawa arah seperti itu tidak sepatutnya diteruskan kecuali jika ia boleh dilakukan dengan selamat sambil mengekalkan kawalan manusia. Ini menjadikan penilaian dan pengujian keselamatan lebih penting apabila sistem AI menjadi mampu menangani tugas penyelidikan dan pembangunan yang semakin kompleks.

OpenAI juga menunjuk kepada organisasi dan rangkaian keselamatan AI yang sedia ada di seluruh dunia sebagai blok pembina yang berpotensi untuk usaha ini. Syarikat tersebut secara khusus merujuk kepada institut keselamatan AI dan organisasi berkaitan di negara-negara termasuk AS, UK, Kanada, Perancis, Jerman, Jepun, Korea Selatan, Singapura, India, Kenya, dan Australia.

Alih-alih setiap negara membangun pendekatan teknikal yang sepenuhnya berasingan, OpenAI ingin kumpulan-kumpulan ini bekerja sama untuk menetapkan piawaian yang boleh saling melengkapi. Cadangan ini juga meminta penyertaan daripada pembangun AI, penyelidik, akademik, dan pakar teknikal bebas. OpenAI menyatakan bahawa piawaian tersebut harus direka berdasarkan ukuran teknikal, bukan kepentingan syarikat atau negara tertentu.

Masa yang ditetapkan adalah penting. Syarikat AI sedang membina sistem yang semakin mampu menjalankan tugas berperingkat dengan lebih sedikit input manusia secara langsung, sementara kerajaan masih berusaha menentukan cara mengawal selia teknologi ini.

Reuters melaporkan bahawa OpenAI ingin Amerika Syarikat mengambil peranan utama dalam membangunkan piawaian teknikal antarabangsa untuk AI canggih. Cabaran yang lebih besar mungkin ialah mendapat persetujuan daripada negara-negara dan syarikat-syarikat mengenai dengan tepat apa yang sepatutnya diukur oleh piawaian-piawaian tersebut dan bagaimana ia sepatutnya diterapkan.

Sementara itu, cadangan OpenAI berfokus pada menciptakan asas teknikal yang sama sebelum AI terkemuka menjadi lebih cekap lagi. Semasa AI mula menjalankan lebih banyak kerja yang terlibat dalam membangunkan AI itu sendiri, memiliki cara bersama untuk mengukur kemampuan, risiko, dan langkah-langkah keselamatan boleh menjadi bahagian yang semakin penting dalam perbincangan.

Artikel ini asalnya diterbitkan sebagai OpenAI Mendorong Penubuhan Piawaian Keselamatan AI Global Seiring AI Menjadi Lebih Autonom di Crypto Breaking News – sumber tepercaya anda untuk berita kripto, berita Bitcoin, dan kemas kini blok rantai.