Kecerdasan buatan semakin baik dalam melakukan lebih dari sekadar menjawab pertanyaan. Sistem AI sekarang membantu dalam pemrograman, penelitian, analisis, dan tugas-tugas lain yang sebelumnya ditangani hampir seluruhnya oleh manusia. Hal ini menimbulkan pertanyaan baru: apa yang terjadi ketika AI mulai memainkan peran lebih besar dalam membangun generasi berikutnya dari AI?
OpenAI kini menyerukan standar internasional untuk membantu menjawab pertanyaan tersebut. Dalam postingan 21 September berjudul “Membangun standar untuk tahap berikutnya dari AI,” OpenAI mengusulkan upaya internasional yang dipimpin AS untuk menciptakan standar teknis umum untuk AI frontier. Perusahaan menyatakan standar-standar ini dapat membantu negara-negara mengukur kemampuan AI, mengevaluasi risiko, menguji perlindungan, dan melaporkan insiden serius dengan metode yang lebih konsisten.
Poin Utama
- OpenAI ingin standar internasional untuk mengevaluasi AI terdepan.
- Usulan tersebut mencakup kemampuan, risiko, perlindungan, dan pelaporan insiden.
- OpenAI mengatakan bahwa peningkatan diri rekursif sepenuhnya otonom tidak terjadi hari ini.
- Perusahaan ingin kendali manusia tetap menjadi pusat seiring dengan meningkatnya kemampuan AI.
- Organisasi keselamatan AI yang ada dapat membantu mengembangkan standar teknis umum.
Openai Menginginkan Kerangka Kerja Umum untuk AI Frontier
Gagasan dasarnya cukup sederhana. Tidak perlu setiap negara membuat metodologi yang sama sekali berbeda untuk mengevaluasi bahaya yang ditimbulkan oleh AI canggih. Menurut OpenAI, standardisasi pendekatan teknis dapat memberikan cara yang efektif bagi negara-negara, peneliti, dan komunitas AI untuk menilai AI mereka yang semakin canggih. Ini menjadi semakin relevan ketika insiden terkait AI terjadi lintas batas.
Perusahaan tidak mengusulkan satu undang-undang AI global tunggal. Sebaliknya, perusahaan ingin negara-negara mengembangkan standar yang kompatibel yang nantinya dapat diputuskan oleh pemerintah bagaimana cara menggunakannya dalam sistem regulasi masing-masing. Perbedaan ini signifikan karena standar yang diusulkan tidak langsung menjadi persyaratan untuk lisensi atau sertifikasi untuk semua teknologi kecerdasan buatan. Sebaliknya, pemerintah tetap memiliki kekuasaan untuk menentukan bagaimana standar tersebut akan diterapkan dalam yurisdiksi mereka.
Peningkatan Diri Rekursif adalah Bagian dari Percakapan
Salah satu bagian yang lebih menarik dari proposal OpenAI adalah pembahasannya tentang recursive self-improvement (RSI). Konsep ini menggambarkan masa depan di mana sistem AI dapat semakin membantu peneliti dalam mengembangkan sistem AI yang lebih mampu. Dengan sederhana, AI bisa menjadi bagian dari proses meningkatkan AI itu sendiri.
Itu berpotensi mempercepat penelitian AI. Tetapi juga menciptakan pertanyaan keamanan yang sulit: seberapa besar pengawasan manusia yang harus tetap ada dalam siklus jika sistem AI menjadi sangat terlibat dalam mengembangkan model-model masa depan?
OpenAI mengatakan bahwa peningkatan diri rekursif otonom penuh tidak terjadi hari ini. Perusahaan ini juga berargumen bahwa arah semacam itu sebaiknya tidak dikejar kecuali dapat dilakukan dengan aman sambil mempertahankan kendali manusia. Hal ini membuat evaluasi dan pengujian keamanan menjadi lebih penting seiring dengan meningkatnya kemampuan sistem AI dalam menangani tugas-tugas penelitian dan pengembangan yang semakin kompleks.
Standar Keamanan AI Bisa Menjadi Lebih Penting
OpenAI juga menunjuk pada organisasi dan jaringan keselamatan AI yang sudah ada di seluruh dunia sebagai blok bangunan potensial untuk upaya ini. Perusahaan secara khusus menyebut institut keselamatan AI dan organisasi terkait di berbagai negara termasuk AS, Inggris, Kanada, Prancis, Jerman, Jepang, Korea Selatan, Singapura, India, Kenya, dan Australia.
Alih-alih setiap negara mengembangkan pendekatan teknis yang benar-benar terpisah, OpenAI ingin kelompok-kelompok ini bekerja menuju standar yang saling melengkapi. Usulan tersebut juga menyerukan partisipasi dari pengembang AI, peneliti, akademisi, dan ahli teknis independen. OpenAI menyatakan bahwa standar tersebut harus dirancang berdasarkan pengukuran teknis, bukan kepentingan perusahaan atau negara tertentu.
Mengapa Ini Penting
Waktunya patut diperhatikan. Perusahaan AI sedang membangun sistem yang semakin mampu melakukan tugas multi-langkah dengan lebih sedikit input manusia secara langsung, sementara pemerintah masih berusaha menentukan cara mengatur teknologi ini.
Reuters melaporkan bahwa OpenAI ingin Amerika Serikat mengambil peran terdepan dalam mengembangkan standar teknis internasional untuk AI canggih. Tantangan yang lebih besar mungkin adalah mendapatkan persetujuan dari negara-negara dan perusahaan mengenai dengan tepat apa yang harus diukur oleh standar-standar tersebut dan bagaimana seharusnya diterapkan.
Untuk saat ini, proposal OpenAI berfokus pada menciptakan fondasi teknis yang umum sebelum AI frontier menjadi semakin lebih mampu. Seiring AI mulai melakukan lebih banyak pekerjaan yang terlibat dalam mengembangkan AI itu sendiri, memiliki cara bersama untuk mengukur kemampuan, risiko, dan perlindungan bisa menjadi bagian yang semakin penting dalam percakapan.
Artikel ini awalnya diterbitkan sebagai OpenAI Mendorong Standar Keamanan AI Global Seiring AI Menjadi Lebih Otonom di Crypto Breaking News – sumber terpercaya Anda untuk berita crypto, berita Bitcoin, dan pembaruan blockchain.