Pejabat hak asasi manusia tertinggi PBB menyebut Meta, OpenAI, dan Google sambil menyerukan standar keamanan yang mengikat untuk sistem AI canggih.
Kepala hak asasi manusia PBB telah mengeluarkan peringatan baru tentang bahaya perkembangan kecerdasan buatan yang tidak terkendali. Pejabat tersebut menggambarkan risiko terhadap kemanusiaan sebagai nyata, bukan teoretis, dan menyerukan penerapan pengamanan konkret.
Menurut laporan dari Cryptopolitan dan The Cryptonomist, pejabat PBB secara langsung menyebut tiga pemain paling terkemuka di industri ini: Meta, OpenAI, dan Google. Penyebutan perusahaan-perusahaan tertentu menandai pergeseran dari peringatan yang lebih umum yang biasanya dikeluarkan oleh badan-badan internasional mengenai risiko AI.
Pernyataan ini menambah suara yang terus berkembang tentang kekhawatiran dari lembaga global mengenai kecepatan penerapan AI. Pemerintah, peneliti, dan kelompok hak asasi telah menghabiskan beberapa tahun terakhir membahas bagaimana mengatur sistem yang mampu menghasilkan teks, gambar, dan keputusan otonom secara skala besar. Intervensi PBB menempatkan pertimbangan hak asasi manusia secara tepat di dalam perdebatan tersebut.
Seruan untuk penerapan pengamanan biasanya berfokus pada isu-isu seperti transparansi dalam pelatihan model, akuntabilitas atas output yang berbahaya, dan batasan terhadap pengambilan keputusan otonom di bidang-bidang sensitif. Masih belum jelas dari laporan saat ini mekanisme spesifik apa yang diinginkan kepala hak asasi manusia PBB untuk diadopsi, atau apakah seruan ini akan berubah menjadi kebijakan internasional yang mengikat.
Penggambaran AI sebagai risiko eksistensial mencerminkan bahasa yang sebelumnya digunakan oleh beberapa peneliti AI dan tokoh industri itu sendiri. Beberapa pengembang terkemuka, termasuk beberapa di perusahaan-perusahaan yang disebut dalam peringatan ini, telah secara terbuka mengakui kekhawatiran jangka panjang terhadap keselamatan yang terkait dengan sistem AI canggih. Keikutsertaan PBB dalam percakapan ini menambah bobot institusional dari perspektif hak asasi manusia, bukan semata-mata dari sudut pandang teknis.
Meta, OpenAI, dan Google belum dilaporkan telah mengeluarkan tanggapan resmi terhadap pernyataan PBB pada saat ini. Setiap perusahaan sebelumnya telah menyatakan upaya keselamatan dan keselarasan internal mereka sendiri, meskipun cakupan dan daya ikat dari langkah-langkah tersebut bervariasi dan tetap menjadi subjek perdebatan publik.
Intervensi ini terjadi di tengah upaya internasional yang lebih luas untuk membangun kerangka tata kelola AI. Uni Eropa, Amerika Serikat, dan beberapa yurisdiksi lainnya masing-masing telah mengejar pendekatan regulasi yang berbeda terhadap pengawasan AI dalam beberapa tahun terakhir. Seruan PBB untuk menetapkan batasan dapat memengaruhi bagaimana upaya nasional dan regional yang terpisah tersebut dikoordinasikan, meskipun setiap keselarasan semacam itu akan membutuhkan waktu untuk terwujud.
Dampak Pasar
Reaksi pasar langsung terhadap pernyataan PBB mengenai kebijakan AI cenderung terbatas dalam jangka pendek, karena seruan semacam itu biasanya tidak memiliki kekuatan penegakan segera. Namun, retorika yang meningkat mengenai keselamatan AI dari badan internasional utama dapat memengaruhi sentimen investor terhadap saham yang terkait AI dan token yang terkait dengan proyek infrastruktur AI.
Perusahaan yang disebutkan dalam peringatan, termasuk Meta, pendukung OpenAI, dan induk Google, Alphabet, mungkin menghadapi pertanyaan ulang dari regulator dan pemegang saham mengenai praktik tata kelola. Untuk pasar kripto, token yang terkait dengan komputasi AI terdesentralisasi atau platform agen AI dapat mengalami peningkatan pengawasan jika regulasi AI yang lebih luas mendapat momentum, meskipun belum ada tindakan kebijakan spesifik yang dikonfirmasi.
Peringatan PBB menegaskan meningkatnya ketidaknyamanan institusional terhadap arah perkembangan AI. Apakah hal ini akan menghasilkan kebijakan konkret masih harus ditunggu, tetapi hal ini menambah tekanan pada pengembang AI utama untuk secara terbuka menangani kekhawatiran keamanan.
Pertanyaan yang Sering Diajukan
Siapa yang membuat pernyataan tentang risiko eksistensial AI?
Kepala hak asasi manusia PBB membuat pernyataan tersebut, menurut laporan dari Cryptopolitan dan The Cryptonomist.
Perusahaan mana yang disebut dalam peringatan tersebut?
Pejabat PBB secara khusus menyebut Meta, OpenAI, dan Google sebagai perusahaan yang menjadi perhatian dalam konteks risiko AI.
Apakah PBB telah mengusulkan peraturan AI yang spesifik?
Laporan saat ini menunjukkan seruan untuk penerapan pengamanan, tetapi tidak merinci regulasi mengikat atau mekanisme penegakan tertentu.
Bagaimana tanggapan Meta, OpenAI, dan Google?
Belum ada tanggapan resmi dari perusahaan-perusahaan ini yang dilaporkan saat ini.
Apakah ini memengaruhi pasar mata uang kripto secara langsung?
Belum ada dampak pasar langsung yang dikonfirmasi, meskipun perhatian regulasi AI yang meningkat dapat memengaruhi sentimen terhadap token kripto terkait AI seiring waktu.