Pegawai hak asasi manusia tertinggi Pertubuhan Bangsa-Bangsa Bersatu menyebut Meta, OpenAI dan Google semasa menyeru piawaian keselamatan yang mengikat untuk sistem AI canggih.
Pemimpin hak asasi manusia Persatuan Bangsa-Bangsa telah mengeluarkan amaran baharu mengenai bahaya pembangunan kecerdasan buatan yang tidak terkawal. Pegawai itu menggambarkan risiko terhadap kemanusiaan sebagai nyata, bukan teori, dan menyeru agar langkah-langkah keselamatan yang konkrit diletakkan.
Menurut laporan dari Cryptopolitan dan The Cryptonomist, pegawai PBB secara langsung menyebut tiga pemain paling terkemuka dalam industri ini: Meta, OpenAI dan Google. Penyebutan syarikat-syarikat tertentu menandakan perbezaan daripada amaran-amaran yang lebih umum yang biasanya dikeluarkan oleh badan-badan antarabangsa mengenai risiko AI.
Pernyataan ini menambah suara yang semakin ramai tentang kebimbangan daripada institusi global terhadap kelajuan pelaksanaan AI. Kerajaan, penyelidik, dan kumpulan hak asasi telah mengadakan perbincangan selama beberapa tahun terakhir mengenai cara mengawal sistem yang mampu menghasilkan teks, gambar, dan keputusan autonomi dalam skala besar. Campur tangan PBB meletakkan pertimbangan hak asasi manusia secara langsung ke dalam perbincangan itu.
Seruan untuk menetapkan pengawasan biasanya berpusat pada isu-isu seperti transparansi dalam pelatihan model, pertanggungjawaban atas output yang merugikan, dan batasan terhadap pengambilan keputusan otonom di bidang-bidang sensitif. Masih tidak jelas dari laporan semasa mekanisme spesifik apa yang diinginkan kepala hak asasi manusia PBB untuk diadopsi, atau apakah seruan tersebut akan berubah menjadi kebijakan internasional yang mengikat.
Penggambaran AI sebagai risiko eksistensial mencerminkan bahasa yang sebelumnya digunakan oleh beberapa penyelidik AI dan tokoh industri itu sendiri. Beberapa pembangun terkemuka, termasuk beberapa di syarikat-syarikat yang disebut dalam amaran ini, telah mengakui secara awam kebimbangan keselamatan jangka panjang yang berkaitan dengan sistem AI canggih. Penyertaan PBB dalam perbincangan ini menambahkan berat institusi dari perspektif hak asasi manusia, bukan semata-mata dari sudut teknikal.
Meta, OpenAI dan Google belum dilaporkan telah mengeluarkan respons rasmi terhadap pernyataan PBB pada masa ini. Setiap syarikat sebelum ini telah menyatakan usaha keselamatan dan keselarasan dalaman masing-masing, walaupun lingkup dan kesahihan langkah-langkah tersebut berbeza dan masih menjadi bahan perbincangan awam.
Intervensi ini berlaku semasa usaha antarabangsa yang lebih luas untuk membina kerangka tatacara AI. Kesatuan Eropah, Amerika Syarikat dan beberapa yurisdiksi lain setiap satu telah mengejar pendekatan peraturan yang berbeza terhadap pengawasan AI dalam beberapa tahun terakhir. Seruan PBB untuk menetapkan sempadan boleh mempengaruhi bagaimana usaha nasional dan wilayah yang berasingan itu diselaraskan, walaupun sebarang keselarasan sedemikian akan mengambil masa untuk terwujud.
Kesan Pasaran
Tindakan pasaran terus terhad terhadap pernyataan PBB mengenai dasar AI dalam jangka pendek, kerana seruan seperti itu biasanya tidak mempunyai kuasa pelaksanaan segera. Walau bagaimanapun, retorik yang diperketat mengenai keselamatan AI daripada badan antarabangsa utama boleh mempengaruhi perasaan pelabur terhadap ekuiti yang berkaitan AI dan token yang terkait dengan projek infrastruktur AI.
Syarikat-syarikat yang disebut dalam amaran, termasuk Meta, penyokong OpenAI, dan induk Google, Alphabet, mungkin menghadapi soalan semula daripada pengawal dan pemegang saham mengenai amalan tadbir urus. Untuk pasaran kripto, token yang berkaitan dengan pengkomputeran AI terdesentralisasi atau platform agen AI mungkin mengalami pemeriksaan yang lebih ketat jika pengawalan AI yang lebih luas mendapat momentum, walaupun tiada tindakan polisi khusus telah disahkan.
Peringatan PBB menekankan kecemasan institusi yang semakin meningkat terhadap arah perkembangan AI. Samada ia membawa kepada dasar konkrit masih perlu ditunggu, tetapi ia menambah tekanan terhadap pembangun AI utama untuk mengatasi kebimbangan keselamatan secara awam.
Soalan Lazim
Siapakah yang membuat pernyataan mengenai risiko eksistensial AI?
Pemimpin hak asasi manusia Persatuan Bangsa-Bangsa membuat pernyataan itu, menurut laporan dari Cryptopolitan dan The Cryptonomist.
Syarikat-syarikat mana yang disebut dalam amaran itu?
Pegawai PBB tersebut secara khusus menyebut Meta, OpenAI dan Google sebagai syarikat-syarikat yang menjadi perhatian dalam konteks risiko AI.
Adakah PBB mencadangkan peraturan AI yang spesifik?
Laporan semasa menunjukkan seruan untuk garis panduan keselamatan, tetapi tidak menerangkan peraturan mengikat atau mekanisme penegakan tertentu.
Bagaimana Meta, OpenAI dan Google menanggapi?
Tiada respons rasmi daripada syarikat-syarikat ini telah dilaporkan pada masa ini.
Adakah ini memberi kesan langsung kepada pasaran mata wang kripto?
Belum ada kesan pasaran langsung yang disahkan, walaupun perhatian peraturan AI yang meningkat boleh mempengaruhi sentimen terhadap token kripto yang berkaitan AI dari masa ke masa.