Gabenor California, Newsom, menandatangani undang-undang pengawasan AI yang menjadi tonggak sejarah, yang memerlukan latihan tim merah dan audit pihak ketiga sebelum model dengan parameter triliunan dilancarkan.

Penulis artikel, sumber: AIBase

Gubernur California, Amerika Syarikat, Gavin Newsom, telah menandatangani secara rasmi satu paket undang-undang pengawasan kecerdasan buatan yang bersejarah. Menariknya, undang-undang baharu ini, yang bertujuan untuk memperkuat penilaian risiko keselamatan model besar terkini, pengungkapan transparansi, dan pencegahan serangan siber bencana, mendapat sokongan langka dan publik daripada pelbagai syarikat AI terkemuka di Silicon Valley, termasuk OpenAI dan Anthropic, dalam perdebatan perundangan sebelumnya.

Model dengan parameter triliunan mesti lalui "latihan pasukan merah + audit pihak ketiga" sebelum dilancarkan

Dalam beberapa tahun terakhir, dengan penguatan kapasiti komputasi AI generatif secara eksponen dan peningkatan kemampuan mandiri model asas terkini, kebimbangan terhadap kemungkinan penyalahgunaan AI untuk merosakkan infrastruktur penting, mengembangkan senjata biokimia automatik, manipulasi deepfake berskala besar, serta memanfaatkan lubang keselamatan siber serius semakin meningkat. Disebabkan kegagalan berterusan Kongres Amerika Syarikat dalam mengeluarkan undang-undang AI peringkat persekutuan, legislatif California telah mengambil peranan terdepan di seluruh Amerika Syarikat dalam menggarisani undang-undang AI.

Undang-undang yang ditandatangani dalam sesi ini menekankan pengesahan peraturan resmi bagi piawaian ujian keselamatan terhadap model asas berskala super besar, memerlukan pembangun model untuk melaksanakan latihan adversarial standar, membangun protokol mitigasi risiko bencana yang ketat, serta menghantar laporan kesesuaian keselamatan yang diaudit secara bebas oleh pihak ketiga kepada agensi pengawas kerajaan negeri sebelum melatih atau melancarkan sistem canggih dengan parameter sebanyak triliunan.

Berbeza dengan cadangan peraturan radikal sebelum ini yang menyebabkan keguncangan hebat di Silicon Valley dan mendapat tentangan kuat daripada raksasa teknologi dan institusi modal ventura, paket undang-undang ini secara mendalam mengambil kira nasihat teknikal daripada makmal AI terkini semasa proses penyusunan dan pembaikian. Anthropic dan OpenAI sebelum ini telah menyatakan kebimbangan mendalam terhadap ketentuan yang terlalu kaku, yang mungkin menghentikan perkembangan komuniti sumber terbuka atau memperluaskan tanggungjawab sivil secara tanpa had; selepas lobi intensif dan penyesuaian ketentuan, undang-undang akhir lebih menekankan pembinaan “kerangka kerja penilaian risiko awal yang telus” dan “piawai amalan keselamatan industri terbaik”, berbanding menetapkan sempadan teknikal yang ketat atau melaksanakan tindakan hukuman yang tidak praktikal, dengan demikian memperoleh sokongan kerjasama daripada institusi pembangunan AI utama dalam kerangka undang-undang.



Deepfakes mesti ditandai dengan tanda air, pelapor dilindungi oleh undang-undang

Selain tinjauan keselamatan asas, undang-undang tersebut juga merangkumi piawaian penanda asal dan cap air untuk kandungan yang dihasilkan oleh AI, memerlukan platform dan saluran pengagihan kandungan utama untuk menandakan kandungan audio-visual pemalsuan mendalam dengan cap digital peringkat sistem bagi mencegah penyebaran maklumat palsu pilihan raya dan penipuan peribadi jahat. Sementara itu, undang-undang tersebut memberikan perlindungan undang-undang “peniup peluit” yang lebih jelas kepada pekerja dalaman dan penyelidik yang menemui dan mengungkap lubang keselamatan besar berpotensi dalam model, serta melarang syarikat menggunakan perjanjian kerahsiaan yang ketat untuk mencabut hak teknisi melaporkan kelemahan keselamatan bencana kepada pihak berkuasa pengawasan.

Langkah ini menandakan bahawa California, sebagai pusat utama penyelidikan dan pembangunan AI global, telah menggali satu lintasan pengawasan yang diterima relatif oleh industri dalam menyeimbangkan garis merah keselamatan yang ketat dengan mempertahankan daya hidup inovasi industri.