Gubernur California Newsom menandatangani undang-undang pengawasan AI bersejarah yang mewajibkan model dengan parameter triliunan untuk melewati uji coba tim merah dan audit pihak ketiga sebelum diluncurkan.

Penulis artikel, sumber: AIBase

Gubernur California, AS, Gavin Newsom, secara resmi menandatangani paket undang-undang regulasi kecerdasan buatan yang bersejarah. Yang patut diperhatikan, undang-undang baru yang bertujuan untuk memperkuat penilaian risiko keamanan model besar mutakhir, pengungkapan transparansi, serta pencegahan serangan siber kiamat ini, sebelumnya mendapat dukungan langka dan publik dari sejumlah perusahaan AI puncak Silicon Valley, termasuk OpenAI dan Anthropic, dalam perdebatan legislatif sebelumnya.

Model dengan parameter triliunan harus melewati "latihan tim merah + audit pihak ketiga" sebelum diluncurkan

Dalam beberapa tahun terakhir, seiring dengan ekspansi eksponensial dalam skala komputasi AI generatif dan peningkatan kemampuan otonom dari model dasar terdepan, kekhawatiran terhadap kemungkinan penyalahgunaan AI untuk merusak infrastruktur kritis, mengembangkan senjata biokimia otomatis, manipulasi deepfake skala besar, serta memanfaatkan kerentanan keamanan siber serius semakin meningkat. Karena stagnasi berkelanjutan di tingkat Kongres Amerika Serikat dalam undang-undang AI federal, legislatif California dalam beberapa tahun terakhir telah mengambil peran pelopor undang-undang AI di seluruh Amerika Serikat.

Beberapa undang-undang yang ditandatangani dalam kesempatan ini secara khusus berfokus pada legalisasi standar pengujian keamanan untuk model dasar skala sangat besar, mewajibkan pengembang model untuk melakukan uji coba adversarial standar oleh tim merah, membangun protokol mitigasi risiko bencana yang ketat, dan mengajukan laporan kepatuhan keamanan yang diaudit secara independen oleh pihak ketiga kepada lembaga pengawas negara bagian sebelum melatih dan menerapkan sistem mutakhir dengan parameter triliunan.

Berbeda dengan usulan regulasi radikal sebelumnya yang memicu guncangan hebat di Silicon Valley dan mendapat penolakan tajam dari raksasa teknologi serta lembaga modal ventura, paket undang-undang ini secara mendalam mengadopsi saran teknis dari laboratorium AI mutakhir selama proses penyusunan dan revisi. Anthropic dan OpenAI sebelumnya menyampaikan kekhawatiran mendalam terhadap ketentuan yang terlalu kaku, yang berpotensi membunuh perkembangan komunitas open-source atau memperluas tanggung jawab perdata secara tak terbatas; setelah lobi intensif dan penyesuaian ketentuan, undang-undang yang akhirnya diterapkan lebih menekankan pada pembangunan kerangka kerja “evaluasi risiko pra-aktif” yang transparan dan “standar praktik keamanan terbaik industri”, daripada menetapkan indikator teknis batas keras atau menerapkan langkah hukuman yang tidak realistis, sehingga memperoleh dukungan kolaboratif dari lembaga riset AI utama dalam kerangka hukum.



Deepfakes harus diberi watermark, pelapor dilindungi hukum

Selain tinjauan keamanan dasar, undang-undang tersebut juga mencakup standar pelabelan dan tanda air untuk konten yang dihasilkan AI, mewajibkan platform dan saluran distribusi konten utama untuk menambahkan sidik jari digital tingkat sistem pada konten audio-video deepfake guna mencegah penyebaran informasi palsu pemilu dan penipuan pribadi yang jahat. Sementara itu, undang-undang tersebut memberikan perlindungan hukum "whistleblower" yang lebih jelas bagi karyawan internal dan peneliti yang menemukan dan melaporkan kerentanan keamanan serius potensial pada model, serta melarang perusahaan menghilangkan hak teknisi untuk melaporkan bahaya keamanan kritis kepada otoritas pengawas melalui perjanjian kerahasiaan yang ketat.

Langkah ini menandai upaya California, sebagai pusat global pengembangan AI, dalam menemukan jalur regulasi yang relatif diterima industri dalam menyeimbangkan garis merah keamanan ketat dengan mempertahankan vitalitas inovasi sektor.