Sinigna ng gubernator ng California, Newsom, ang landmark na batas sa regulasyon ng AI na nagsasailalim sa mga modelo na may trilyon na parameter sa red teaming at third-party audit bago ito ilunsad.

May-akda ng artikulo, pinagkukunan: AIBase

Pinirmahan nang opisyal ni Governor Gavin Newsom ng California ang isang bundle ng mga landmark na batas sa regulasyon ng artificial intelligence. Mahalaga na tandaan na ang mga bagong batas na naglalayong palakasin ang pagtataya ng panganib sa seguridad ng mga advanced large models, ang pagpapakita ng transparensya, at ang pagpigil sa mga kalamidad na cyber attack ay nakakuha ng rare na suporta at pampublikong pagtutol mula sa mga pangunahing kumpanya sa AI sa Silicon Valley, kabilang ang OpenAI at Anthropic.

Kailangan munang lumipas sa “Red Team Exercise + Third-Party Audit” bago ma-launch ang model na may trilyon na parameter

Sa mga nakaraang taon, kasabay ng eksponensyal na paglalawak ng computing power ng generative AI at ang pagtaas ng autonomiya ng mga advanced base models, ang mga pag-aalala tungkol sa posibleng pang-aabuso ng AI para sa pag-destroy ng mga kritikal na imprastruktura, automated na pagbuo ng biochemical weapons, malawakang deepfake manipulation, at paggamit ng malubhang cybersecurity vulnerabilities ay tumataas. Dahil sa patuloy na pagkakasawa sa antas ng Kongreso ng Estados Unidos sa pagsasagawa ng pambansang batas tungkol sa AI, ang California State Legislature ay naging lider sa pagpapasa ng mga batas tungkol sa AI sa buong bansa sa mga nakaraang taon.

Ang mga batas na sinagip sa pagkakasignahan ay nakatuon sa pagpapalawak ng legal na regulasyon sa mga pamantayan ng pagsusuri sa kaligtasan para sa malalaking base model, kung saan hinihingi na ang mga developer ng model ay magpapatupad ng standardized red team adversarial exercises, magtatatag ng mahigpit na protokolo para sa pagpapababa ng kalamidad, at magsumite ng kompliyans na ulat sa kaligtasan na na-audit ng isang independiyenteng third party bago sila magtrabaho o mag-deploy ng mga advanced system na may trilyon na parameter.

Sa pagkakaiba sa nakaraang proposta ng regulasyon na nagdulot ng malakas na pagbabago sa Silicon Valley at nagdulot ng malakas na pagtutol mula sa mga teknolohiyang korporasyon at mga venture capital firm, ang bundle ng batas na ito ay malalim na nag-angkop ng teknikal na payo mula sa mga modernong AI lab. Noon, ang Anthropic at OpenAI ay nagpahayag ng malalim na pag-aalala tungkol sa mga kautusan na sobrang rigid, na maaaring pigilan ang pag-unlad ng open-source community o magpalawak nang walang hanggan ng sibil na pagkakasalang-pansarili; pagkatapos ng malakas na lobbying at maliit na pagpapabuti sa mga kautusan, ang final na batas ay mas nakatuon sa pagbuo ng transparent na “framework para sa pagtataya ng panganib bago ang pagpapatupad” at “mga pamantayan ng pinakamahusay na praktis sa seguridad ng industriya,” kaysa sa pagtatakda ng direktang teknikal na limitasyon o pagpapatupad ng hindi praktikal na parusa, kaya nakakuha ito ng suporta mula sa mga pangunahing institusyon sa pag-aaral ng AI sa loob ng legal na framework.



Ang deepfakes ay dapat may watermark, at ang mga whistleblower ay protektado ng batas

Bukod sa pagsusuri ng seguridad sa ilalim, kasama rin sa batas ang mga pamantayan para sa pagkakakilanlan at watermark ng nilalaman na ginawa ng AI, kung saan hinihingi ng mga platform at pangunahing mga channel ng pagpapalaganap na magdagdag ng system-level digital fingerprint sa mga deepfake na audio at video upang pigilan ang pagkalat ng maling impormasyon sa eleksyon at masamang pagpapalito. Samantala, binibigyan ng mas malinaw na proteksyon batas ang mga empleyado at mga mananaliksik na nagpapakita at naglalantad ng malalaking butas sa seguridad ng modelo, at ipinagbabawal ang mga kumpanya na gamitin ang mga mahigpit na pagsisigla ng lihim upang alisin ang karapatan ng mga teknikal na empleyado na i-report ang mga katastrofikong panganib sa seguridad sa mga ahensya ng regulasyon.

Ang hakbang na ito ay nagtatakda ng isang regulatoryong landas na tinanggap ng industriya sa pagpapagawang balanse ng mahigpit na mga hangganan sa kaligtasan at pagpapanatili ng kahusayan sa inobasyon ng industriya sa California, ang pangunahing sentro ng global na R&D sa AI.