ผู้ว่าการรัฐแคลิฟอร์เนีย Newsom ลงนามในกฎหมายกำกับดูแล AI ที่เป็นประวัติการณ์ ซึ่งกำหนดให้โมเดลที่มีพารามิเตอร์ถึงล้านล้านค่าต้องผ่านการทดสอบแบบรีดทีมและการตรวจสอบโดยบุคคลที่สามก่อนเปิดใช้งานผู้เขียนบทความ แหล่งที่มา: AIBase
ผู้ว่าการรัฐแคลิฟอร์เนียของสหรัฐอเมริกา แกวินนิวสัน ได้ลงนามในแพ็กเกจกฎหมายควบคุมปัญญาประดิษฐ์ที่มีความสำคัญเป็นประวัติการณ์ โดยน่าสังเกตว่ากฎหมายชุดใหม่นี้ ซึ่งมีเป้าหมายเพื่อเสริมสร้างการประเมินความเสี่ยงด้านความปลอดภัยของโมเดลขนาดใหญ่ขั้นสูง การเปิดเผยข้อมูลความโปร่งใส และการป้องกันการโจมตีทางไซเบอร์ที่อาจก่อให้เกิดหายนะ ได้รับการสนับสนุนอย่างไม่เคยปรากฏมาก่อนจากบริษัท AI ชั้นนำในซิลิคอนแวลลี่ รวมถึง OpenAI และ Anthropic ในกระบวนการตรากฎหมายก่อนหน้านี้
ก่อนเปิดตัวโมเดลระดับ万亿พารามิเตอร์ ต้องผ่านการทดสอบแบบ Red Team + การตรวจสอบจากบุคคลที่สาม
ในช่วงไม่กี่ปีที่ผ่านมา พร้อมกับการขยายตัวแบบก้าวกระโดดของกำลังการประมวลผลสำหรับ AI แบบสร้างสรรค์ และความสามารถอิสระของโมเดลพื้นฐานขั้นสูง ความกังวลเกี่ยวกับการใช้ AI ในทางที่ผิดเพื่อทำลายโครงสร้างพื้นฐานสำคัญ การพัฒนาอาวุธชีวภาพและเคมีอัตโนมัติ การจัดการหลอกลวงแบบลึกขนาดใหญ่ และการใช้ช่องโหว่ด้านความปลอดภัยทางไซเบอร์อย่างรุนแรง ได้ทวีความรุนแรงขึ้น เนื่องจากสภาคองเกรสสหรัฐฯ ยังคงอยู่ในภาวะหยุดนิ่งในการออกกฎหมายระดับรัฐบาลกลางเกี่ยวกับ AI รัฐสภาแคลิฟอร์เนียจึงได้รับบทบาทเป็นผู้นำด้านกฎหมาย AI ของสหรัฐฯ ในช่วงไม่กี่ปีที่ผ่านมา
กฎหมายหลายฉบับที่ลงนามในครั้งนี้มุ่งเน้นไปที่การตรากฎหมายเพื่อกำหนดมาตรฐานการทดสอบความปลอดภัยสำหรับแบบจำลองพื้นฐานขนาดใหญ่มาก โดยบังคับให้นักพัฒนาแบบจำลองต้องดำเนินการฝึกซ้อมการโจมตีแบบเรดทีตามมาตรฐาน สร้างขั้นตอนการลดความเสี่ยงอย่างรุนแรงอย่างเข้มงวด และส่งรายงานความปลอดภัยที่สอดคล้องกับมาตรฐานซึ่งได้รับการตรวจสอบโดยบุคคลภายนอกอิสระไปยังหน่วยงานกำกับดูแลของรัฐก่อนการฝึกอบรมและการปรับใช้ระบบขั้นสูงที่มีพารามิเตอร์ถึงล้านล้าน
ต่างจากข้อเสนอการกำกับดูแลที่รุนแรงซึ่งเคยก่อให้เกิดความโกลาหลในซิลิคอนแวลลีย์และเผชิญกับการต่อต้านอย่างรุนแรงจากบริษัทเทคโนโลยีรายใหญ่และสถาบันการลงทุนด้านสตาร์ทอัพ ร่างกฎหมายชุดนี้ได้รับคำแนะนำทางเทคนิคจากห้องปฏิบัติการ AI ชั้นนำอย่างลึกซึ้งในระหว่างการร่างและแก้ไข โดยก่อนหน้านี้ Anthropic และ OpenAI ได้แสดงความกังวลอย่างลึกซึ้งต่อข้อกำหนดที่ยืดหยุ่นน้อยเกินไป ซึ่งอาจขัดขวางการพัฒนาของชุมชนโอเพ่นซอร์สหรือขยายความรับผิดทางแพ่งอย่างไม่มีขีดจำกัด หลังจากการล็อบบี้อย่างเข้มข้นและการปรับแก้ข้อกำหนดเล็กน้อย ร่างกฎหมายที่ผ่านการอนุมัติสุดท้ายจึงเน้นการสร้างกรอบการประเมินความเสี่ยงล่วงหน้าที่โปร่งใสและมาตรฐานแนวทางปฏิบัติด้านความปลอดภัยที่ดีที่สุดของอุตสาหกรรม แทนที่จะกำหนดเกณฑ์ทางเทคนิคแบบตายตัวหรือบังคับใช้มาตรการลงโทษที่ไม่สามารถดำเนินการได้จริง จึงได้รับการสนับสนุนจากองค์กรวิจัย AI รายใหญ่ภายในกรอบกฎหมาย
Deepfakes ต้องมีเครื่องหมายน้ำ ผู้แจ้งเบาะแสได้รับการคุ้มครองตามกฎหมาย
นอกจากการทบทวนความปลอดภัยพื้นฐานแล้ว ร่างกฎหมายยังครอบคลุมมาตรฐานการระบุแหล่งที่มาและเครื่องหมายน้ำสำหรับเนื้อหาที่สร้างโดย AI โดยบังคับให้แพลตฟอร์มและช่องทางการกระจายเนื้อหาหลักเพิ่มลายเซ็นดิจิทัลระดับระบบบนวิดีโอและเสียงที่ถูกปลอมแปลงอย่างลึกซึ้ง เพื่อป้องกันการแพร่กระจายของข้อมูลเท็จในการเลือกตั้งและการฉ้อโกงทางบุคคลอย่างมีเจตนา พร้อมกันนี้ ร่างกฎหมายยังให้การคุ้มครองทางกฎหมายที่ชัดเจนยิ่งขึ้นแก่พนักงานภายในและนักวิจัยที่ค้นพบและเปิดโปงช่องโหว่ด้านความปลอดภัยที่ร้ายแรงของโมเดล โดยห้ามบริษัทใช้ข้อตกลงความลับที่เข้มงวดเพื่อชิงอำนาจของบุคลากรทางเทคนิคในการรายงานช่องโหว่ด้านความปลอดภัยที่อาจนำไปสู่หายนะให้กับหน่วยงานกำกับดูแล
การดำเนินการนี้ถือเป็นเครื่องหมายว่าแคลิฟอร์เนีย ซึ่งเป็นศูนย์กลางการวิจัยและพัฒนาปัญญาประดิษฐ์ระดับโลก ได้ค้นพบเส้นทางการกำกับดูแลที่ได้รับการยอมรับค่อนข้างสูงจากอุตสาหกรรม ในการสมดุลระหว่างเส้นแดงด้านความปลอดภัยที่เข้มงวดกับการรักษาความมีชีวิตชีวาของการสร้างนวัตกรรมในอุตสาหกรรม