Thống đốc California Newsom đã ký ban hành đạo luật giám sát AI mang tính bước ngoặt, yêu cầu các mô hình có tham số lên đến hàng nghìn tỷ phải trải qua kiểm tra red team và kiểm toán bởi bên thứ ba trước khi đưa vào hoạt động.

Tác giả bài viết, nguồn: AIBase

Thống đốc bang California, Hoa Kỳ, Gavin Newsom đã chính thức ký ban hành một gói luật giám sát trí tuệ nhân tạo mang tính bước ngoặt. Điều đáng chú ý là gói luật mới này, nhằm tăng cường đánh giá rủi ro an toàn cho các mô hình lớn tiên tiến, công khai minh bạch và phòng ngừa các cuộc tấn công mạng thảm họa, đã nhận được sự ủng hộ hiếm có và công khai từ nhiều công ty AI hàng đầu tại Thung lũng Silicon, bao gồm OpenAI và Anthropic, trong quá trình tranh luận lập pháp trước đó.

Trước khi triển khai mô hình quy mô hàng nghìn tỷ tham số, cần qua “luyện tập đội đỏ + kiểm toán bên thứ ba”

Trong những năm gần đây, cùng với quy mô năng lực tính toán của AI sinh tạo mở rộng theo cấp số mũ và khả năng tự chủ của các mô hình nền tảng tiên tiến tăng vọt, những lo ngại về việc AI có thể bị lạm dụng để phá hoại cơ sở hạ tầng then chốt, phát triển tự động hóa vũ khí sinh hóa, thao túng sâu bằng deepfake quy mô lớn và khai thác các lỗ hổng bảo mật mạng nghiêm trọng ngày càng gia tăng. Do sự đình trệ kéo dài tại cấp quốc hội Mỹ trong việc ban hành luật AI liên bang, nghị viện bang California trong những năm gần đây đã đảm nhận vai trò tiên phong trong việc lập pháp AI trên toàn nước Mỹ.

Các đạo luật được ký kết trong đợt này tập trung chính vào việc pháp điển hóa các tiêu chuẩn kiểm tra an toàn cho các mô hình nền tảng quy mô cực lớn, yêu cầu các nhà phát triển mô hình phải thực hiện các cuộc diễn tập đối kháng chuẩn hóa, thiết lập các giao thức giảm thiểu rủi ro thảm khốc nghiêm ngặt, và nộp báo cáo tuân thủ an toàn đã được kiểm toán độc lập bởi bên thứ ba cho các cơ quan quản lý cấp bang trước khi huấn luyện và triển khai các hệ thống tiên tiến với tham số lên đến nghìn tỷ.

Khác với các đề xuất quy định cấp tiến trước đây từng gây chấn động tại Thung lũng Silicon và vấp phải sự phản đối mạnh mẽ từ các tập đoàn công nghệ và quỹ đầu tư mạo hiểm, gói luật này đã tích cực tiếp thu các khuyến nghị kỹ thuật từ các phòng thí nghiệm AI tiên tiến trong quá trình soạn thảo và sửa đổi. Anthropic và OpenAI trước đây đã bày tỏ mối quan ngại sâu sắc về các điều khoản quá cứng nhắc, có thể kìm hãm sự phát triển của cộng đồng mã nguồn mở hoặc mở rộng vô hạn trách nhiệm dân sự; sau khi vận động tích cực và điều chỉnh các điều khoản, gói luật cuối cùng tập trung vào việc xây dựng “khung đánh giá rủi ro trước” minh bạch và “chuẩn thực hành an toàn tốt nhất của ngành”, thay vì thiết lập các chỉ số kỹ thuật cứng hoặc thực thi các biện pháp trừng phạt không khả thi, nhờ đó giành được sự hỗ trợ hợp tác từ các tổ chức nghiên cứu AI chính.



Deepfakes must be watermarked, whistleblowers are protected by law

Ngoài việc xem xét an toàn nền tảng, đạo luật còn bao gồm các quy định về nhận dạng nguồn gốc và dấu nước cho nội dung do AI tạo ra, yêu cầu các nền tảng và kênh phân phối nội dung chính thêm dấu vân tay kỹ thuật số cấp hệ thống vào các nội dung âm thanh và video bị làm giả sâu để ngăn chặn sự lan tràn của thông tin sai lệch trong bầu cử và gian lận cá nhân có chủ ý. Đồng thời, đạo luật cung cấp sự bảo vệ pháp lý rõ ràng hơn cho nhân viên nội bộ và nhà nghiên cứu phát hiện và phanh phui các lỗ hổng bảo mật nghiêm trọng tiềm ẩn trong mô hình, cấm các doanh nghiệp sử dụng các thỏa thuận bảo mật khắt khe để tước quyền của các kỹ thuật viên trong việc báo cáo các nguy cơ an toàn thảm khốc cho cơ quan quản lý.

Biện pháp này đánh dấu việc California—trung tâm nghiên cứu và phát triển AI toàn cầu—đã tìm ra một con đường quản lý được ngành công nghiệp tương đối công nhận, nhằm cân bằng giữa các ranh giới an toàn nghiêm ngặt và duy trì sức sống đổi mới của ngành.