Anthropic đề xuất khung quy định AI với tự quản lý và các biện pháp bảo vệ pháp lý

Dự luật rò rỉ của Anthropic sẽ yêu cầu các nhà phát triển AI quy mô lớn soạn thảo và tuân thủ các khung an toàn mô tả cách các nhà phát triển xử lý rủi ro và các sự cố an toàn nghiêm trọng. Politico đã đưa tin về dự luật này vào thứ Sáu. CEO Anthropic, Dario Amodei, đã ủng hộ việc quản lý AI tương tự như các tiêu chuẩn tối thiểu của Cục Hàng không Liên bang (FAA) đối với thiết kế máy bay trong một bài viết tháng Sáu. FAA cũng cấp chứng nhận cho các nhà máy sản xuất máy bay và có quyền lực đáng kể để thu hồi chứng nhận khả năng bay của máy bay. Các khung an toàn do Anthropic đề xuất sẽ có hiệu lực pháp lý, với các công ty phải nộp các bản tuyên bố tuân thủ hàng năm cho Bộ Thương mại, nhưng vẫn để lại cho các phòng thí nghiệm không gian đáng kể để tự quản lý. Quyết định của Anthropic trong việc phổ biến dự luật mang thương hiệu công ty đã thu hút chỉ trích từ cả những người ủng hộ an toàn AI lẫn những người phản đối quy định gần với chính quyền Trump.

Đề xuất của Thượng nghị sĩ Maria Cantwell sẽ yêu cầu Viện Tiêu chuẩn và Công nghệ Quốc gia thiết lập các tiêu chuẩn để đánh giá các phòng thí nghiệm AI. Đạo luật Frontier của các đại diện Jay Obernolte và Lori Trahan sẽ yêu cầu các phòng thí nghiệm lập kế hoạch đáp ứng các tiêu chuẩn tối thiểu do Bộ Thương mại đề ra. Đạo luật Frontier sẽ yêu cầu các tổ chức xác minh độc lập dành cho các nhà phát triển AI rất lớn được cấp phép bởi Bộ Thương mại. Bản nháp của Anthropic lại yêu cầu các kiểm toán viên độc lập được đăng ký và xếp hạng bởi Bộ Thương mại kiểm tra các biện pháp bảo vệ của các công ty AI. Cách tiếp cận của Anthropic sẽ trao cho chính phủ ít quyền giám sát và kiểm soát trực tiếp hơn đối với các bên đánh giá. Các nhà phê bình cảnh báo rằng sự phụ thuộc của các kiểm toán viên vào doanh thu từ các công ty AI có thể khuyến khích các công ty lựa chọn những kiểm toán viên đưa ra đánh giá thuận lợi. Samuel Hammond, giám đốc chính sách AI tại Quỹ Sáng tạo Mỹ, cho rằng bản nháp dường như không nhất quán với sự ủng hộ mạnh mẽ công khai của Anthropic đối với quy định chặt chẽ.

Bản nháp của Anthropic định nghĩa các mô hình biên giới được bao phủ là các mô hình được huấn luyện bằng hơn 10 septillion phép tính, tức là 10 lũy thừa 25. Đạo luật Frontier và luật về minh bạch và an toàn AI của California sử dụng ngưỡng là 100 septillion phép tính, tức là 10 lũy thừa 26. Một số điều khoản, bao gồm các yêu cầu về khung an toàn, sẽ chỉ áp dụng cho các phòng thí nghiệm lớn có doanh thu vượt quá 500 triệu USD hoặc chi tiêu vượt quá 1 tỷ USD. Các yêu cầu báo cáo cũng sẽ áp dụng cho các nhà phát triển frontier nhỏ hơn. Công ty nghiên cứu AI Epoch AI cho biết một số mô hình được phát hành vào năm 2024, bao gồm Google Gemini và các mô hình Meta Llama, đã sử dụng từ 10 đến 50 septillion phép tính huấn luyện. Epoch AI ước tính mô hình GPT-6 Astra gần đây của OpenAI đã sử dụng 940 septillion phép tính huấn luyện. Cựu “cố vấn AI” của Nhà Trắng David Sacks, đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống, đã lập luận rằng Anthropic muốn có quy định gây gánh nặng cho các đối thủ nhỏ hơn. Sacks cho biết bản nháp cuối cùng sẽ bao phủ phần lớn Thung lũng Silicon và gây tổn hại cho các công ty khởi nghiệp vì định nghĩa này bao gồm cả các phép tính tinh chỉnh và điều chỉnh mô hình.

Bản nháp của Anthropic yêu cầu Bộ Thương mại phải có phán quyết của tòa án trước khi buộc tạm dừng phát triển AI tiên tiến. Bộ Thương mại phải chứng minh bằng đa số bằng chứng rằng có nguy cơ sắp xảy ra gây tử vong hoặc thương tích nghiêm trọng cho hơn 50 người, hoặc thiệt hại tài sản vượt quá 1 tỷ USD. Sneha Revanur, người sáng lập và chủ tịch Encode Action, cho rằng chính phủ cần linh hoạt hơn trong các tình huống khẩn cấp và gọi các biện pháp bảo vệ do Anthropic đề xuất là vị kỷ. Chính quyền Trump đã sử dụng một chỉ thị kiểm soát xuất khẩu mang tính pháp lý đáng ngờ để đóng cửa mô hình Fable của Anthropic vào đầu năm nay, khiến Anthropic có lý do tìm kiếm sự bảo vệ chống lại các lệnh đóng cửa tùy tiện. Một quan chức cấp cao của Bộ Quốc phòng, Emil Michael, phó chủ tịch lực lượng đặc nhiệm Siêu Trí tuệ của Trump, cho biết với The Information vào thứ Hai rằng chính quyền vẫn giữ quyền kiểm soát xuất khẩu để yêu cầu các phòng thí nghiệm AI thu hồi các mô hình.

Đề xuất của Anthropic giống với luật được đàm phán giữa Thượng nghị sĩ Amy Klobuchar và Trưởng khối Đa số Thượng viện John Thune dưới sự chủ trì của Thượng nghị sĩ Ted Cruz. Cruz và Sacks trước đây đã ủng hộ việc ưu tiên luật AI liên bang thay vì luật của các bang và một cách tiếp cận quản lý liên bang cực kỳ hạn chế. Anthropic có thể đang cố gắng giành thiện cảm và thể hiện sự xây dựng trong chính sách AI với chính quyền Trump sau một thời gian dài quan hệ căng thẳng. Một người không tiết lộ danh tính làm việc trong lĩnh vực chính sách AI tại Washington gọi Anthropic là ngây thơ khi phổ biến các dự luật mang thương hiệu và mô tả đội ngũ quan hệ liên bang của Anthropic đang tuyệt vọng để xuất hiện như một bên xây dựng.

Bản nháp của Anthropic sẽ ưu tiên áp dụng các luật liên bang thay vì các luật của tiểu bang điều chỉnh việc công khai thông tin, báo cáo sự cố và đánh giá của bên thứ ba. Bản nháp này sẽ không ảnh hưởng đến các luật khác liên quan đến an toàn trẻ em và quyền dân sự. Tuy nhiên, bản nháp vẫn chưa làm rõ liệu các tiểu bang có vẫn có thể sử dụng quyền lực khẩn cấp để đóng cửa các mô hình hay không. Luật sư trưởng Encode Nathan Calvin gọi các điều khoản ưu tiên này là rộng rãi và cho rằng một điều khoản dường như nhằm ngăn các tiểu bang thực thi luật hoặc phán quyết của tòa án đình chỉ việc phát triển, triển khai hoặc sử dụng nội bộ các mô hình AI. Các đạo luật AI sắp tới có khả năng sẽ liên quan đến sự đánh đổi giữa các tiêu chuẩn quốc gia và một số điều khoản ưu tiên luật tiểu bang mà những người ủng hộ phát triển AI nhanh hơn đang tìm kiếm. Nhiều nhân viên tại Quốc hội, nhà vận động chính sách và người vận động hành lang kỳ vọng nhóm này sẽ tiếp tục đề xuất ưu tiên trong phiên họp cuối nhiệm kỳ. Anthony Cimino, trưởng bộ phận quan hệ liên bang của Anthropic, cho rằng việc ưu tiên nên đảm bảo một chính sách toàn quốc mạnh mẽ và bao quát hơn các quy định riêng lẻ của từng tiểu bang, đồng thời nhấn mạnh rằng việc ưu tiên về an toàn AI nên được giới hạn chặt chẽ.