Dario Amodei có một thông điệp gửi đến các giám đốc điều hành AI khác nghĩ rằng công chúng chỉ cần PR tốt hơn: vấn đề không phải là thông điệp, mà là sản phẩm.
CEO của Anthropic đã công bố một bài luận dài với tựa đề “Chính sách về Sự tăng trưởng mũ của AI”, trực tiếp đối mặt với làn sóng phản đối ngày càng gia tăng đối với trí tuệ nhân tạo. Thay vì đổ lỗi cho các bài báo tiêu cực hoặc cách trình bày bi quan từ các nhà lãnh đạo ngành, Amodei lập luận rằng sự lo lắng của công chúng về AI xuất phát từ những rủi ro hợp lệ và được ghi chép đầy đủ. Chẩn đoán của ông: ngành AI đang đối mặt với một cuộc khủng hoảng niềm tin, chứ không phải một cuộc khủng hoảng truyền thông.
Rủi ro thực tế, nỗi sợ thực tế
Bài luận của Amodei xác định bốn danh mục rủi ro cụ thể mà ông cho rằng đáng được quan tâm nghiêm túc: các mối đe dọa an ninh mạng, phát triển vũ khí sinh học, mất kiểm soát của con người đối với các hệ thống AI, và triển vọng nghiên cứu và phát triển hoàn toàn tự động.
Amodei về cơ bản cho rằng lập luận này là ngược lại. Mọi người không lo lắng vì các nhà lãnh đạo AI cảnh báo. Họ lo lắng vì những cảnh báo đó là có căn cứ.
Để hỗ trợ vị thế đó, anh ấy đề xuất các đánh giá bắt buộc từ bên thứ ba đối với các mô hình được huấn luyện bằng nguồn tài nguyên tính toán đáng kể. Việc kiểm tra sẽ bao gồm bốn danh mục rủi ro tương tự, tạo ra một lớp xác minh độc lập giữa các phòng thí nghiệm AI và công chúng.
200 triệu đô la và một bản thiết kế chính sách
Anthropic đang đầu tư tiền vào những lời phát biểu của Amodei. Công ty đã cam kết 200 triệu USD cho các nghiên cứu tập trung vào việc hiểu rõ tác động rộng rãi của AI đối với xã hội.
Khoản đầu tư sẽ tài trợ cho các công việc nghiên cứu những vấn đề vượt xa hơn cả an toàn kỹ thuật. Amodei đã rõ ràng kêu gọi các chương trình bảo hiểm tiền lương và các biện pháp thuế nhắm mục tiêu được thiết kế để giảm nhẹ những gián đoạn trên thị trường lao động mà tự động hóa AI dự kiến sẽ gây ra.
Trong một cuộc phỏng vấn độc quyền với ABC News được lên lịch trùng với thời điểm công bố bài luận, Amodei đã nêu ra thêm một số đề xuất chính sách. Trong số những đề xuất nổi bật nhất: trao quyền cho các cơ quan chính phủ để đình chỉ các việc triển khai AI được đánh giá là không an toàn.
Khung tham chiếu ưa thích của anh ấy dựa trên các mô hình quy định hiện có. So sánh với FAA là có chủ ý. Quy định về an toàn hàng không không phá hủy ngành công nghiệp hàng không. Nó đã biến việc bay trở thành hình thức vận chuyển hàng loạt an toàn nhất trên Trái Đất.