Anthropic đề xuất cơ chế tạm dừng AI toàn cầu giữa lúc huy động 650 triệu USD và nộp hồ sơ IPO

Theo theo dõi của Beating, trong báo cáo “Khi AI Tự Xây Dựng Chính Nó”, Anthropic đề xuất toàn cầu thiết lập “cơ chế tạm dừng phối hợp có thể xác minh” dựa trên Hiệp ước Các lực lượng Hạt nhân Trung phạm vi kiểm soát vũ khí hạt nhân. Báo cáo rõ ràng phản đối việc tạm dừng phát triển một chiều và nhấn mạnh rằng chỉ khi có thể xác minh toàn cầu, các phòng thí nghiệm tiên tiến mới có thể đồng thời dừng lại. Tuy nhiên, việc tạm dừng phối hợp là không khả thi về mặt kỹ thuật. Kiểm soát vũ khí hạt nhân có thể theo dõi các bệ phóng tên lửa bằng vệ tinh, nhưng GPU có kích thước nhỏ, dễ che giấu và có thể thực hiện tính toán phân tán. Để xác minh liệu đối phương có đang huấn luyện bí mật hay không, cách duy nhất là thực hiện giám sát xâm nhập đối với tất cả chip GPU, lưới điện và trung tâm dữ liệu trên toàn cầu. Việc giám sát toàn diện không chỉ không khả thi về mặt chính trị, mà về mặt kỹ thuật còn tương đương với chủ trương độc tài tính toán. Trong bối cảnh kiểm tra kỹ thuật không thể thực hiện được, đề xuất tạm dừng phối hợp trông giống như một “tấm vé miễn trừ an toàn”. Ngay trước khi công bố báo cáo, Anthropic vừa hoàn tất đợt huy động vốn 65 tỷ USD với định giá gần 1 nghìn tỷ USD và nộp đơn đăng ký niêm yết. Anthropic đặt điều kiện dừng lại là việc xác minh toàn cầu không thể thực hiện được, vừa tạo điều kiện cho việc huấn luyện vô thời hạn của chính mình, vừa chuyển trách nhiệm không thể dừng lại sang cơ chế quản lý chưa được thiết lập.