Greg Jensen, đồng giám đốc đầu tư tại Bridgewater Associates, đã đưa ra một trong những đánh giá tiêu cực nhất về quy định AI cho đến nay vào ngày 11 tháng 9. Lập luận cốt lõi của ông: lịch sử cho thấy chính phủ sẽ không hành động cho đến khi có điều gì đó thực sự tồi tệ xảy ra.
“Cho đến khi AI bắt đầu giết người, tiếc là lịch sử cho thấy chúng ta sẽ không làm gì cả,” Jensen nói, so sánh thời điểm hiện tại với tháng Hai năm 2020, khi COVID-19 đã lan rộng toàn cầu nhưng hầu hết các chính phủ vẫn chưa triển khai phản ứng.
Một tuần với những cảnh báo ngày càng gia tăng
Phát biểu của Jensen đã kết thúc chuỗi ngày khi nhiều nhân vật nổi bật bày tỏ mối quan ngại nghiêm trọng về hướng đi của sự phát triển AI. Vào ngày 9 và 10 tháng Chín, các nhà nghiên cứu tại Anthropic, bao gồm Jacob Coxon và Evan Hubinger, đã đưa ra những lời cảnh báo mạnh mẽ về tốc độ hiện tại của nghiên cứu AI.
Coxon đã từ chức tại Anthropic trong khoảng thời gian đó, viện dẫn những rủi ro chính xác mà ông đã nghiên cứu từ bên trong. Cả hai nhà nghiên cứu đều cảnh báo rằng hướng đi hiện tại của lĩnh vực này có thể tạo ra những siêu trí tuệ tự cải thiện, loại hệ thống không chỉ tuân theo lệnh mà còn tự viết lại khả năng của chính chúng.
Ước tính của họ thật đáng sợ: xác suất vượt quá 10% để loài người tuyệt chủng do AI trong vòng một thập kỷ tới.
Jensen cho rằng một sự kiện lớn liên quan đến AI có thể xảy ra trong vòng hai năm tới nếu không thực hiện các biện pháp chủ động.
Washington bắt đầu chú ý
Các nhà lập pháp Hoa Kỳ, bao gồm Hạ nghị sĩ Lori Trahan và Thượng nghị sĩ Ted Cruz, đã thúc đẩy hành động lập pháp vào ngày 9 và 10 tháng Chín, kêu gọi các khung pháp lý yêu cầu các nhà phát triển AI minh bạch và thiết lập các cơ chế tạm dừng khẩn cấp đối với các mô hình rủi ro cao.
Các đề xuất này dựa trên công việc của một nhóm độc lập thuộc Liên Hợp Quốc, đã công bố báo cáo vào tháng Bảy cảnh báo về sự tăng trưởng nhanh chóng của các khả năng AI. Phát hiện chính của nhóm là không thoải mái: AI đang tiến bộ nhanh hơn cả sự hiểu biết khoa học và chính sách của chính phủ có thể theo kịp.
Ủy ban Liên Hợp Quốc đặc biệt cảnh báo về sự phát triển vô tình các hệ thống lừa đảo hoặc có tính chất đại diện, AI có thể tự chủ theo đuổi các mục tiêu và có khả năng lừa dối những người giám sát nó.