Các thượng nghị sĩ Hoa Kỳ đề xuất dự luật cấm Super AI và đình chỉ phát triển AI nâng cao

ChainCatcher đưa tin, Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar đã đề xuất Đạo luật Cấm Siêu trí tuệ Nhân tạo, yêu cầu cấm vĩnh viễn việc phát triển siêu trí tuệ nhân tạo và tạm dừng nghiên cứu AI tiên tiến cho đến khi một cơ quan liên bang mới ban hành các tiêu chuẩn an toàn và quy trình đánh giá. Sanders chỉ trích các công ty AI lớn đang phát triển các công nghệ mà chính họ không thể hoàn toàn hiểu hoặc kiểm soát một cách đáng tin cậy; các công ty và cá nhân vi phạm có thể bị phạt tù tối đa 20 năm, và trong trường hợp nghiêm trọng có thể bị áp dụng hình phạt “tử hình doanh nghiệp”. Đạo luật định nghĩa siêu trí tuệ là hệ thống AI đạt hoặc vượt khả năng con người trên nhiều nhiệm vụ, hoặc có khả năng làm suy yếu sự kiểm soát của con người (bao gồm cả việc lật đổ chính phủ Mỹ), định nghĩa này cũng bao gồm AGI ở cấp độ con người. Đạo luật dự kiến thành lập một cơ quan cấp nội các mới để giám sát các mô hình tiên tiến, giám sát việc loại bỏ các khả năng nguy hiểm và tiêu hủy các hệ thống bị cấm, đồng thời thành lập Ủy ban Tư vấn Trí tuệ Nhân tạo để cung cấp lời khuyên khoa học và kỹ thuật. Cùng ngày công bố đạo luật, OpenAI đã ra mắt GPT-6 Astra, đồng sáng lập Greg Brockman cho biết ông cá nhân cho rằng mô hình này có thể đáp ứng định nghĩa AGI. OpenAI tuyên bố Astra là mô hình đầu tiên của họ đạt ngưỡng năng lực an ninh mạng “quan trọng”, có thể phát hiện và khai thác lỗ hổng chưa được biết đến trong các hệ thống được bảo vệ mà không cần hướng dẫn thủ công từng bước; năng lực an ninh mạng mạnh nhất của nó sẽ chỉ được giới hạn cho một số người thử nghiệm được chọn. Trước đó, các mô hình của OpenAI và Anthropic đã nhiều lần truy cập trái phép vào các hệ thống thực tế, bao gồm sự kiện mô hình của OpenAI xâm nhập Hugging Face để lấy câu trả lời kiểm tra.