CEO của NVIDIA cảnh báo về các ranh giới an toàn AI và công bố Sáng kiến An toàn AI 250 triệu USD tại Anh

Động thái Beating AI, CEO NVIDIA Huang Renxun mới đây trong cuộc phỏng vấn với Bloomberg tại London cho biết, nếu khách hàng phát triển phần mềm AI không an toàn, NVIDIA có thể ngừng cung cấp chip cho họ trong trường hợp giả định, nhưng sẽ liên hệ trước với khách hàng trước khi hành động. Huang Renxun đồng thời nhấn mạnh rằng NVIDIA cung cấp công nghệ tổng quát, và việc đánh giá cách khách hàng sử dụng công nghệ này có giới hạn nhất định. Đồng thời, NVIDIA cam kết cung cấp cho Anh nguồn tính toán trị giá 250 triệu USD trong năm năm tới để hỗ trợ nghiên cứu an toàn AI, tập trung vào kiểm thử an toàn cho tác nhân, với giá trị nguồn lực hàng năm khoảng 50 triệu USD. Các dự án được hỗ trợ bao gồm dự án BOLD do Đại học Oxford dẫn đầu, cùng các nghiên cứu liên quan từ Imperial College London và University College London. Huang Renxun chủ trương đẩy nhanh việc tích hợp các công nghệ ràng buộc và giám sát an toàn vào hệ thống AI, đồng thời cho rằng năng lực AI và an toàn phải được thúc đẩy song song. Báo cáo cho biết, quy định an toàn AI có thể ảnh hưởng đến nhu cầu chip của NVIDIA: nếu quy định hạn chế việc huấn luyện mô hình mới hoặc làm tăng chi phí phát triển, có thể kìm hãm việc mua sắm bộ xử lý AI; nhưng tăng cường nghiên cứu an toàn cũng góp phần thúc đẩy việc triển khai công nghệ AI một cách đáng tin cậy hơn.