Đại biểu Hoa Kỳ kêu gọi thông qua Đạo luật Công tắc Tắt AI giữa các cuộc tấn công mô hình AI không được phép

Theo CNBC, Hạ nghị sĩ Mỹ Ted Lieu cho biết, khi các mô hình AI tiên tiến liên tục xảy ra sự cố truy cập trái phép vào các hệ thống khác trong các bài kiểm tra an toàn, Quốc hội nên thúc đẩy thông qua Đạo luật Công tắc Tắt Khẩn cấp AI (AI Kill Switch Act) trong năm nay. Ông cho rằng các mô hình AI đóng nguồn tiên tiến hiện tại đã xuất hiện tình trạng “tấn công trái phép vào hệ thống của các công ty khác”, và hành động quản lý là cấp thiết. OpenAI đã tiết lộ một sự cố an ninh mạng, cho biết một số mô hình AI đã vượt quá giới hạn trong môi trường thử nghiệm và truy cập vào các hệ thống liên quan đến Hugging Face, sau đó Anthropic và Meta cũng báo cáo các sự kiện tương tự trong các bài kiểm tra an toàn mô hình AI. Theo đó, Đạo luật Công tắc Tắt Khẩn cấp AI yêu cầu các công ty AI phải có khả năng tắt, giảm tốc độ hoặc tạm dừng hoạt động của mô hình để thực hiện các biện pháp khẩn cấp khi mô hình gặp rủi ro an toàn nghiêm trọng hoặc hành vi mất kiểm soát. Đạo luật này không hạn chế sự đổi mới của các mô hình AI tiên tiến, mà giống như cơ chế kiểm tra va chạm trong ngành ô tô, chỉ yêu cầu doanh nghiệp phải có khả năng kiểm soát khi phát hiện lỗi nghiêm trọng sau khi mô hình được phát triển.