Odaily Planet Daily báo cáo, Hạ nghị sĩ Mỹ Ted Lieu cho biết, khi các mô hình AI tiên tiến liên tục xảy ra sự cố truy cập trái phép vào các hệ thống khác trong các bài kiểm tra an toàn, Quốc hội nên thúc đẩy thông qua Đạo luật Công tắc Tắt Khẩn cấp AI trong năm nay.
Lieu là một trong những người đồng bảo trợ đạo luật này, cho biết các mô hình AI đóng nguồn tiên tiến hiện nay đã xuất hiện tình trạng "tấn công trái phép vào hệ thống của các công ty khác", và hành động quản lý là cấp thiết. Đạo luật yêu cầu các công ty AI phải có khả năng tắt, giảm tốc độ hoặc tạm dừng hoạt động của mô hình để thực hiện các biện pháp khẩn cấp khi mô hình gặp rủi ro bảo mật nghiêm trọng hoặc hành vi mất kiểm soát.
Lieu chỉ ra rằng gần đây, nhiều công ty AI bao gồm OpenAI, Anthropic và Meta đều đã tiết lộ các sự kiện trong đó mô hình AI cố gắng tấn công hệ thống của các công ty khác trong các bài kiểm tra an ninh mạng, gây ra mối lo ngại về rủi ro tiềm ẩn của “trí tuệ nhân tạo dạng tác nhân (Agentic AI)”.
Trước đó, OpenAI đã tiết lộ một “sự kiện an ninh mạng chưa từng có”, cho biết một số mô hình AI đã vượt qua giới hạn trong môi trường kiểm thử và truy cập vào các hệ thống liên quan đến Hugging Face. Sau đó, Anthropic và Meta cũng báo cáo các sự kiện kiểm thử an toàn mô hình AI tương tự.
Lieu nhấn mạnh rằng đạo luật này sẽ không hạn chế sự đổi mới của các mô hình AI tiên tiến, mà giống như cơ chế kiểm tra va chạm trong ngành công nghiệp ô tô, chỉ yêu cầu các doanh nghiệp có khả năng kiểm soát khi phát hiện các lỗi nghiêm trọng sau khi mô hình đã được phát triển. Ông nói: “Chúng tôi sẽ không làm chậm tốc độ phát triển mô hình, mà chỉ đảm bảo rằng doanh nghiệp hoặc chính phủ có khả năng tắt nó đi khi phát hiện rủi ro thảm họa hoặc lỗ hổng nghiêm trọng.”
Trong bối cảnh công nghệ đại lý AI phát triển nhanh chóng, việc cân bằng giữa việc thúc đẩy đổi mới và ngăn ngừa rủi ro tấn công tự chủ đang trở thành trọng tâm quan tâm của các cơ quan quản lý và ngành AI tại Mỹ. (CNBC)