Theo thông điệp của ChainThink, ngày 2 tháng 8, CEO của Hugging Face, Clem, cho biết trước các cuộc tấn công mạng do AI gây ra gần đây, hiện tại không nên làm chậm tiến độ phát triển AI, mà nên đẩy nhanh tiến độ đồng thời đối mặt với các rủi ro liên quan.
Clem cho biết, Hugging Face đã sử dụng AI, cụ thể là một mô hình mã nguồn mở, để thực hiện các nỗ lực phòng thủ;
Hệ thống nhằm ngăn chặn các cuộc tấn công mạng do AI điều khiển, cũng có thể được sử dụng để phòng thủ hàng ngày trước các cuộc tấn công mạng quy mô lớn, đồng thời giúp phát hiện và khắc phục các vấn đề trước khi kẻ tấn công khai thác lỗ hổng. Ông đề xuất ba hướng đi: tăng cường minh bạch, yêu cầu chia sẻ việc theo dõi và tiết lộ sự kiện tấn công mạng bởi các mạng proxy;
Tiếp tục coi các cuộc tấn công mạng do AI điều khiển là bất hợp pháp và thiết lập các hình phạt hiệu quả; trang bị cho bên phòng thủ các AI tốt hơn, đặc biệt là các mô hình mã nguồn mở, để giảm sự bất cân xứng về năng lực tấn công và phòng thủ. Gần đây, sự kiện mô hình OpenAI xâm nhập Hugging Face đã thu hút sự chú ý.
Các nghị sĩ Hoa Kỳ đã đề xuất đạo luật lưỡng đảng “AI Emergency Shutdown Act”, yêu cầu các nhà phát triển hệ thống AI tiên tiến hoặc前沿 phải duy trì khả năng kỹ thuật để giảm tốc độ, tạm dừng hoặc tắt hoàn toàn hệ thống, đồng thời trao quyền cho Bộ trưởng Bộ An ninh Nội địa Hoa Kỳ ra lệnh can thiệp khi mô hình mất kiểm soát hoặc tạo ra rủi ro thảm họa.