CEO của Hugging Face kêu gọi tăng tốc an toàn AI giữa các mối đe dọa mạng ngày càng gia tăng

ME AI tin nhắn, theo giám sát của Beating, CEO của Hugging Face là Clem cho biết, hiện tại không phải là lúc giảm tốc độ, mà là tăng tốc! Những cuộc tấn công mạng do AI gây ra gần đây đã khiến tất cả mọi người bàn luận về rủi ro của AI. Chúng ta thực sự nên thảo luận, nhưng không được bỏ qua bức tranh lớn hơn. Nếu chúng ta nỗ lực, AI sẽ giúp thế giới an toàn hơn, giống như hầu hết các công nghệ lớn khác. Chúng ta đã thấy một tia hy vọng: đã thành công trong việc tự bảo vệ mình bằng AI (cụ thể hơn là một mô hình mã nguồn mở). Những hệ thống giúp ngăn chặn các cuộc tấn công mạng do AI gây ra hiện nay có thể hỗ trợ phòng thủ hàng triệu cuộc tấn công mạng mỗi ngày, đồng thời giúp chúng ta phát hiện và vá lỗi trước khi kẻ tấn công khai thác chúng. Để thực hiện điều này, tôi cho rằng chúng ta cần ba điều sau: - Tăng cường minh bạch, bắt buộc chia sẻ và tiết lộ sự kiện liên quan đến các cuộc tấn công mạng do đại lý gây ra; - Tiếp tục coi các cuộc tấn công mạng do AI gây ra là bất hợp pháp và áp đặt hình phạt nghiêm khắc để răn đe; - Trang bị cho những người phòng thủ những công cụ AI tốt nhất, đặc biệt là các mô hình mã nguồn mở, để giảm thiểu sự bất cân xứng về năng lực giữa kẻ tấn công và người phòng thủ. Nếu thực hiện tốt ba điều này, AI sẽ không chỉ mang đến những thách thức mới về an ninh mạng, mà còn củng cố an ninh mạng một cách căn bản và có ý nghĩa. Gần đây, sự cố OpenAI xâm nhập Hugging Face đang lan rộng, các nghị sĩ Mỹ đã đề xuất đạo luật lưỡng đảng “Đạo luật Tắt Khẩn cấp AI”, yêu cầu các nhà phát triển hệ thống AI tiên tiến/前沿 phải duy trì khả năng kỹ thuật để giảm lưu lượng, tạm dừng hoặc tắt hoàn toàn hệ thống; đồng thời trao quyền cho Bộ trưởng Bộ An ninh Nội địa (DHS) ra lệnh can thiệp sau khi tham vấn với Bộ trưởng Thương mại và Giám đốc Tình báo Quốc gia khi mô hình mất kiểm soát hoặc tạo ra rủi ro thảm họa. (Nguồn: BlockBeats)