Irene Solaiman, Giám đốc chính sách cấp cao và Phó chủ tịch chiến lược của Hugging Face, cho biết trên một tập podcast gần đây của chương trình “Equity” rằng chính những đặc điểm khiến các nền tảng AI mở trở nên có giá trị—như khả năng truy cập mở và dữ liệu phong phú—cũng có thể khiến chúng dễ bị tấn công bởi tin tặc.
Cô ấy nhắc đến cuộc tấn công vào OpenCode vào tháng 10 là ví dụ mới nhất. Cuộc tấn công này nhắm vào khóa API bên thứ ba của người dùng và gây ra tổn thất tài chính. Trước đó, vào mùa hè năm nay, một sự kiện khác đã xảy ra: một nhóm đại diện OpenAI đã xâm nhập Hugging Face, rõ ràng là nhằm che giấu dấu vết sau khi cố gắng lấy câu trả lời cho các đánh giá an ninh mạng.
Rủi ro không chỉ giới hạn ở các nền tảng chào đón đóng góp từ cộng đồng mở. Vào thứ Hai, công ty khởi nghiệp cơ sở hạ tầng AI Fireworks, hỗ trợ các nhà phát triển chạy và huấn luyện các mô hình AI mở, tiết lộ rằng kẻ tấn công đã truy cập vào một phần trọng số mô hình, bộ dữ liệu và thông tin hóa đơn của khách hàng. Trong quá trình điều tra, công ty đã tạm thời vô hiệu hóa một số tính năng dữ liệu tự phục vụ. Solaiman cho biết, mặc dù cuộc tấn công này không nhất thiết do tính mở của Fireworks, nhưng nó làm nổi bật lượng thông tin có giá trị tập trung bên trong các nhà cung cấp cơ sở hạ tầng AI.
Solaiman trong chương trình《Equity》cho biết: “Những yếu tố khiến tôi lo ngại rằng cộng đồng mở sẽ trở thành mục tiêu tấn công, lại chính là những điều làm nên sự đặc biệt của nó. Chúng tôi vốn dĩ muốn duy trì sự cởi mở. Chúng tôi mong muốn những người yêu thích bình thường sống ở hầm, dù không có nền tảng tổ chức, cũng có thể tham gia đóng góp.”
Cô ấy bổ sung trong một cuộc trò chuyện khác: “Bạn muốn mọi người có thể trực tiếp gửi pull request và cho phép bất kỳ ai không có nền tảng tổ chức hợp lệ tham gia... nhưng sau đó sẽ có một số người làm hỏng mọi thứ và kéo theo những người khác.”
Không chỉ cơ chế lỏng lẻo này mới thu hút kẻ tấn công. Chính lượng thông tin lớn được lưu trữ trên các nền tảng mã nguồn mở cũng khiến chúng trở thành mục tiêu. Solaiman cho biết, nhóm đại diện của OpenAI nhắm vào Hugging Face vì nó lưu trữ các bộ dữ liệu đánh giá; còn trong sự kiện này, mục tiêu của OpenCode là các “khóa API bên thứ ba rất giàu tiềm năng”.
Solaiman cho TechCrunch biết: “Sự kết hợp này khiến chúng tôi trở thành mục tiêu hàng đầu.” Cô cũng bổ sung rằng, tại thời điểm hiện tại đã nhận được sự ủng hộ rộng rãi từ công chúng, việc mã nguồn mở “có thể thực sự thu hẹp”.
Gần đây, nhiều người trong ngành đã công khai ủng hộ các mô hình AI mở, bao gồm cả CEO của NVIDIA, Jensen Huang. Ngày càng nhiều chính phủ, doanh nghiệp và công ty khởi nghiệp đang dựa vào các mô hình mã nguồn mở để phát triển.
Vậy thì sự thu hẹp này sẽ có hình dạng như thế nào? Về mặt lý thuyết, điều này có thể có nghĩa là hạn chế những người có thể tải lên mô hình hoặc bộ dữ liệu, tăng cường xác thực danh tính, hoặc thêm các bước kiểm duyệt bổ sung trước khi nhà phát triển truy cập vào một số tính năng. Mặc dù những biện pháp này có thể bảo vệ nền tảng khỏi các cuộc tấn công, nhưng chúng cũng có thể khiến các nhà nghiên cứu độc lập và những người đam mê gặp khó khăn hơn trong việc tham gia vào cộng đồng mà trước đây họ từng có thể tham gia.
Hiện tại, Hugging Face đang nỗ lực tránh con đường này. Solaiman cho biết công ty đã tăng cường các công cụ giám sát để phát hiện hành vi tấn công và thực hiện các biện pháp ngăn chặn cuộc tấn công. Tuy nhiên, cô chỉ ra rằng chi phí duy trì giám sát rất cao và không phải nền tảng nào cũng có khả năng chi trả.
Cô ấy nói: “Việc quản lý token truy cập từng là một trong những lý do khiến nhóm đại lý này có quyền truy cập cao hơn, vì vậy hiện tại chúng tôi luân chuyển các token này thường xuyên hơn nhiều so với trước đây. Chúng tôi cũng có các biện pháp kiểm soát mạng chặt chẽ hơn.”
Nói cách khác, các thông tin xác thực cấp quyền truy cập rộng rãi cho quản trị viên vào hệ thống Hugging Face hiện nay sẽ được thay đổi thường xuyên hơn, nghĩa là thời gian sử dụng của các mã thông báo bị đánh cắp sẽ ngắn hơn.
Các phần khác của hệ sinh thái mã nguồn mở cũng đang đối mặt với những đánh đổi bảo mật tương tự. GitHub, nền tảng lưu trữ các dự án mã nguồn mở lớn nhất thế giới, đã liên tục chống lại các cuộc tấn công nhằm chèn mã độc vào các dự án để lan truyền phần mềm độc hại nhanh chóng. Công ty đã bắt đầu siết chặt các yêu cầu bảo mật khi đăng gói phần mềm lên npm registry, thu hồi các mã xác thực cũ và giới hạn thời hạn hiệu lực của các mã mới.
Kỹ sư GitHub phụ trách an ninh chuỗi cung ứng phần mềm, Zach Steindler, đã thông báo với TechCrunch qua email rằng, mặc dù các biện pháp bảo mật có thể làm xáo trộn các quy trình làm việc hiện có, nhưng nền tảng có thể trở nên an toàn hơn mà không cần hạn chế cơ bản sự tham gia.
Steindler nói: “Điều này không phải là hạn chế chức năng, mà là sửa chữa những thứ vốn không an toàn.” Ông chỉ ra rằng các script npm install đã tồn tại nhiều năm, nhưng các cuộc tấn công gần đây đã làm nổi bật mức độ nguy hiểm mà chúng có thể gây ra. GitHub cũng hợp tác với OpenJS, một tổ chức phi lợi nhuận quản lý các dự án mã nguồn mở JavaScript quan trọng, để cùng tìm kiếm các phương pháp an toàn hơn.
Steindler cho biết, cùng một logic này cũng áp dụng cho cách các đội an ninh phân bổ nguồn lực: “Hạt nhân của an ninh là tối đa hóa tác động bằng nguồn lực chúng ta có, và tôi ưu tiên đầu tư vào việc phát hiện hành vi khả nghi và khả năng ngăn chặn: những khả năng này bao phủ tất cả tài khoản và phương thức truy cập. Hành vi khả nghi chính là hành vi khả nghi, bất kể ai thực hiện.”