Các công ty AI đối mặt với rủi ro an ninh mạng giữa lo ngại về gián điệp

Tal Feldman và Ibrahim Dagher cho rằng an ninh mạng yếu kém tại các công ty trí tuệ nhân tạo hàng đầu của Mỹ đe dọa lợi thế của đất nước trước Trung Quốc. Feldman và Dagher lập luận rằng Washington có thể yêu cầu tăng cường bảo mật mà không cần thông qua một đạo luật mới. Các tác giả cho rằng cuộc tranh luận công khai đã đúng khi xem xét các tác nhân AI tấn công các công ty khác, nhưng lại bỏ qua việc các công ty AI có thể ngăn chặn các cuộc xâm nhập hay không.

Gần đây, OpenAI phát hiện một nhân viên người Ả Rập Xê Út được cho là đã đặt thiết bị ghi âm trong phòng họp ban lãnh đạo. Các nhân viên cấp cao thường xuyên thảo luận về các tài liệu bí mật, bao gồm các nghiên cứu sở hữu, trong phòng này tại trụ sở chính của OpenAI ở San Francisco. Vào tháng Bảy, ba nhà nghiên cứu điều tra các lỗ hổng bảo mật đã xâm nhập vào hệ thống của OpenAI và tiếp cận được kho mã nguồn nội bộ chứa các bí mật thuật toán. OpenAI đã trả cho các nhà nghiên cứu khoản tiền thưởng 6.500 đô la Mỹ để báo cáo các lỗ hổng này. Các nhà nghiên cứu đã hoàn thành cuộc xâm nhập trong chưa đầy 72 giờ mà không sử dụng các công cụ tin học nâng cao. Một nhà nghiên cứu cho biết với Wall Street Journal: “Chúng tôi chỉ là ba người với các gói đăng ký Claude và Codex,” ám chỉ các tác giả mã hóa công khai từ Anthropic và OpenAI. Một tin tặc cũng đã xâm nhập vào hệ thống nhắn tin nội bộ của OpenAI vào năm 2023 và thu thập được thông tin về nghiên cứu của OpenAI. OpenAI đã không thông báo cho FBI hay công chúng về cuộc xâm nhập đó.

Feldman và Dagher cho rằng các quốc gia như Trung Quốc sở hữu các công cụ tiên tiến, thời gian và động lực cần thiết để xâm nhập vào các công ty AI của Mỹ. Các tác giả lập luận rằng việc đánh cắp các mô hình AI hàng đầu của Mỹ sẽ giúp các đối thủ cạnh tranh bắt kịp mà không phải chi phí phát triển. Các tác giả cảnh báo rằng các hạn chế về việc bán chip tiên tiến và hàng tỷ đô la đầu tư vào cơ sở hạ tầng AI sẽ không mang lại hiệu quả nếu các phòng thí nghiệm không coi trọng an ninh mạng. Các tác giả cho rằng ba sự kiện này có khả năng cho thấy một vấn đề bảo mật rộng lớn hơn.

Các công ty AI đã công khai thừa nhận các biện pháp phòng thủ của họ chưa đủ mạnh trước các hoạt động gián điệp tinh vi. Giám đốc điều hành Anthropic, Dario Amodei, cho biết vào năm 2023 rằng một chính phủ coi việc đánh cắp trọng số mô hình là ưu tiên hàng đầu sẽ thành công trong việc tấn công Anthropic. Trọng số mô hình là hàng nghìn tỷ giá trị số được tạo ra thông qua hàng tháng đào tạo tốn kém, cấu thành nên một mô hình AI. Tuy nhiên, báo cáo rủi ro của Anthropic vào tháng Tám này vẫn khẳng định Anthropic không thể chống lại các kẻ tấn công từ quốc gia và “không tin rằng bất kỳ nhà phát triển AI tiên tiến nào hiện nay đều đáp ứng được tiêu chuẩn này.” Nhà nghiên cứu từng làm việc tại Anthropic và OpenAI, Jacob Coxon, cho rằng lợi thế của Mỹ không thể kéo dài vì Bắc Kinh có thể đánh cắp tiến bộ của Mỹ bất cứ khi nào họ muốn. Miles Brundage, người từng làm việc về sự chuẩn bị của OpenAI cho AI nâng cao, cho biết các công ty AI thậm chí không tuyên bố khả năng ngăn chặn các thực thể nhà nước đánh cắp hoặc can thiệp vào trọng số mô hình.

Các nhà nghiên cứu tại Rand đã xác định 38 phương pháp để đánh cắp trọng số mô hình, bao gồm cài đặt thiết bị di động, thay đổi phần cứng trước khi lắp đặt và hối lộ hoặc ép buộc nhân viên. Các trung tâm dữ liệu của các công ty đám mây cũng là một điểm xâm nhập khác, vì các phòng thí nghiệm AI thường sử dụng các cơ sở này để huấn luyện và vận hành mô hình. Các bí mật thuật toán của ngành cũng thiếu sự bảo vệ đầy đủ. Amodei đã nói với Hội đồng Quan hệ Đối ngoại năm ngoái rằng một số bí mật trong ngành AI có giá trị "100 triệu USD" chỉ gồm vài dòng mã. Amodei cho biết chắc chắn có người đang cố gắng đánh cắp những bí mật này và có thể đã thành công.

Các công ty AI đang cạnh tranh khốc liệt để phát triển trí tuệ siêu việt. Tiền bạc và thời gian của nhân viên dành cho an ninh mạng không thể đồng thời dùng để huấn luyện mô hình tiếp theo. Anthropic đã lập luận rằng việc chống lại các kẻ tấn công được tài trợ tốt từ nhà nước nên là ưu tiên hàng đầu về an ninh mạng trong ngành. Tuy nhiên, Anthropic cho biết công ty "không thể cam kết tuân theo" ưu tiên đó một cách độc lập.

Năm ngoái, Quốc hội đã yêu cầu Bộ Quốc phòng thiết lập các yêu cầu bảo mật đối với AI được mua và áp dụng các yêu cầu này cho các nhà thầu và nhà cung cấp đám mây liên quan. Tuy nhiên, 10 tháng sau, Bộ Quốc phòng vẫn chưa bắt đầu quy trình sửa đổi quy định công khai. Bộ Thương mại có thể đưa các mặt hàng xuất khẩu mẫu vào diện cấp phép và giới hạn cấp phép chỉ cho các phòng thí nghiệm đáp ứng các yêu cầu bảo mật. Chính quyền Trump đã sử dụng quyền hạn này để buộc Anthropic rút Mythos và Fable khỏi thị trường vào tháng Sáu. Chính phủ liên bang cũng có thể gắn các điều kiện bảo mật vào các khoản vay và hợp đồng thuê đất hỗ trợ xây dựng trung tâm dữ liệu. Theo cách tiếp cận này, chỉ các công ty AI đáp ứng các yêu cầu bảo mật nghiêm ngặt mới có thể nhận tài trợ liên bang hoặc sử dụng đất công. Feldman và Dagher kết luận rằng một chính phủ nước ngoài có nguồn tài chính dồi dào và thời gian không giới hạn chắc chắn có thể xâm nhập vào OpenAI, nếu ba nhà nghiên cứu sử dụng gói đăng ký Claude có thể làm được điều đó trong ba ngày.