TechCrunch đăng bài cho rằng AI tạo sinh đang đẩy các vấn đề an ninh doanh nghiệp lên vị trí ưu tiên cao hơn. Francis de Souza, Giám đốc điều hành cấp cao của Google Cloud, cho biết trong một sự kiện rằng khi doanh nghiệp triển khai AI, không thể để an ninh lại sau và cũng không thể giao cho từng nhân viên tự xử lý. Theo ông, chiến lược AI phải được triển khai đồng thời với chiến lược dữ liệu và chiến lược an ninh.
Bài viết chỉ ra rằng bản thân hệ thống phán đoán này không mới, nhưng sau khi các công cụ AI nhanh chóng được tích hợp vào quy trình doanh nghiệp, rủi ro đã được phơi bày nhanh hơn. de Souza đặc biệt đề cập đến vấn đề “AI bóng tối”, khi nhân viên bypass các chính sách quản lý công ty và sử dụng trực tiếp các công cụ AI dành cho cá nhân. Hành động này khiến doanh nghiệp khó khăn trong việc thống nhất kiểm toán, kiểm soát quyền truy cập và quản lý dữ liệu.
Attack surface is no longer limited to traditional networks
de Souza cho rằng các mô hình phòng thủ truyền thống đã không còn theo kịp nhịp độ hiện tại. Bài viết trích dẫn ông nói rằng, khoảng thời gian trung bình từ khi hệ thống bị xâm nhập lần đầu đến khi cuộc tấn công chuyển sang giai đoạn tiếp theo đã giảm từ 8 giờ xuống còn 22 giây. Đồng thời, những gì doanh nghiệp cần bảo vệ giờ đây không còn chỉ là mạng và thiết bị đầu cuối.
Các điểm rủi ro hiện tại còn bao gồm các khâu mới như mô hình, đường ống dữ liệu huấn luyện, tác nhân và các lời nhắc. Đặc biệt, các tác nhân AI chạy trong doanh nghiệp có thể tự động phát hiện ra các kho dữ liệu chưa được quan tâm trong nhiều năm và làm lộ lại những thông tin nhạy cảm vốn đã bị ẩn.
Google chủ trương bảo vệ theo nền tảng
Cách tiếp cận mà de Souza đề xuất là chuyển hướng phòng thủ sang mô hình “máy với máy”. Ông cho rằng các doanh nghiệp cần áp dụng phương pháp nền tảng để duy trì các chính sách bảo mật nhất quán giữa các môi trường đám mây và các mô hình khác nhau, thay vì chỉ vá lỗ hổng từng cái một sau khi triển khai kinh doanh.
Ông còn cho biết, đây không còn chỉ là công việc của đội ngũ an ninh, mà là vấn đề mà hội đồng quản trị và ban lãnh đạo cần tham gia trực tiếp. Lý do là AI đang thay đổi cách thức truy cập vào các hệ thống nội bộ doanh nghiệp, khiến các quy trình an ninh dựa trên phản ứng thủ công ngày càng khó xử lý kịp thời.
Tuy nhiên, bài viết cũng nhấn mạnh rằng ngành hiện vẫn thiếu đủ nhân lực có khả năng giám sát các hệ thống này. Lea Kissner, Giám đốc An ninh Thông tin hàng đầu của LinkedIn, đã cho biết với tờ The New York Times tuần này rằng tốc độ gia tăng lỗ hổng do AI mang lại vẫn nhanh hơn khả năng xử lý của các đội an ninh, và ngành có thể cần thêm vài năm nữa để hình thành nhận thức an ninh AI ổn định hơn.
Sự kiện Gemini phơi bày sự chênh lệch trong thực thi nền tảng
Bài viết cho rằng, các khuyến nghị bảo mật mà Google Cloud đưa ra dù hợp lý, nhưng bản thân nền tảng này cũng tồn tại những lỗ hổng rõ rệt ở khâu thực thi. The Register gần đây đã liên tục đưa tin rằng, nhiều nhà phát triển Google Cloud đã nhận được hóa đơn lên đến hàng chục nghìn đô la Mỹ do các cuộc gọi Gemini API không được ủy quyền, trong khi một số người trong số họ trước đó chưa từng chủ động kích hoạt dịch vụ liên quan.
Báo cáo cho biết, hầu hết các trường hợp này đều liên quan đến các khóa API bị phơi bày công khai. Các khóa liên quan ban đầu được sử dụng cho Google Maps và được đặt ở vị trí công khai theo hướng dẫn trước đây của Google. Sau đó, Google đã mở rộng phạm vi có thể gọi của các khóa này, nhưng các nhà phát triển không được thông báo rõ ràng về sự thay đổi này, dẫn đến việc kẻ tấn công có thể lợi dụng để truy cập vào dịch vụ Gemini và tạo ra các chi phí cao.
- Prentus cho biết đã bị刷出 10.138 USD trong vòng 30 phút
- Một nhà phát triển khác nhận được hóa đơn khoảng 17.000 AUD
- Sau khi tăng tự động, hạn mức thực tế có thể lên tới 100.000 USD
Sau khi được truyền thông đưa tin, Google đã hoàn tiền cho các nhà phát triển liên quan, nhưng không có kế hoạch điều chỉnh chính sách nâng cấp tự động và tính phí. Lý do công ty đưa ra là nền tảng ưu tiên tránh gián đoạn dịch vụ hơn là tuân thủ nghiêm ngặt giới hạn ngân sách do người dùng thiết lập.
Sau khi xóa khóa, vẫn còn cửa sổ khả dụng
Bài viết cũng đề cập đến một nghiên cứu của công ty an ninh Aikido. Nghiên cứu cho biết, ngay cả khi các nhà phát triển phát hiện rò rỉ khóa và xóa ngay lập tức, kẻ tấn công vẫn có thể tiếp tục sử dụng khóa đó trong tối đa 23 phút, vì thao tác hủy bỏ của Google sẽ được lan truyền dần dần trong cơ sở hạ tầng, chứ không hiệu lực ngay lập tức.
Nghiên cứu viên Aikido Joseph Leon cho biết, trong khoảng thời gian này, khả năng xác thực các yêu cầu vẫn không ổn định, nhưng trong một số thời điểm, tỷ lệ thành công vẫn có thể vượt quá 90%. Các kẻ tấn công có thể tận dụng cửa sổ này để tiếp tục xuất file hoặc đọc dữ liệu hội thoại được lưu trong bộ nhớ đệm của Gemini.
Leon cũng chỉ ra rằng một số định dạng chứng chỉ mới của Google không gặp vấn đề tương tự. Ví dụ: chứng chỉ API tài khoản dịch vụ có thể bị thu hồi trong khoảng 5 giây, còn các khóa mới hơn có tiền tố AQ của Gemini sẽ hết hạn sau khoảng 1 phút. Điều này có nghĩa là cửa sổ 23 phút đối với các khóa cũ không hẳn là không thể giải quyết về mặt kỹ thuật, mà có vẻ là kết quả của lựa chọn ưu tiên nền tảng.
Thông tin bổ sung: Bài viết này là bài quan điểm từ truyền thông nước ngoài, trọng tâm không phải là phủ nhận khuyến nghị bảo mật của Google, mà là chỉ ra rằng trong khi nền tảng khuyến khích doanh nghiệp thực hiện phòng ngừa sớm, thì tốc độ phản hồi của chính sản phẩm, hệ thống thanh toán và quản lý khóa của họ vẫn còn khoảng cách.