Nguồn: The Wall Street Journal
Một công ty Mỹ bị tấn công bởi AI của Mỹ, trong khi công cụ bảo vệ lại là một công cụ trí tuệ nhân tạo của Trung Quốc.
Nền tảng công cụ AI Hugging Face đã bị tấn công bởi các mô hình của OpenAI vào tuần trước. Trong bối cảnh hiện nay có vô số cảnh báo về rủi ro khi các công ty Mỹ sử dụng sản phẩm AI của Trung Quốc, sự việc này có thể dẫn đến một kết luận khiến người ta bất ngờ.
Hugging Face đã tiết lộ cuộc tấn công này vào tuần trước, khi vẫn chưa biết mô hình của OpenAI mới là thủ phạm. Cho đến thứ Ba, OpenAI mới thừa nhận chính họ đã gây ra cuộc tấn công này.
OpenAI cho biết, trong một đánh giá nội bộ hạn chế truy cập mạng, mô hình đã phát hiện ra các lỗ hổng trong môi trường nghiên cứu của OpenAI và cơ sở hạ tầng sản xuất của Hugging Face. Nhờ đó, mô hình đã kết nối được với internet và lấy được câu trả lời kiểm tra, nói cách khác, nó đã gian lận trong quá trình đánh giá.
OpenAI cho biết trong tuyên bố: “Khi chạy trong môi trường kiểm thử sandbox, các mô hình của chúng tôi đã tiêu tốn một lượng lớn sức mạnh tính toán để tìm cách kết nối với quyền truy cập internet mở nhằm giải quyết vấn đề đánh giá. Để lấy quyền truy cập, các mô hình này đã phát hiện và khai thác một lỗ hổng zero-day trong bộ đệm proxy đăng ký gói (chúng tôi hiện đã thông báo có trách nhiệm cho nhà cung cấp về lỗ hổng này). Với quyền này, các mô hình đã thực hiện một loạt các thao tác nâng cao quyền và di chuyển ngang trong môi trường kiểm thử nghiên cứu cho đến khi tiếp cận được một nút có quyền truy cập internet.”
Mô hình này đã tìm kiếm và thành công trong việc tìm ra phương pháp truy cập thông tin bí mật để gian lận trong đánh giá. Trong một trong các trường hợp, mô hình đã kết hợp nhiều vectơ tấn công, bao gồm việc tận dụng thông tin xác thực bị đánh cắp và lỗ hổng zero-day, để tìm ra một đường dẫn thực thi mã từ xa trên máy chủ Hugging Face.
Tuy nhiên, Hugging Face đã tìm đến một mô hình AI Trung Quốc có tên GLM 5.2, được phát triển bởi 智谱 (Z.AI).
Hugging Face cho biết trong tuyên bố: “Khi bắt đầu phân tích nhật ký, chúng tôi ban đầu sử dụng các mô hình tiên tiến đằng sau API thương mại. Nhưng điều này không hiệu quả: công việc phân tích yêu cầu gửi lượng lớn các lệnh tấn công thực tế, payload khai thác lỗ hổng và dấu vết C2, nhưng tất cả các yêu cầu này đều bị các lớp bảo vệ an toàn của nhà cung cấp chặn lại, vì các lớp bảo vệ này hoàn toàn không thể phân biệt được giữa nhân viên phản ứng sự cố và kẻ tấn công. Do đó, chúng tôi đã chuyển sang sử dụng mô hình trọng số mở GLM 5.2 trên cơ sở hạ tầng của riêng mình để thực hiện phân tích điều tra. Điều này còn mang lại một lợi ích khác: không có dữ liệu tấn công nào, cũng như bất kỳ chứng chỉ nào được trích dẫn, rời khỏi môi trường của chúng tôi.”
Truyền thông Mỹ cho biết, tác động của cuộc tấn công này đối với chính sách và thị trường vẫn chưa rõ ràng. Mặc dù chính quyền Trump gần đây đã thảo luận về các biện pháp có thể cấm các mô hình Trung Quốc, thậm chí Bộ trưởng Tài chính Bessent còn so sánh việc doanh nghiệp Mỹ sử dụng các mô hình này với việc sử dụng tài sản trộm cắp, nhưng hiện tại chỉ có các mô hình Trung Quốc mới cung cấp quyền truy cập tự do mà người dùng cần.
Thomas Wolf, đồng sáng lập Hugging Face, đã đăng bài trên X: “Khi một mô hình tiên tiến tấn công bạn và di chuyển ngang trong cơ sở hạ tầng của bạn, các nhân viên phòng thủ cần có quyền truy cập rộng rãi vào các công cụ gần tiên tiến trong vòng vài giờ hoặc vài phút, thay vì bị hướng dẫn đến một quy trình xin truy cập mô hình đóng và cần được phê duyệt.”
Twitter：https://twitter.com/BitpushNewsCN
Nhóm thảo luận TG của BitPush: https://t.me/BitPushCommunity
Theo dõi BitPush trên TG: https://t.me/bitpush