OpenAI đã phát hành một hệ thống tự động hóa red team có tên GPT-Red nhằm tìm kiếm lỗ hổng bảo mật trước khi mô hình được triển khai. Công ty cho biết, công cụ này đã được sử dụng trong quá trình huấn luyện GPT-5.6, với trọng tâm là tăng cường khả năng chống lại các cuộc tấn công prompt injection.
Dùng AI để đo AI
Kiểm thử đội đỏ vốn là phương pháp phổ biến trong lĩnh vực an ninh, tức là chủ động tấn công hệ thống để phát hiện sớm các điểm yếu có thể bị khai thác. OpenAI lần này đã tự động hóa quy trình này, cho phép mô hình tự tạo ra các mẫu tấn công, sau đó sử dụng các trường hợp thành công để phản hồi huấn luyện mô hình phòng thủ.
OpenAI cho biết, GPT-Red thông qua việc huấn luyện bằng cách tự chơi đối kháng, liên tục tạo ra các cuộc tấn công tiêm prompt mạnh hơn. Mỗi khi cuộc tấn công thành công, các mẫu này sẽ được đưa vào quá trình huấn luyện tiếp theo, thúc đẩy mô hình phòng thủ nâng cao khả năng chống lại.
Tiết lộ dữ liệu kiểm thử nội bộ
Theo OpenAI, trong các đánh giá nội bộ, GPT-Red đã thành công trong việc phát hiện các lỗ hổng có thể khai thác ở 84% các kịch bản thử nghiệm, trong khi đội đỏ thủ công đạt tỷ lệ thành công 13% trong các bài kiểm tra tương tự. Công ty cho biết các mẫu tấn công này sau đó đã được sử dụng để huấn luyện GPT-5.6, giúp giảm số lần mô hình thất bại trong các bài kiểm tra tiêm prompt khó.
Bài viết cũng đề cập đến một trường hợp: trước khi lỗ hổng được vá, GPT-Red đã lừa một hệ thống đại lý máy bán hàng tự động giảm giá, mua hàng tồn kho giảm giá và hủy các đơn hàng của người dùng khác. OpenAI sử dụng ví dụ này để cho thấy vấn đề tiêm prompt không chỉ ảnh hưởng đến kết quả trò chuyện, mà còn có thể tác động đến các đại lý AI có khả năng thực thi hành động.
Vẫn sẽ được sử dụng như một công cụ nội bộ
OpenAI cho biết GPT-Red hiện không sẵn sàng để công chúng sử dụng, vì hệ thống này được huấn luyện đặc biệt để có khả năng tấn công. Công ty định vị nó như một bổ sung cho đội đỏ nhân tạo, kiểm thử của bên thứ ba và các biện pháp bảo mật khác, thay vì thay thế chúng.
Điều này cũng cho thấy ngành AI đang chuyển sang hướng “dùng AI để bảo vệ AI”. Vào đầu tháng này, Quỹ Ethereum cũng cho biết đã sử dụng các đại lý AI để thực hiện kiểm thử đỏ cho cơ sở hạ tầng then chốt và phát hiện ra một lỗ hổng trong phần mềm khách đồng thuận của Ethereum. Khi khả năng của các mô hình và đại lý ngày càng được nâng cao, kiểm thử bảo mật tự động đang dần trở thành một bước quan trọng trước khi triển khai các hệ thống AI.