OpenAI đã công bố tính năng mới gọi là Lockdown Mode cho ChatGPT, tập trung vào việc chống lại các cuộc tấn công prompt injection. Tính năng này nhắm đến người dùng và tổ chức cần xử lý dữ liệu nhạy cảm, nhằm giảm thiểu nguy cơ rò rỉ dữ liệu.
Tắt một phần khả năng kết nối mạng
Khi được kích hoạt, ChatGPT sẽ không thể duyệt web theo thời gian thực và chỉ có thể truy cập nội dung đã được lưu trong bộ nhớ đệm. Việc tìm kiếm và hiển thị hình ảnh trên web cũng sẽ bị tắt, nhưng vẫn có thể sử dụng tính năng tạo hình ảnh.
Nghiên cứu sâu và chế độ đại lý bị hạn chế
OpenAI cũng sẽ tắt chế độ deep research và agent mode trong chế độ này. Công ty cho biết điều này giúp giảm sự can thiệp vào hành vi của mô hình khi các lệnh độc hại ẩn trong nội dung như trang web, tệp tin, v.v.
Vẫn không thể loại bỏ hoàn toàn rủi ro
OpenAI cũng cảnh báo rằng, ngay cả khi kích hoạt Chế độ Lockdown, ChatGPT vẫn có thể bị ảnh hưởng bởi việc tiêm prompt. Ví dụ: nội dung trang web được lưu trong bộ nhớ đệm hoặc các tệp được tải lên vẫn có thể chứa các lệnh độc hại, từ đó ảnh hưởng đến độ chính xác của câu trả lời.
Thông tin bổ sung: Hiện tại, tính năng này đang được triển khai dần cho các tài khoản tự phục vụ ChatGPT Business và các tài khoản cá nhân đủ điều kiện.