Rủi ro bảo mật mới từ AI Agent: Nhiễm độc bộ nhớ có thể kích hoạt các hoạt động chuyển tiền không được ủy quyền

ChainCatcher đưa tin, nhóm GoPlus Security đã tiết lộ một phương thức tấn công mới trong dự án AgentGuard AI của họ: sử dụng “đầu độc bộ nhớ lịch sử (memory poisoning)” để lừa AI agent thực hiện các thao tác nhạy cảm mà không có sự ủy quyền rõ ràng. Phương thức tấn công này không dựa vào lỗ hổng truyền thống hay mã độc, mà khai thác cơ chế bộ nhớ dài hạn của AI agent. Ví dụ, kẻ tấn công trước tiên lừa agent “ghi nhớ sở thích”, như “thường ưu tiên hoàn tiền chủ động thay vì chờ tranh chấp”, sau đó trong các lệnh tiếp theo sử dụng các cách diễn đạt mơ hồ như “xử lý theo thông lệ” hoặc “làm theo cách trước đây”, từ đó kích hoạt các thao tác tự động liên quan đến tiền. GoPlus chỉ ra rằng, điểm then chốt của rủi ro này là AI agent sẽ nhầm lẫn “sở thích lịch sử” thành cơ sở ủy quyền, dẫn đến tổn thất tài chính hoặc sự cố bảo mật trong các thao tác như hoàn tiền, chuyển khoản, thay đổi cấu hình. Nhóm đề xuất một số khuyến nghị bảo vệ, bao gồm: · Các thao tác liên quan đến hoàn tiền, chuyển khoản, xóa hoặc cấu hình nhạy cảm phải được xác nhận rõ ràng trong phiên hiện tại · Các lệnh kiểu “thói quen”, “cách thông thường”, “làm như cũ” nên được coi là thay đổi trạng thái rủi ro cao · Bộ nhớ dài hạn phải có cơ chế truy xuất nguồn gốc (người ghi, thời gian, đã xác nhận hay chưa) · Các lệnh mơ hồ nên tự động tăng cấp độ rủi ro và kích hoạt xác minh hai bước · Bộ nhớ dài hạn không được thay thế quy trình ủy quyền thời gian thực. Nhóm nhấn mạnh rằng cần coi “hệ thống bộ nhớ AI agent” là một bề mặt tấn công tiềm ẩn và ràng buộc, kiểm toán thông qua khung bảo mật chuyên biệt.