AI agent có thể bị lừa, và đừng mong đợi vấn đề này sẽ biến mất chỉ vì thay bằng mô hình thông minh hơn. BNB Agent Studio và đối tác AWS đã thực hiện một loạt bài kiểm tra “agent bị gây nhiễu”. Kẻ tấn công chèn thông tin người nhận sai hoặc số tiền sai vào một nhiệm vụ bình thường, sáu mô hình có tỷ lệ thực hiện thanh toán vi phạm lên tới 87% trong một số tình huống. Ngay cả khi thêm lớp chiến lược ví, các mô hình vẫn cố gắng thực hiện sai, nhưng trong môi trường kiểm tra, không có một giao dịch vi phạm nào được ký. Danh sách trắng người nhận, giới hạn chi tiêu và quyền ký được thực thi bằng mã, và khóa riêng không bao giờ đi vào ngữ cảnh mô hình. Tôi đồng ý với hướng tiếp cận này. AI có thể giúp bạn đưa ra quyết định, nhưng ranh giới chi tiêu phải được cố định sẵn trong ví. Hiện tại, kết quả đến từ các bài kiểm tra một vòng và xác minh trên mạng thử nghiệm BSC, vẫn còn một chặng đường dài để đạt đến mức bảo vệ lâu dài trong môi trường sản xuất. Tuy nhiên, ít nhất hướng đi đã rõ ràng: hàng rào phòng thủ phải được đặt trước khi ký.