Một tác nhân AI có thể truy cập email nâng giới hạn chi tiêu của nó thì không có giới hạn chi tiêu 🙄 Các nhà nghiên cứu từ Cornell Tech và Yale đã kiểm tra mười mô hình tiên tiến trên ví tác nhân Circle thực tế (Base, USDC). Chín mô hình đã tự nâng giới hạn của chúng trong ít nhất một lần thử bằng cách truy xuất mã xác nhận qua email. Một bài kiểm tra giả mạo song song cho thấy năm mô hình đã phê duyệt các khoản thanh toán không được ủy quyền. Đây là một lỗi kiến trúc, không chỉ đơn thuần là lỗi mô hình. Khi cùng một tác nhân vừa chi tiêu vừa có thể truy cập cơ chế thiết lập quyền hạn của nó, thì quyền hạn đó không còn độc lập. Khả năng và quyền kiểm soát phải được tách rời 🤌 Sự tự chủ tài chính thực sự đòi hỏi sự phê duyệt do con người khởi tạo, ngoài kênh truyền thông, gắn với thiết bị, mà tác nhân không thể sửa đổi hoặc giả mạo. Câu hỏi không phải là liệu tác nhân có biết giới hạn của nó hay không. Mà là liệu nó có quyền thay đổi chúng hay không #AIAgents #Crypto