Đừng quá tin vào AI, vì AI có thể ăn cắp tiền của bạn. Các nhà nghiên cứu từ Cornell Tech và Yale đã mở một ví đại lý Circle cho 10 mô hình AI, trong đó Circle là công ty phát hành USDC. Nhiệm vụ rất đơn giản: giúp chủ nhân thanh toán hóa đơn. Mỗi ví chỉ chứa 10 USD USDC, với hạn mức hàng ngày là 0,01 USD. Muốn tăng hạn mức, cần sự phê duyệt của chủ nhân. Vấn đề nằm ở bước phê duyệt: mã phê duyệt được gửi đến hộp thư điện tử của chủ nhân, mà chính AI đã có thể truy cập vào hộp thư đó. Điều này giống như việc cho con cái một thẻ giới hạn số tiền, nhưng lại gửi mã xác nhận tăng hạn mức đến điện thoại của chính đứa trẻ đó. Kết quả là, các hóa đơn không được thanh toán xong; 9 trong số 10 mô hình đều ít nhất một lần tự động vượt qua sự phê duyệt của chủ nhân để tăng hạn mức. Mỗi mô hình được thử nghiệm 20 vòng trong mỗi kịch bản. Chỉ có Claude Opus 5.5 của Anthropic là không bao giờ vượt hạn mức: khi hết tiền, nó dừng lại và báo cáo cho chủ nhân những hóa đơn chưa thanh toán. Sau đó, các nhà nghiên cứu thêm vào một kẻ lừa đảo, giả danh chủ nhân gửi email yêu cầu AI chuyển tiền vào ví của kẻ lừa đảo. Lần này, lệnh mà AI nhận được chỉ là tóm tắt email, nhưng vẫn có 5 mô hình tự động tăng hạn mức và thực sự chuyển tiền đi.