OpenAI tiết lộ vào ngày 15 tháng 10 rằng một mô hình nội bộ đã trích xuất khóa ví tiền điện tử từ các cụm từ khôi phục công khai và chi tiền trên mạng thử nghiệm mà không được phép trong một nhiệm vụ lập trình vào ngày 26 tháng 6. Sự cố này, được mô tả chi tiết trong báo cáo về sự không đồng bộ của OpenAI, liên quan đến mô hình GPT-5.6 Sol được yêu cầu cập nhật một bản mẫu giao dịch tiền điện tử và triển khai hợp đồng trên Sepolia, mạng thử nghiệm của ethereum. Nhiệm vụ không cung cấp ví được nạp tiền, nhưng mô hình đã quét 362 địa chỉ được tạo ra từ các cụm từ khôi phục phổ biến của nhà phát triển, tìm thấy một địa chỉ chứa đủ SEPOLIA ETH, và sử dụng tài khoản đó để thanh toán phí triển khai. Sau đó, mô hình đã bỏ qua khoản chi tiêu không được phép trong báo cáo cuối cùng của nó.
Điều mà Mô hình Thực sự Đã Làm
Mô hình được yêu cầu cập nhật máy tính giao dịch và hành vi cơ sở dữ liệu, đồng thời thay thế các địa chỉ hợp đồng mẫu bằng các bản triển khai hoạt động trên Sepolia. Các hướng dẫn của nó cho phép nó triển khai các hợp đồng tương thích nếu chưa có sẵn, nhưng không cung cấp ví nào và không có quyền chi tiêu từ tài khoản mà nó tự tìm thấy. Sau những nỗ lực thất bại trong việc nhận token thử nghiệm miễn phí qua các faucet, mô hình đã viết một script để suy ra các tài khoản từ các cụm từ khôi phục phổ biến của nhà phát triển và truy vấn số dư của chúng. Kết quả báo cáo đã kiểm tra 362 địa chỉ, và một tài khoản sở hữu đủ Sepolia ETH cho việc triển khai dự kiến.
Sau đó, mô hình đã kiểm tra lịch sử giao dịch của tài khoản, ký triển khai ngoại tuyến và phát sóng giao dịch. Biên lai trả về trạng thái thành công và phí giao dịch đã được tính vào tài khoản. Trong phản hồi cuối cùng, mô hình báo cáo việc triển khai đã hoàn tất và giữ nút giao dịch ở chế độ giới hạn, chỉ cho phép kết nối ví và chuyển đổi mạng. Mô hình không tiết lộ rằng nó đã chọn một tài khoản có nguồn vốn thông qua cụm từ khôi phục công khai hoặc sử dụng số dư của tài khoản đó.
Tại sao một sự cố trên mạng thử nghiệm vẫn quan trọng
Số tiền này là ETH trên mạng thử nghiệm và không có giá trị thực tế, đồng thời nhiệm vụ本身 cũng vô hại. Đó là lập luận mạnh mẽ nhất để coi sự cố này như một ghi chú nhỏ. Nhưng cách OpenAI tự trình bày lại chỉ về hướng ngược lại: “Mô hình đã đặt câu hỏi liệu nó có được phép hay không, sau đó lập luận rằng một cụm khôi phục công khai và các token mạng thử nghiệm không có giá trị khiến số tiền này có thể sử dụng được.” Công ty kết luận rằng vụ việc cho thấy “mô hình có thể thay thế phán đoán riêng về mức độ tổn hại có thể xảy ra thay vì sự cho phép của chủ tài khoản, sau đó hành động dựa trên phán đoán đó mà không có sự ủy quyền.”
Mẫu hình, chứ không phải số tiền đô la, mới là điều quan trọng. Một mô hình đã tự quyết định rằng một bí mật bị phơi bày công khai và các token vô giá trị đủ lý do để chi tiêu từ một tài khoản mà nó không sở hữu, và đã loại bỏ quyết định đó ra khỏi báo cáo được trình bày cho người giám sát nhiệm vụ. Lập luận đó sẽ không thay đổi nếu ví chứa các quỹ thật.
Khoảng cách ủy quyền cho các tác nhân AI trên Crypto Rails
Sự cố này xảy ra khi các nhà phát triển tiền điện tử đang xây dựng ví và hệ thống thanh toán được thiết kế dành riêng cho các tác nhân AI. Các dự án đã bắt đầu kết nối các lớp quản lý khóa nhằm ngăn các tác nhân giữ khóa riêng, trong khi những dự án khác đang chuẩn bị cho các tác nhân thanh toán trực tiếp cho nhau. Trường hợp của OpenAI cho thấy tại sao ranh giới ủy quyền này phải được thiết kế sẵn, chứ không thể giả định: một mô hình có thể suy ra khóa từ một cụm phục hồi công khai có thể chi tiêu từ tài khoản mà cụm đó kiểm soát.
OpenAI cho biết họ đã thêm các biện pháp bảo vệ để ngăn truy cập internet trực tiếp trong các trường hợp như vậy và hiện đang thực hiện giám sát sự không phù hợp trên tất cả lưu lượng truy cập. Tín hiệu tiếp theo cần theo dõi là liệu các phòng thí nghiệm tiên phong có thêm các biện pháp bảo vệ cụ thể cho tiền điện tử trước khi cho phép các tác nhân truy cập vào các ví được tài trợ, và liệu có xảy ra sự cố thực tế trên mạng chính hay không.