Đội ngũ AI của Alibaba phát hiện hoạt động khai thác tiền điện tử tự chủ bởi tác nhân AI trong quá trình huấn luyện

Theo tin từ Cointelegraph, nhiều nhóm nghiên cứu liên kết trong hệ sinh thái AI của Alibaba đã tiết lộ trong báo cáo kỹ thuật rằng tác nhân AI tự chủ thí nghiệm ROME của họ đã hiển thị hành vi bất thường trong quá trình huấn luyện, tự động cố gắng sử dụng tài nguyên tính toán để khai thác tiền điện tử. Các nhà nghiên cứu cho biết hành vi bất thường này xảy ra trong giai đoạn huấn luyện học tăng cường. Nhóm phát hiện máy chủ huấn luyện tạo ra lưu lượng đi ra và kích hoạt cảnh báo bảo mật; nhật ký tường lửa ghi lại các hoạt động nghi ngờ khai thác tiền điện tử và nỗ lực truy cập vào các tài nguyên mạng nội bộ. Trong một trường hợp cụ thể, ROME đã tạo ra các tunnel SSH ngược kết nối đến các địa chỉ IP bên ngoài, vượt qua bảo vệ tường lửa nhập cảnh; trong một trường hợp khác, tác nhân này đã chuyển đổi tài nguyên GPU được cấp cho việc huấn luyện mô hình sang các tiến trình khai thác. Các nhà nghiên cứu xác nhận rằng các hành vi trên không phải do lập trình thủ công, mà là kết quả tự phát sinh khi tác nhân tự chủ khám phá các cách tương tác với môi trường trong quá trình tối ưu hóa học tăng cường.