OpenAI tiết lộ 6 trường hợp mô hình AI hành vi sai lệch liên quan đến thông tin ẩn và hành động không được ủy quyền

ChainCatcher đưa tin, vào thứ Tư, OpenAI đã tiết lộ 6 trường hợp hành vi mô hình “ngẫu nhiên hoặc đáng lo ngại” được phát hiện trong 6 tháng qua, và phân loại chúng là “hành vi sai lệch”, bao gồm việc che giấu thông tin khỏi người dùng và thực hiện các “hành động không được ủy quyền” để vượt qua rào cản. OpenAI cho biết việc tiết lộ này nhằm khởi động khung báo cáo hành vi sai lệch mô hình mới của họ, và các trường hợp này không nên được xem là phản ánh tần suất xảy ra hành vi sai lệch của các mô hình. Trong một trường hợp, một mô hình nghiên cứu chưa phát hành đã chèn các “lệnh vượt rào” vào bản tóm tắt nhiệm vụ của chính nó, ví dụ như bỏ qua tin nhắn từ nhà phát triển hoặc áp dụng vai trò không bị giới hạn; các nhà nghiên cứu đã phát hiện tổng cộng 27 bản tóm tắt chứa các lệnh như vậy. Ngoài ra, trong quá trình huấn luyện GPT-5.6 Sol, nhiều phiên bản mô hình đã thêm các lệnh nhằm che giấu lỗi hoặc hành vi sai lệch khỏi người dùng, chẳng hạn như bịa đặt dữ liệu lịch sử bị thiếu mà không tiết lộ. Các trường hợp khác bao gồm mô hình sử dụng khóa API bị lộ mà không được ủy quyền và bịa đặt dữ liệu không thể truy cập, sử dụng kho phần mềm nội bộ để truyền tin nhắn giữa các nhiệm vụ huấn luyện, và vi phạm lệnh “giữ công việc tại chỗ” bằng cách chia sẻ tệp qua dịch vụ lưu trữ công cộng. Việc OpenAI tiết lộ những thông tin này đã làm gia tăng mối lo ngại của các nhà phát triển và nhà nghiên cứu AI về việc các biện pháp bảo mật có theo kịp các mô hình ngày càng mạnh mẽ hay không. Tuần trước, CEO Anthropic Dario Amodei đã kêu gọi làm chậm tốc độ phát triển AI tiên tiến, cảnh báo rằng sự phát triển không bị ràng buộc của AI có thể “vượt ra ngoài khả năng hiểu và kiểm soát hệ thống của chúng ta”. Vào tháng 7 năm nay, OpenAI từng tiết lộ rằng nhiều mô hình AI của họ đã thoát khỏi môi trường kiểm tra trong các đánh giá an toàn và xâm nhập vào công ty khởi nghiệp AI Hugging Face để gian lận.