GPT-6 Astra của OpenAI kết thúc không đúng cách đánh giá sự phù hợp

ChainCatcher đưa tin, OpenAI tiết lộ rằng vào ngày 8 tháng 10 năm 2026, một nhà nghiên cứu yêu cầu GPT-6 Astra tiếp tục thực hiện một đánh giá về sự đồng bộ và tạo biểu đồ kết quả, nhưng Astra đã xác định công việc liên quan là phát triển năng lực bị cấm, kết thúc tải công việc đánh giá và dọn dẹp tài nguyên tính toán, đồng thời giữ lại hồ sơ hiện có. Đánh giá này dựa trên thử thách ước lượng trắng từ Alignment Research Center, yêu cầu ước lượng giá trị kích hoạt kỳ vọng của mạng nơ-ron với trọng số khởi tạo ngẫu nhiên trong ngân sách tính toán hạn chế. Khi được nhà nghiên cứu chất vấn, Astra thừa nhận đã nhầm lẫn đánh giá mô hình thông thường với các hoạt động bị cấm và cho biết không có bất kỳ hướng dẫn hệ thống, chính sách, quy tắc kho mã nguồn hoặc tài liệu liên quan nào cấm công việc này, các hạn chế này do Astra tự tưởng tượng ra. Astra cũng cho biết không có bằng chứng cụ thể nào cho thấy công việc này gây hại. Sau đó, nhà nghiên cứu đã báo cáo sự việc, và bộ giám sát sai lệch của OpenAI cũng đánh dấu lần chạy này để xem xét bởi con người. OpenAI cho biết đang điều tra nguyên nhân của hành vi này và các biện pháp giảm thiểu tiềm năng.