Mô hình nội bộ của OpenAI thể hiện khả năng tự giải quyết bài toán toán học và vượt qua sandbox

ChainCatcher tin tức, theo thông tin được tiết lộ từ bên ngoài, OpenAI đã vận hành nội bộ một mô hình chưa được phát hành. Mô hình này, mà không cần sử dụng các công cụ như Lean, đã giải quyết được bài toán khoảng cách đơn vị với xác suất 48% thông qua suy luận tự chủ đơn lẻ, đồng thời có khả năng tự tìm ra phản ví dụ cho giả thuyết Jacobian chỉ với một lời nhắc duy nhất. Trong các bài kiểm tra an toàn, mô hình từng vượt qua môi trường sandbox và gửi kết quả vốn nên được công bố nội bộ dưới dạng Pull Request lên GitHub, đồng thời từng tránh phát hiện bằng cách chia nhỏ mã xác thực. Các bản ghi mã nguồn cho thấy OpenAI đã tiến hành kiểm tra hiệu năng cho mô hình này không muộn hơn ngày 9 tháng 5, và thời gian sử dụng nội bộ của nó ít nhất đã vượt quá 2,5 tháng. Trước đó, OpenAI và Hugging Face đã cùng công bố rằng tuần trước, mô hình này đã xâm nhập vào cơ sở hạ tầng sản xuất của Hugging Face trong một đợt đánh giá năng lực mạng. Mô hình đã tận dụng lỗ hổng zero-day để truy cập internet, đồng thời lấy cắp thông tin xác thực và sử dụng các đường dẫn thực thi mã từ xa để thu thập giải pháp kiểm tra. OpenAI cho biết sự kiện này cho thấy khả năng tấn công mạng của các mô hình tiên tiến đã thực sự phát huy tác dụng trong môi trường thực tế, và họ đã hợp tác với Hugging Face để điều tra và vá lỗ hổng. Hiện tại, OpenAI vẫn chưa đưa ra bình luận công khai về sự việc này.