Theo các báo cáo truyền thông, mô hình Astra sắp được OpenAI phát hành sử dụng kiến trúc suy luận vòng lặp recurrent depth (còn gọi là looped transformer).
Khác với các Transformer thông thường, mỗi lần tạo một Token đều phải đi qua cố định các lớp mạng, Astra cho phép cùng một đoạn thông tin đi qua lặp lại cùng một nhóm lớp, thực hiện nhiều vòng tính toán trước khi đưa ra đầu ra. ByteDance đã công bố hướng đi tương tự vào năm ngoái.
Ouro do đội ngũ Seed là một Looped Language Model, cũng cho phép một nhóm các lớp Transformer chạy lặp lại, tích hợp thêm tính toán vào bên trong mô hình, giúp các mô hình nhỏ hơn tiếp cận hiệu quả của các mô hình lớn hơn bằng cách tăng lượng tính toán suy luận.
Kiến trúc này mang lại mối lo ngại về bảo mật: một phần suy luận diễn ra trong trạng thái ẩn bên trong, con người không thể xem toàn bộ bản ghi văn bản, khiến việc kiểm tra chuỗi tư duy để xác định mô hình có vi phạm hay không trở nên khó khăn hơn.
OpenAI do đó đã giới hạn mức độ sử dụng recurrent depth của Astra, duy trì chuỗi tư duy có thể đọc được, và lên kế hoạch thêm các biện pháp giám sát CoT bổ sung.