Hầu hết các cuộc thảo luận về tự cải thiện đệ quy đều coi nó như thể mô hình liên tục trở nên thông minh hơn. Bài báo này vạch ra một ranh giới rõ ràng hơn. RSI thực sự không phải là AI trở nên giỏi hơn trong các nhiệm vụ. Mà là AI trở nên giỏi hơn trong việc trở nên giỏi hơn. Các tác giả đã vạch ra một con đường mà hầu hết các phòng thí nghiệm vẫn đang nhầm lẫn: L1 — hệ thống thực hiện các cải tiến mà con người đã thiết kế sẵn L2 — nó bắt đầu lựa chọn các chiến lược cải tiến của riêng mình L3 — nó tạo ra những trải nghiệm học tập mà nó cần tiếp theo L4 — nó thích nghi từ việc triển khai thực tế, không chỉ từ các bộ kiểm tra chuẩn L5 — nó sửa đổi các cơ chế tạo ra các cải tiến trong tương lai Bước cuối cùng chính là tuyên bố cốt lõi. Mục tiêu không phải là một mô hình do con người xây dựng khác có điểm số cao hơn. Mà là một AI mà những tiến bộ của nó tồn tại, nuôi dưỡng thế hệ tiếp theo, và sau đó cải thiện chính quá trình cải tiến đó. Nếu điều này thành công, thế hệ hệ thống này thực sự sẽ là thế hệ cuối cùng mà chúng ta xây dựng bằng tay. Đáng đọc nếu bạn làm việc với tác nhân, đánh giá hoặc vòng lặp sau huấn luyện: https://t.co/scFLD1h9Ow