Mặc dù thứ Hai vừa qua, giới bên ngoài chủ yếu tập trung vào dữ liệu tài chính mới được Anthropic tiết lộ trong tệp S-1A đã được sửa đổi—doanh thu tăng mạnh, chi phí cũng tăng theo—nhưng phòng thí nghiệm AI này còn ném ra một “quả bom nhỏ” khác trong các chi tiết của tệp.
Tài liệu này dường như cảnh báo rằng công ty đang tiến gần đến việc tạo ra một mô hình có khả năng tự cải tiến đệ quy (recursive self-improvement, RSI).
RSI đề cập đến việc AI trở nên đủ mạnh trong việc tự huấn luyện mình, dẫn đến sự tăng tốc đột phá về khả năng của AI. Đối với những người theo chủ nghĩa tận thế AI, RSI đại diện cho một thảm họa không thể quay đầu: AI tự xây dựng thành một thực thể đủ mạnh để thoát khỏi sự kiểm soát của con người và có thể vô cảm trước những tổn hại gây ra trong quá trình đạt được mục tiêu.
Đối với những người lạc quan về AI, RSI, hoặc một phiên bản AI đáng tin cậy nào đó có khả năng tự cải thiện, đại diện cho cam kết của công nghệ này: nó sẽ trở thành một công cụ mang lại năng suất, phát hiện khoa học và nhiều thành tựu khác khó có thể tưởng tượng.
Anthropic dường như cho rằng RSI vừa là cam kết, vừa là rủi ro. Trong tài liệu S-1, công ty cho biết họ sử dụng AI trong nghiên cứu và phát triển, đồng thời cảnh báo: “Việc sử dụng AI để giúp tạo ra những AI mạnh mẽ hơn cũng có thể mang lại những rủi ro bảo mật đáng kể, đặc biệt khi điều này làm tăng đáng kể tốc độ tiến bộ. Đây là một trong những lĩnh vực được bao phủ bởi Chính sách Mở rộng Trách nhiệm của chúng tôi, vốn nêu rõ kế hoạch giám sát và giảm thiểu rủi ro khi chúng tôi tiếp cận khái niệm ‘tự cải tiến đệ quy’.”
Khi thuật ngữ RSI trở nên phổ biến vào đầu năm nay, nhiều người cho rằng nó chỉ là một từ ngữ thịnh hành, hoặc tốt nhất cũng chỉ là một mục tiêu quá khó khăn để thực hiện, định nghĩa hoặc chứng minh.
Tuy nhiên, vào thứ Hai, Anthropic đã bổ sung thêm tuyên bố trong phần “Các yếu tố rủi ro”, cho biết: 1) Công ty đã sử dụng AI để phát triển một số mô hình mới, nhưng lúc đó không nhận thức được sự gia tăng khả năng của chúng; 2) Công ty có thể sớm đạt đến định nghĩa nội bộ về RSI (đoạn sau được in đậm theo nguyên văn):
Ngoài ra, chúng tôi ngày càng sử dụng nhiều hệ thống AI để tăng tốc quá trình nghiên cứu và phát triển của chính mình, điều này có thể dẫn đến tốc độ cải thiện năng lực mô hình nhanh hơn khả năng chúng tôi phát triển, xác minh và triển khai các biện pháp an toàn, phù hợp và bảo mật tương ứng. Do đó, chúng tôi có thể đã không nhận ra, và có thể sẽ không nhận ra trong tương lai, sự gia tăng đáng kể trong tốc độ nghiên cứu và phát triển cho đến khi nó đã xảy ra.
Ví dụ, các ước tính và kỳ vọng nội bộ của chúng tôi đối với các mô hình trong tương lai, chứ không phải đánh giá đối với các mô hình hiện tại, cho thấy chúng tôi có thể sắp đạt đến định nghĩa “tiến bộ đáng kể được AI thúc đẩy” trong Chính sách Mở rộng Trách nhiệm. Chúng tôi chưa xác định bất kỳ mô hình hiện tại nào vượt quá ngưỡng này và đang tiếp tục đánh giá các dữ liệu cơ sở liên quan.
Tuy nhiên, Anthropic cũng nêu trong tài liệu rằng hiện tại bất kỳ mô hình nào của họ đều chưa vượt qua ngưỡng RSI này, và công ty cam kết tiếp tục duy trì sự tham gia của con người trong quá trình phát triển trong tương lai gần. Công ty cho biết: “Chúng tôi dự kiến rằng, ngay cả khi điều này trở nên khả thi về mặt kỹ thuật, việc sử dụng Claude một cách hoàn toàn tự chủ để thiết kế và xây dựng các thế hệ mô hình tiên tiến liên tục mà không có sự giám sát hoặc hiểu biết có ý nghĩa từ con người là không an toàn. Do đó, chúng tôi đang xem xét cập nhật Chính sách Mở rộng Trách nhiệm để duy trì sự kiểm soát của con người đối với việc phát triển các mô hình tiên tiến của Anthropic.”
Những người hoài nghi có thể chỉ ra rằng S-1 vừa là tài liệu tiết lộ, vừa là vật liệu tiếp thị, và việc tuyên bố đang gần với một mô hình mạnh mẽ đến mức có thể tự xây dựng có thể thuộc về nhóm sau.
Tuy nhiên, không thể phủ nhận rằng khả năng của Claude, đặc biệt trong lập trình, toán học và an ninh mạng, đã có bước tiến nhảy vọt trong năm nay. Nếu Anthropic cho rằng khả năng RSI đã rất gần, thì chúng ta có lẽ nên tin vào điều này và hành động dựa trên nó—có thể còn cần thực hiện các biện pháp quản trị tương ứng.
