Các nhà nghiên cứu AI hàng đầu khám phá việc phát triển AI do AI dẫn dắt

Làm thế nào để để AI tự phát triển AI thế hệ tiếp theo

Tác giả bài viết, nguồn: Tài khoản WeChat "APPSO"

Nếu một kỹ sư AI người Trung Quốc có kỹ năng vững vàng, lý lịch ấn tượng và tốt nghiệp từ một trường đại học hàng đầu như Đại học Bắc Kinh, thì người đó có thể làm mọi thứ, nhưng chắc chắn không thể không đi làm.

Ngay sau khi rời Thinking Machines Lab vì cho rằng sức khỏe và cuộc sống là “công việc quan trọng nhất cần đồng bộ”, Ôn Lệ đã được cho là quay trở lại làm việc tại OpenAI. Theo người phát ngôn công ty, cô sẽ dẫn đầu một đội ngũ nhằm đẩy nhanh nghiên cứu nội bộ, tham gia vào việc khám phá của OpenAI về “tự cải tiến lặp lại”, tức là để AI tham gia vào việc huấn luyện và cải tiến các mô hình thế hệ tiếp theo của chính nó.

Không chỉ riêng cô ấy, công ty mới do cựu đồng nghiệp của cô, cựu nhân vật cốt lõi của OpenAI Ilya Sutskever, thành lập—Safe Superintelligence—cũng cuối cùng đã hé lộ một khe hở từ những nghiên cứu kín đáo. Sau khi được tiếp cận hiếm có với các nghiên cứu nội bộ, NVIDIA đã quyết định đầu tư vào SSI và tăng cường năng lực tính toán của họ lên một cấp độ bằng hệ thống Vera Rubin thế hệ mới.

NVIDIA tin tưởng rằng SSI trong hai năm qua đã đang thúc đẩy một hướng nghiên cứu mới khác với các tuyến đường mô hình lớn hiện có. Ilya không tiết lộ thêm chi tiết, chỉ nói một câu: “Chúng tôi có những nghiên cứu đáng để mở rộng quy mô.”

Cộng đồng tò mò càng trở nên hào hứng hơn, trên mạng xã hội xuất hiện một bài phân tích ngược lại các manh mối công khai, suy đoán rằng SSI không tìm kiếm một công thức tiền huấn luyện lớn hơn tiếp theo, mà là một cách tiếp cận lặp lại và tiến hóa mới: giúp mô hình không chỉ đứng yên sau khi huấn luyện xong, mà còn liên tục phát triển các thế hệ mạnh mẽ hơn thông qua phản hồi, thí nghiệm và học hỏi liên tục.

Phán đoán này chưa được SSI xác nhận, nhưng nó trùng hợp chặt chẽ với những quan điểm trước đây của Ilya. Anh ấy đã nhiều lần khẳng định rằng thời đại mở rộng chỉ dựa vào dữ liệu và sức tính toán đang tiến gần đến giới hạn, và AI cần học lại cách con người hình thành sự hiểu biết sâu sắc hơn từ ít kinh nghiệm hơn, đồng thời tiếp tục phát triển thông qua tương tác với môi trường.

Những nhân tài AI hàng đầu đã rất thành công này dường như đều đang hướng tới một hướng đi chung: làm thế nào để AI tự phát triển thế hệ AI tiếp theo.

Khi nhắc đến cải tiến tự thân lặp lại, dễ dàng liên tưởng đến một cảnh khoa học viễn tưởng: AI đột nhiên nhận ra khuyết điểm của chính mình, trực tiếp sửa đổi trọng số mạng nơ-ron, và thức dậy với trí thông minh vượt trội gấp mười lần so với ngày hôm qua.

Điểm khởi đầu trong thực tế đơn giản hơn nhiều. Nghiên cứu AI vốn là một dây chuyền sản xuất lặp đi lặp lại liên tục: các nhà nghiên cứu đọc các bài báo và hồ sơ thí nghiệm, đưa ra một giả thuyết, chỉnh sửa mã huấn luyện, xếp hàng chạy thí nghiệm, chờ kết quả, so sánh các chỉ số, tìm nguyên nhân thất bại, rồi thiết kế phương án cho vòng tiếp theo.

Các mô hình lớn ngày nay đã có thể tham gia vào nhiều khâu trong quá trình này: chúng có thể đọc thư viện mã, tái hiện các bài báo, viết script thí nghiệm, gọi nguồn tính toán để chạy thử nghiệm, tổng hợp hàng chục bộ kết quả, phân tích xem thông số nào có thể gặp vấn đề, sau đó tiếp tục sửa mã. Trước đây, một đội ngũ cần vài ngày để hoàn thành một vòng làm việc, nhưng trong tương lai, nhiều tác nhân thông minh có thể song song thử nghiệm hàng chục hướng khác nhau, rồi chuyển những kết quả đầy hứa hẹn nhất cho con người đánh giá.

Ông Lệ đã viết bài dài vào đầu tháng 7 mang tên “Harness Engineering for Self-Improvement”, gần như đã tiên đoán trước hướng nghiên cứu mà cô sắp phụ trách. Cô cho rằng, con đường thực tế nhất để tự cải thiện trong thời gian gần đây không phải là mô hình trực tiếp viết lại bộ não, mà là để AI trước tiên học cách cải tạo môi trường làm việc của chính nó: tự động phân tích hồ sơ thất bại, điều chỉnh quản lý ngữ cảnh, gọi công cụ và luồng công việc, sau đó tiếp tục tối ưu hệ thống này thông qua các kết quả thí nghiệm mới. Một harness trưởng thành hơn có thể thúc đẩy nghiên cứu tự động hóa, trong khi các mô hình mạnh mẽ hơn lại có thể ngược lại làm cho harness trở nên đơn giản hơn, tạo thành một vòng lặp khép kín.

Điều này cũng tạo ra sự tương phản thú vị giữa hai con đường của Ô Lợi và Ilya: OpenAI dường như đang từng bước giao quá trình nghiên cứu hiện tại cho AI, để nó trở thành một kỹ sư nghiên cứu có thể hoạt động; trong khi SSI có thể đang tìm kiếm các mô hình học tập mới ở cấp độ cơ bản hơn, giúp mô hình tự thân có khả năng liên tục lặp lại và tiến hóa.

AI không cần phải có khả năng ngay từ đầu để tự sửa đổi trọng số của chính nó. Chỉ cần nó có thể cải thiện quy trình huấn luyện, lọc dữ liệu, thiết kế đánh giá hoặc tối ưu hóa các harness bao quanh mô hình, nó đã đang tham gia vào việc tạo ra người kế nhiệm của chính mình.

Người前者 đi từ chu kỳ kỹ thuật vào trong, người后者 đi từ cơ chế mô hình ra ngoài, mục tiêu đều là thu hẹp khoảng cách giữa AI thế hệ này và AI thế hệ tiếp theo.

Ngay khi các nhà đầu tư lớn muốn tăng tốc đặt cược vào con đường này, đã xuất hiện một tiếng nói khác trong ngành.

Tuần này, hơn 1.100 chuyên gia từ các công ty như OpenAI, Anthropic, Google, Meta đã ký tên vào một tuyên bố yêu cầu thiết lập sớm các công nghệ và công cụ phối hợp để kiểm soát tốc độ của “nghiên cứu AI tự động hóa”. Những người tham gia bao gồm các nhà nghiên cứu cấp cao như Jakub Pachocki, Trưởng khoa học của OpenAI, đồng sáng lập Anthropic Jack Clark và Jared Kaplan — cùng với chính Ilya.

Đơn kiến nghị không yêu cầu dừng nghiên cứu AI, thậm chí không phủ nhận giá trị có thể mang lại từ khả năng tự cải tiến. Nó lo ngại rằng một khi AI bắt đầu đẩy nhanh đáng kể việc phát triển AI, sự gia tăng năng lực có thể nhanh hơn tốc độ con người hiểu và kiểm soát hệ thống.

Hãy suy nghĩ kỹ, sự dao động lặp đi lặp lại “dường như mâu thuẫn” này đến từ cùng một nhóm người, thậm chí cùng một cá nhân. Cùng một thời điểm, họ có thể đưa ra hai phán đoán: họ vừa tin rằng nghiên cứu tự động hóa có thể là chìa khóa cho bước nhảy vọt tiếp theo của AI, vừa tin rằng khi vòng phản hồi này thực sự hoạt động, ngành công nghiệp cần có khả năng giảm tốc khi cần thiết.

Vì một khi chu trình này được hình thành, nó sẽ khác biệt so với việc phát hành một mô hình mạnh hơn trước đây. Tốc độ tiến bộ trước đây cuối cùng bị giới hạn bởi đội ngũ nghiên cứu con người. Con người phải đặt ra câu hỏi, sắp xếp thí nghiệm, đánh giá kết quả, và tiến độ cũng có thể dừng lại do ngân sách, nhân lực và quy trình tổ chức.

Mục tiêu của việc phát triển AI tự động hóa chính là từng bước loại bỏ những điểm nghẽn này. Mô hình càng mạnh, càng giúp đội ngũ tạo ra mô hình thế hệ tiếp theo nhanh hơn; mô hình thế hệ tiếp theo lại sẽ trở thành nhà nghiên cứu tốt hơn, tiếp tục rút ngắn thời gian phát triển cho vòng tiếp theo.

Do đó, dù có vẻ như là hai lực lượng mâu thuẫn, chúng thực sự chia sẻ một tiền đề chung: nghiên cứu và phát triển AI tự động hóa đang chuyển từ một ý tưởng xa vời thành một mục tiêu kỹ thuật cụ thể.

Weng Jia trở lại OpenAI cho thấy quá trình tự cải tiến lặp lại đã bắt đầu nhận được sự tổ chức và người phụ trách chuyên biệt; NVIDIA sẵn sàng đầu tư số vốn lớn và năng lực tính toán mới nhất sau khi xem xét nghiên cứu bí mật của SSI, cho thấy con đường học tập mới ít nhất đã đến giai đoạn đáng để mở rộng kiểm chứng.

Người ký kiến nghị yêu cầu chuẩn bị phanh, không phải vì họ nghĩ con đường này sẽ không thành công, mà chính xác là vì họ bắt đầu nghiêm túc xem xét những gì sẽ xảy ra sau khi nó thành công.

Sự khác biệt thực sự không nằm ở việc AI có nên giúp con người thực hiện nghiên cứu hay không. Việc tạo mã, tìm kiếm bài báo và tự động hóa thí nghiệm đã sớm xuất hiện trong các phòng thí nghiệm. Vấn đề nằm ở chỗ, khi AI dần từ một công cụ nâng cao hiệu suất của nhà nghiên cứu trở thành một hệ thống nghiên cứu có khả năng tự đề xuất phương án, thực hiện thí nghiệm, đánh giá kết quả và điều chỉnh quy trình cho vòng tiếp theo, thì con người nên giữ quyền quyết định tại những điểm nào.

Điều này nghĩa là một loạt các vấn đề cần được thảo luận: ai sẽ đặt ra mục tiêu tối ưu hóa? ai sẽ đánh giá liệu một thay đổi dường như làm tăng điểm số có làm phá vỡ ranh giới an toàn hay không? Khi nhiều phòng thí nghiệm đều đang trong cuộc cạnh tranh, thì công ty nào sẵn sàng tạm dừng một lần lặp lại hiệu quả? Nếu chu kỳ phát triển mô hình thực sự được rút ngắn từ một năm xuống còn vài tháng, vài tuần, liệu việc đánh giá bên ngoài và đội ngũ an toàn nội bộ có còn theo kịp được không?

Các công ty AI hiện đang cạnh tranh không chỉ để tạo ra các mô hình nổi bật, mà còn để giành lấy một hệ thống nghiên cứu và phát triển có thể liên tục tạo ra các mô hình mạnh mẽ hơn.

Một bên là những nhà nghiên cứu hàng đầu như Ilya và Ô Lợi, mong muốn tìm ra các cách lặp lại mới để AI tham gia vào quá trình tiến hóa của chính họ; bên kia là hàng ngàn nhà nghiên cứu trong cùng ngành yêu cầu chuẩn bị trước một cơ chế giảm tốc. Giữa hai lập trường này, các phe phái liên tục thay đổi, thái độ cũng không đối lập trực tiếp, tất cả đều đang đối mặt với một thách thức chung: Khi công cụ nghiên cứu bắt đầu làm tăng tốc chính quá trình nghiên cứu, ai mới là người quyết định thời điểm ra đời của AI thế hệ tiếp theo?