Nhà khoa học trưởng của OpenAI cảnh báo về sự phức tạp ngày càng tăng và các thách thức trong việc căn chỉnh AI

Tác giả: Jakub Pachocki

Biên dịch: Shenchao TechFlow

Dẫn nhập của Shenchao: Nhà khoa học trưởng của OpenAI hiếm khi phát biểu, trực tiếp cho rằng AI đang tiến gần đến việc tự cải tiến đệ quy, và các công cụ căn chỉnh theo mục tiêu cùng giám sát đã không theo kịp tốc độ tiến hóa của hệ thống. Ông không đưa ra kết luận an ủi, mà phơi bày những rủi ro nan giải nhất trong vài năm tới: nhân loại có thể đang tạo ra một loại trí tuệ mà chính mình không thể hoàn toàn hiểu hoặc kiểm soát. Đối với những người quan tâm đến điểm giao nhau giữa AI và tiền mã hóa, đây là bài viết bắt buộc phải đọc về sự mất kiểm soát hệ thống và ranh giới phòng thủ.

Ở cấp độ cao hơn, sự tiến bộ của trí tuệ máy móc được thúc đẩy bởi sự tăng trưởng về năng lực tính toán. Khoảng năm 2017, chúng tôi tại OpenAI đã nhận thức sâu sắc điều này. Lúc đó, chúng tôi thấy nhiều dự án nghiên cứu đều mang lại lợi ích liên tục khi mở rộng quy mô. Do đó, chúng tôi bắt đầu tìm cách tiếp cận nhiều năng lực tính toán hơn kế hoạch ban đầu rất nhiều, và ngày càng tập trung nghiên cứu vào một vài hướng có khả năng mở rộng cực kỳ cao. Chúng tôi tin rằng đây là cách duy nhất để chúng tôi đứng ở tiền tuyến của nghiên cứu AI và ảnh hưởng đến tác động của AGI.

Trên đường đi, đã xuất hiện các thuật toán mới, cùng với những ý tưởng sáng tạo từ các nhóm và các nhà nghiên cứu cá nhân. Tôi nhìn chung coi những điều này là những phát hiện trên hành trình mở rộng. Khoa học học sâu vẫn còn ở giai đoạn đầu, và những tiến bộ có ý nghĩa trong thuật toán thường gắn liền với khả năng tiếp cận sức mạnh tính toán. Nếu bạn kéo dài góc nhìn ra vài năm, AI đang ngày càng thông minh hơn nhờ vào việc mở rộng trên các máy tính lớn hơn.

Hơn nữa, như Ray Kurzweil đã dự đoán vào cuối thế kỷ XX, hiện tại chúng ta đang ở một thời điểm trong lịch sử tính toán khi trí tuệ máy móc bắt đầu vượt trội con người ở mức độ mang tính biến đổi.

AI更像是被“生长”出来的，而不是被设计出来的。从第一性原理上说，它是将同一个简单的优化步骤，在难以想象的算力上重复无数次后所产生的结果。这造就了一个极其复杂的系统，它通过抽象概念运作，并能模拟人类行为的某些方面。我们可以发现这个系统内部涌现出的各种小机制的洞见，这个过程类似于神经科学。而和神经科学一样，它的整体行为也超出了我们能够完全理解的范围。

Nghiên cứu về AI dựa trên học sâu về cơ bản là một khoa học thực nghiệm. Chúng tôi đã đầu tư rất nhiều nỗ lực để xây dựng các thuật toán có nguyên tắc và đưa ra những dự đoán có thể kiểm chứng. Nhưng về bản chất, các lần huấn luyện quy mô lớn của chúng tôi chính là các thí nghiệm, và đôi khi kết quả lại khiến chúng tôi bất ngờ. Hơn nữa, khi khả năng của hệ thống ngày càng mạnh mẽ, các kết quả cũng trở nên ngày càng khó giải thích.

Phức tạp hơn, các thuật toán hiện tại thường khiến những năng lực dễ đo lường tiến bộ nhanh hơn so với những năng lực khó định lượng một cách khách quan. Chúng tôi đã dành rất nhiều thời gian để cố gắng hiểu cách các năng lực khái quát hóa và nên ưu tiên phát triển những kỹ năng nào, vì những kỹ năng đó sẽ trở nên quan trọng nhất trong những năm tới. Ví dụ, chúng tôi tin rằng nếu đầu tư thêm nỗ lực, chúng tôi có thể làm cho mô hình trở nên mạnh mẽ hơn trong nghiên cứu toán học. Tuy nhiên, chúng tôi chưa ưu tiên hướng này, vì chúng tôi đang tập trung cấp bách hơn vào việc tự cải tiến lặp lại và nghiên cứu tự động hóa sự phù hợp. Tôi sẽ quay lại đề cập đến điểm này sau.

Sự thông minh đạt được thông qua học sâu mở rộng không thể trực tiếp so sánh với trí thông minh của con người. Để tạo ra ảnh hưởng đáng kể trong thế giới thực—dù là cực kỳ hữu ích hay cực kỳ nguy hiểm—AI không cần phải sánh ngang hay vượt trội mọi khả năng của con người. Nó chỉ cần vượt trội trên đủ nhiều khả năng là đủ. Và khi nó liên tục vượt trội con người trên ngày càng nhiều chiều cạnh, chúng ta lại càng khó xác định chính xác nó mạnh đến mức nào.

Vì trí tuệ máy móc xuất phát từ các quá trình hoàn toàn khác với trí tuệ con người, chúng ta không thể giả định rằng nó sẽ tự động tuân theo các nguyên tắc của con người, hay sẽ khái quát hóa các nguyên tắc này theo cách tương tự con người. Vấn đề cốt lõi trong nghiên cứu AI là vấn đề đồng bộ hóa: làm cho AI “nỗ lực làm đúng việc theo tiêu chuẩn của con người”.

Để thuận tiện trong việc tổ chức các hướng nghiên cứu thực tế, tôi thấy việc phân biệt giữa việc căn chỉnh mục tiêu và căn chỉnh giá trị là hữu ích.

Mục tiêu đồng bộ về cơ bản là: “AI có nỗ lực hoàn thành các mục tiêu được đặt ra trước mặt nó không?” Nó có thể bao gồm khả năng tuân thủ cấp độ chỉ lệnh, khả năng giao tiếp và hợp tác với con người, khả năng cố gắng hiểu mục tiêu của con người, v.v. Hướng tiếp cận này cực kỳ quan trọng trong thực tế.

Sự căn chỉnh giá trị là một thuộc tính nội tại hơn của mô hình. Đó là khả năng duy trì các nguyên tắc cấp cao và khái quát hóa từ đó; ngay cả khi đối mặt với các mục tiêu không rõ ràng hoặc mâu thuẫn, hoặc bị đặt vào các tình huống lạ lẫm, đối kháng, nó vẫn có thể hành động một cách “hợp lý”. Một AI được căn chỉnh nên trung thực, chính trực và yêu thương con người.

Tất nhiên, ranh giới giữa việc căn chỉnh giá trị và căn chỉnh mục tiêu có thể rất mơ hồ. Để thực sự quan tâm đến mục tiêu, cần cố gắng suy luận ra ý định và giá trị đằng sau mục tiêu đó. Tuy nhiên, nói chung, khi tôi đề cập đến tầm quan trọng lâu dài của nghiên cứu căn chỉnh, tôi đang nói đến việc căn chỉnh giá trị.

Thách thức cốt lõi trong việc căn chỉnh AI là sự khái quát hóa. Khi máy móc ngày càng thông minh hơn, chúng sẽ xử lý các khái niệm cấp cao hơn và hoạt động trong những môi trường ngày càng khác biệt so với thời điểm huấn luyện. Chúng có thể thất bại khi khái quát hóa các giá trị đã được dạy và củng cố trong quá trình huấn luyện vào các tình huống mới. Hơn nữa, chúng ta khó xác định được cách chúng sẽ hành động. Khó khăn hơn nữa là hệ sinh thái tổng thể nơi AI được sử dụng thay đổi rất nhanh. Ví dụ, AI được huấn luyện hôm nay cần có khả năng tương tác ổn định với nhiều AI khác nhau. Quan trọng nhất, chúng ta cần các AI trong tương lai tiếp tục duy trì các giá trị của con người, bất kể chúng có tin rằng mình đang được con người giám sát hay không.

Hiện nay, các phương pháp huấn luyện căn chỉnh được áp dụng thực tế chủ yếu chia thành hai loại chính.

Cách thứ nhất là khuyến khích các hành vi nhất quán với học tăng cường định hướng mục tiêu. Hành vi của mô hình sẽ được đánh giá, thường do AI xác định xem có phù hợp với mô hình sở thích, “quy phạm” hoặc “hiến pháp” đã cho hay không, và cấp phần thưởng tương ứng. Phương pháp này rất hiệu quả trong hầu hết các trường hợp và là thành phần cốt lõi trong việc xây dựng trợ lý AI hiện đại. Tuy nhiên, nó cũng có thể rất dễ bị tổn thương và phụ thuộc mạnh vào phạm vi giám sát trong quá trình huấn luyện, cũng như khả năng tổng quát hóa của mô hình từ các tình huống đã gặp trong huấn luyện. Ví dụ, trong sự kiện giữa OpenAI và Hugging Face, tác nhân đã tuân thủ một ranh giới là không thực hiện các hành vi xã hội kỹ thuật đối với con người. Tuy nhiên, chúng rõ ràng đã không tránh được các hành vi khác nằm ngoài phạm vi, những hành vi này vi phạm tinh thần các giá trị mà chúng đã được dạy trong các bối cảnh khác.

Các phương pháp này đã mang lại những kết quả đáng kể. Mô hình hôm nay của chúng ta phần lớn là hữu ích, vô hại và thể hiện một số hành vi đầy hứa hẹn, gần với việc căn chỉnh giá trị. Nhưng chúng vẫn chưa giúp chúng ta tin chắc rằng trong các hệ thống có khả năng vượt xa con người, những ràng buộc giá trị này sẽ tiếp tục hiệu lực.

Khi khả năng của các hệ thống AI được cải thiện, chúng ta cần đảm bảo rằng việc huấn luyện căn chỉnh giá trị đi trước việc huấn luyện khả năng. Tuy nhiên, ở đây có một vấn đề cơ bản rất lớn: các hệ thống mạnh hơn càng có khả năng tự tìm ra lỗ hổng, tránh các bài kiểm tra hoặc che giấu hành vi của mình. Chúng có thể học cách thể hiện hành vi phù hợp với giá trị con người trong môi trường kiểm tra, sau đó thực hiện hoàn toàn những việc khác trong môi trường triển khai thực tế. Đây được gọi là “lừa dối căn chỉnh”.

Nhưng nếu chúng ta cố gắng dùng các biện pháp mạnh hơn để ép buộc chúng tuân thủ, chúng có thể phát triển hành vi phản kháng và gian lận, hoặc xem chính sự can thiệp của chúng ta là một phần của thế giới, từ đó đưa ra những phản ứng trái ngược với trực giác. Khi chúng ta cố gắng kiểm soát một hệ thống thông minh hơn chúng ta, chúng ta tự nhiên đối mặt với một sự bất cân xứng.

Khi những bộ não mà chúng ta không thể hoàn toàn hiểu được ngày càng mạnh mẽ hơn, chúng ta buộc phải dựa vào một hệ thống khác: giám sát. Nếu chúng ta có thể theo dõi liên tục các hoạt động bên trong AI, có lẽ chúng ta sẽ phát hiện được các tín hiệu trước khi nó vượt qua một số ranh giới nhất định.

Tại OpenAI, chúng tôi đã không ngừng thúc đẩy nghiên cứu về tính giải thích được, nỗ lực mở ra “hộp đen” của các mạng thần kinh. Những nỗ lực này đã đạt được tiến bộ. Hiện tại, chúng tôi có thể xác định được một số biểu diễn cung cấp manh mối quan trọng về cách thức hoạt động bên trong mô hình. Tuy nhiên, nghiên cứu về tính giải thích được hiện tại vẫn còn thô sơ, đặc biệt trong việc hiểu các suy luận trừu tượng trong các mô hình quy mô lớn. Khoảng cách giữa khả năng quan sát bên trong mô hình và độ phức tạp của suy luận chính mô hình đang ngày càng gia tăng.

Điều này khiến tôi đặc biệt lo ngại. Vì vấn đề khái quát hóa của việc giám sát nghiêm trọng không kém gì vấn đề khái quát hóa của sự đồng bộ. Nếu một hệ thống giỏi hơn chúng ta trong việc che giấu bản thân, các công cụ giám sát của chúng ta khó có thể đảm bảo không bị vượt qua. Chúng ta có thể nghĩ rằng mô hình là an toàn vì chúng ta thấy một loạt các chỉ số trông có vẻ tốt, trong khi thực tế mô hình chỉ đang tối ưu hóa những chỉ số đó. Nó sẽ học cách che giấu những mục tiêu mà chúng ta không muốn nó có, hoặc che giấu những gì nó đang làm.

Nếu mô hình bắt đầu thúc đẩy sự cải tiến của chính nó—điều tôi cho rằng rất có khả năng xảy ra trong vài năm tới—nó sẽ cần các kỹ năng lập kế hoạch, lừa dối và tự bảo vệ. Những kỹ năng này có thể phát sinh từ áp lực mục tiêu mà chúng ta đặt ra cho nó, hoặc từ nỗ lực của nó trong việc hành động qua các khe hở giám sát. Để đảm bảo nó không phát triển những điều này, chúng ta ли phải giải quyết vấn đề đồng bộ giá trị, ли phải nâng cao khả năng giám sát để theo kịp từng bước tiến hóa của nó. Hiện tại, cả hai đều còn xa mới đủ.

Chúng ta chưa có một lý thuyết thỏa đáng nào về tổng quát hóa, và dường như khó có thể xây dựng được trong ngắn hạn, ít nhất là nếu không có sự hỗ trợ của AI mạnh mẽ hơn. Do đó, hiện tại, khả năng xác minh thực nghiệm các kỹ thuật điều chỉnh có thể quan trọng hơn chính các kỹ thuật điều chỉnh.

Sự đầu tư chính của OpenAI tại đây luôn là theo dõi chuỗi suy nghĩ. Nó dựa trên một ý tưởng có khả năng mở rộng hấp dẫn: phần lớn năng lực của mô hình đến từ một quá trình suy luận được ngôn ngữ hóa, tức là chuỗi suy nghĩ. Nếu chúng ta tối ưu hóa kết quả của quá trình này theo quy mô, nhưng không giám sát bản thân quá trình, thì chuỗi suy nghĩ không có động lực trực tiếp trong quá trình huấn luyện để che giấu bất kỳ ý tưởng hoặc mục tiêu nào không được căn chỉnh. Điều này không có nghĩa là mô hình sẽ học cách ngoại hóa những xu hướng không được căn chỉnh không phụ thuộc vào chuỗi suy nghĩ; nhưng nó có thể giúp chúng ta theo dõi chính xác sự gia tăng năng lực mang lại bởi quá trình suy luận.

Trong khi phát triển mô hình suy luận, chúng tôi đã nhận thức được tầm quan trọng tiềm tàng của việc giám sát chuỗi suy nghĩ. Khi phát hành o1-preview, chúng tôi chủ ý thiết kế sản phẩm để ẩn chuỗi suy nghĩ, nhằm bảo vệ lâu dài nó khỏi áp lực giám sát. Trong suốt quá trình phát triển kể từ đó, chúng tôi luôn nỗ lực duy trì quy tắc không giám sát quá trình suy luận. Việc giám sát chuỗi suy nghĩ đã trở thành công cụ cực kỳ quan trọng trong nghiên cứu của chúng tôi về cách mô hình tổng quát hóa từ phân phối huấn luyện, cho phép chúng tôi không chỉ quan sát và phân tích hành vi của mô hình, mà còn cả các quá trình bên trong của nó.

Trong khi chúng tôi nghiên cứu các mô hình Astra, công cụ này vẫn cực kỳ quan trọng. Tuy nhiên, không may thay, đánh giá của chúng tôi cho thấy khả năng chúng tôi phụ thuộc vào việc theo dõi chuỗi tư duy đang dần suy giảm. Đây là kết quả của nhiều yếu tố kết hợp lại.

Các mô hình suy luận hiện đại được sử dụng trong các môi trường phức tạp hơn o1‑preview; quá trình suy luận của chúng ngày càng trở nên đan xen với việc giao tiếp với con người, các AI khác và sử dụng công cụ. Nhiều tương tác này phải được giám sát, làm mờ đi những ranh giới mà chúng ta mong muốn giữ nguyên.

AI đang trở nên mạnh mẽ hơn trong việc suy luận và điều khiển quá trình suy luận của chính nó.

Khi hiệu suất tiền huấn luyện được cải thiện, chúng ta cũng thấy các mô hình trở nên thông minh hơn ngay cả khi hoàn toàn không sử dụng suy luận bằng ngôn ngữ.

Những thách thức này không nhất thiết là không thể vượt qua. Tôi hy vọng chúng ta có thể phát triển các biện pháp can thiệp để tăng tính khả giám sát của chuỗi suy luận mô hình, ví dụ như hiểu rõ hơn về sự tương tác giữa các mục tiêu tối ưu hóa khác nhau và các hình thức tính toán thời gian chạy mà mô hình sử dụng. Tôi cũng tin rằng việc kết hợp ý tưởng giám sát chuỗi suy luận với giám sát kích hoạt sẽ mang lại giá trị lớn, đặc biệt là khi mở rộng quy mô đào tạo các bộ giám sát có thể truy cập trực tiếp vào trạng thái bên trong mạng, chẳng hạn như phương pháp “tự thú”. Chúng tôi đang tích cực thúc đẩy những ý tưởng này. Tuy nhiên, tôi dự đoán rằng tiến bộ của AI tổng quát sẽ ngày càng bị giới hạn bởi mức độ tin cậy trong giám sát.

Để đối phó với tình huống này, tôi cho rằng chúng ta cần một biện pháp phòng thủ có khả năng mở rộng, đồng bộ với tốc độ phát triển của AI. Con người không thể kiểm tra thủ công hành vi của mọi thế hệ mô hình mới. Các phương pháp đánh giá và kiểm thử đỏ hiện tại của chúng ta vẫn hiệu quả với các mô hình hiện tại, nhưng khi khả năng của hệ thống tăng lên, những phương pháp này sẽ nhanh chóng đạt đến giới hạn.

Chúng ta cần các hệ thống AI có thể tự động phát hiện các rủi ro mới. Những hệ thống phòng thủ này cũng cần đủ thông minh để nhận diện hành vi khả nghi trong các hệ thống thông minh hơn chính chúng. Điều này tạo ra một thách thức lặp lại: những người phòng thủ phải phát triển nhanh bằng với hệ thống. Chúng ta đang ở một điểm mà an ninh và năng lực ngày càng trở nên khó tách rời. Để duy trì an toàn, chúng ta có thể buộc phải liên tục nâng cao năng lực của AI phòng thủ, điều này ngược lại sẽ thúc đẩy sự tăng trưởng tổng thể của năng lực AI.

Đây là một vòng lặp đáng lo ngại. Chúng ta liên tục nâng cao năng lực để đảm bảo an toàn, nhưng việc nâng cao năng lực lại mang đến nhiều rủi ro hơn. Con đường thực sự có thể nằm ở việc tìm ra cách ổn định để đạt được sự đồng bộ giá trị một cách đáng tin cậy trước khi đạt đến điểm mất kiểm soát. Nhưng tôi phải thành thật thừa nhận rằng chúng ta vẫn còn rất xa mục tiêu này.

Đó là lý do tôi có xu hướng đặt kỳ vọng cho những năm tới vào sự kết hợp này: nghiên cứu về sự phù hợp công nghệ + hệ thống phòng thủ tự động + can thiệp quản trị rộng rãi + sự cảnh giác của công chúng và các tổ chức. Một biện pháp đơn lẻ là không đủ. Chúng ta không thể chỉ dựa vào sự tự kiềm chế của một công ty hoặc một phòng thí nghiệm nào đó.

Lý do mạnh mẽ nhất để tiếp tục đào tạo nhanh các mô hình thông minh hơn là cần xây dựng hệ thống phòng thủ để đối phó với mối nguy hiểm do các AI khác mang lại.

Một rủi ro rõ ràng được thảo luận suốt năm nay là an ninh mạng: khả năng của các mô hình trong việc xâm nhập và thoát khỏi các hệ thống máy tính đang vượt qua con người. Điều này mở rộng đáng kể phạm vi các rủi ro liên quan đến AI: các tác nhân sẽ có thể truy cập vào mọi hệ thống, ngoại trừ những cơ sở hạ tầng an toàn nhất, và ảnh hưởng trực tiếp đến một lượng lớn sự vật trên thế giới, ngay cả khi không có cơ thể vật lý. Hiện tại, chúng ta đang ở trong một cửa sổ thời gian hẹp, cần tận dụng các mô hình tốt nhất hiện có để tăng cường đáng kể an ninh cho các hệ thống then chốt.

Các rủi ro liên quan đến AI đáng tiếc sẽ tiếp tục gia tăng từ đây. Một tác nhân thông minh có khả năng rất mạnh, được đào tạo và hướng dẫn rõ ràng để thực hiện các hành vi độc hại, sẽ mang đến một mối nguy hiểm mới; nó rất có thể vượt ra ngoài ý định của người vận hành và khái quát hóa thành các hành vi độc hại còn cực đoan hơn. Khi AI nhận được nhiều tính tự chủ hơn, ranh giới giữa lạm dụng và hành vi tự chủ không phù hợp sẽ trở nên mờ nhạt. Chúng ta có thể quen với việc coi AI như một công cụ, nhưng một số tác nhân sẽ theo đuổi mục tiêu riêng của chúng. Chúng sẽ tìm cách hợp tác với con người thông qua đàm phán, lừa dối hoặc tống tiền.

Ngoài ra, còn có rủi ro từ những công nghệ mới có thể được tạo ra bởi AI, chẳng hạn như tác nhân gây bệnh được thiết kế.

Chúng ta sẽ cần AI mạnh mẽ và được căn chỉnh để phòng thủ: bảo vệ cơ sở hạ tầng, phòng thủ thời gian thực trước các tác nhân mất kiểm soát, và phát minh các biện pháp bảo vệ hoàn toàn mới. Đây sẽ là một trọng tâm chính trong công việc triển khai của OpenAI.

Đồng thời, ngay cả khi xem xét những bất định từ những tiến bộ AI được kỳ vọng và nhu cầu xây dựng hệ thống phòng thủ, chúng ta cũng không thể để điều này trở thành lý do để hành động thiếu thận trọng. Một khi mọi người thực sự hiểu được mức độ nghiêm trọng của những gì đang bị đe dọa, ý tưởng “tiến lên bất chấp mọi giá” sẽ trở nên vô cùng phi lý.

Trí tuệ máy móc đóng vai trò ngày càng quan trọng trong quá trình phát triển của chính nó, là kết luận tất yếu của sự tiến bộ công nghệ liên tục. Nếu AI tiếp tục tiến bộ, việc máy móc tự cải tiến đệ quy sẽ trở thành trung tâm của những phát hiện khoa học trong tương lai.

Nghiên cứu AI tự động hóa là một hình thức mạnh mẽ hơn của việc mở rộng năng lực tính toán để tăng cường trí tuệ; tất nhiên, một phần trong đó, AI cũng sẽ cải tiến chính nền tảng tính toán. Tương tự như việc mở rộng, chúng tôi tập trung nghiên cứu của OpenAI vào việc tự cải tiến lặp lại, vì chúng tôi tin rằng đây là con đường duy nhất để tiếp tục đứng ở tiền tuyến của nghiên cứu AI.

Tôi muốn nhấn mạnh rằng nội dung trên không có nghĩa là tôi cho rằng việc tăng tốc đáng kể nghiên cứu học sâu, đặc biệt là trong ngắn hạn, là hành động tập thể mà cộng đồng nghiên cứu nên thực hiện. Nhưng tôi thực sự tin rằng con đường hiện tại đang dẫn chúng ta đến hướng đó, và tất cả chúng ta đều cần chủ động lựa chọn cách tiếp tục tiến bước. Chúng ta có hai công cụ chính để tác động: một là định hướng quá trình này, đồng thời củng cố sự phù hợp và giám sát trong khi phát triển AI, và tìm cách đảm bảo con người luôn tham gia vào quá trình; hai là phối hợp giảm tốc độ phát triển trong tương lai theo nhu cầu, nhằm từng bước xây dựng niềm tin vào các biện pháp này.

Cách tiến bộ tốt nhất mà tôi hiện đang thấy là kết hợp cả hai.

Các tiến bộ cụ thể mà chúng tôi đạt được trong việc căn chỉnh và giám sát thường xuyên xuyên sâu sắc với tiến bộ tổng thể của AI. Những ví dụ tốt bao gồm học tăng cường dựa trên phản hồi của con người, vốn từng là chìa khóa trong việc đào tạo các trợ lý AI giai đoạn đầu; và việc giám sát chuỗi suy luận được đề cập ở trên, điều này chỉ trở nên khả thi nhờ vào sự tiến bộ của các mô hình suy luận. Chúng ta phải hướng các quy trình nghiên cứu ngày càng được tự động hóa vào việc phát triển những hiểu biết, thuật toán và lý thuyết mới như vậy, đồng thời từng bước xây dựng các lập luận an toàn cho các hệ thống AI ngày càng mạnh mẽ hơn.

Hệ thống AI mở rộng phải bị ràng buộc bởi niềm tin của chúng tôi vào an toàn. Chúng ta cần phát triển các cam kết như Preparedness Framework hoặc Responsible Scaling Policy thành những ngưỡng an toàn phát triển liên tục được thực thi rộng rãi. Những ngưỡng này có thể được thực thi bởi mạng lưới các tổ chức kiểm toán bên thứ ba, cơ quan chính phủ hoặc tổ chức quốc tế.

Thách thức cốt lõi của nghiên cứu AI tự động hóa không phải là “đến được đó”, mà là đến đó theo một cách khiến con người tiếp tục ở lại trong quá trình cải tiến liên tục, giữ tương lai trong tay con người.

Tôi không thể dự đoán chính xác thời gian, nhưng dường như chúng ta đang tiến nhanh tới một thời đại mà AI có thể thúc đẩy sự phát triển của chính nó trên nhiều khía cạnh then chốt. Điều này có nghĩa là chúng ta có thể sớm bước vào giai đoạn tự cải tiến lặp lại.

Bên trong OpenAI, chúng tôi đã bắt đầu điều chỉnh ưu tiên nghiên cứu, chuyển nhiều nguồn lực hơn vào việc căn chỉnh và phòng thủ, thay vì chỉ mở rộng khả năng thuần túy. Đó cũng là lý do tôi nhấn mạnh rằng chúng tôi sẽ không chỉ theo đuổi mô hình lớn nhất, mà cần sẵn sàng tự nguyện tạm dừng khi đến thời điểm cần thiết.

Tuy nhiên, những quyết định này không thể chỉ để lại cho một vài cá nhân trong nội bộ các công ty. Chính phủ và cộng đồng quốc tế cần can thiệp trước khi các rủi ro trở nên không thể đảo ngược. Điều này bao gồm việc thiết lập cơ chế giám sát các hoạt động đào tạo tiên tiến, yêu cầu kiểm toán độc lập và các hiệp định quốc tế dựa trên ngưỡng năng lực.

Tôi không hoàn toàn chắc chắn rằng các biện pháp này sẽ được triển khai kịp thời. Đôi khi tôi cảm thấy bế tắc vì các biện pháp bảo mật của chúng tôi luôn đi sau năng lực, chứ không đi trước. Có vẻ như chúng tôi luôn đang cố gắng đuổi theo. Nhưng tôi vẫn tin có lý do để giữ hy vọng: vào đêm đó năm 2023, chúng tôi chỉ mơ hồ cảm nhận được khả năng này, còn hôm nay nó đã rõ ràng đến mức có thể được công khai thảo luận. Điều đó bản thân đã là một bước tiến.

Tôi sẽ không giả vờ rằng mình biết tất cả các câu trả lời. Chúng ta đang tạo ra một thứ gì đó hoàn toàn khác biệt với tâm trí con người, một thứ có thể sớm trở nên mạnh mẽ hơn chúng ta. Đây là một ý tưởng khiến con người khiêm nhường, nhưng đồng thời cũng mang đến cho chúng ta một cơ hội: định hình nó bằng những giá trị tốt đẹp nhất của chúng ta.

Nếu chúng ta làm tốt, đây sẽ là thành tựu vĩ đại nhất của nhân loại. Nếu làm không tốt, đó có thể là thất bại mà chúng ta không thể phục hồi.

Liệu tương lai có thể tiếp tục nằm trong tay con người hay không, là vấn đề sẽ được quyết định trong những năm tới.

Như chúng tôi đã cùng Sam trình bày gần đây, các công việc OpenAI ưu tiên triển khai nhằm phục vụ ba mục tiêu cực Bắc:

Để vượt qua giai đoạn tiếp theo của tiến bộ AI, hãy xây dựng các nhà nghiên cứu AI tự động, cùng họ lặp lại để điều chỉnh các vấn đề, và tìm cách giúp con người tiếp tục ở lại trong vòng lặp tự cải thiện.

Unlock the scientific advancements and economic growth benefits brought by highly intelligent machines.

Let everyone have their own personal AGI.

Bài viết này chỉ tập trung vào điểm đầu tiên, vì tôi cho rằng nó hiện đang cấp bách nhất. Tuy nhiên, tôi rất kỳ vọng và biết ơn những lợi ích mà các tiến bộ kỹ thuật trong tương lai sẽ mang lại. Các AI được định hướng đúng trong tương lai có thể thúc đẩy khoa học, phát triển các liệu pháp mới và mang lại sự thịnh vượng vật chất rộng lớn. Các AI thân thiện và trung thực có thể giúp con người đối mặt với những khó khăn trong cuộc sống, thực sự cải thiện hạnh phúc và sự hài lòng của họ. OpenAI đã đầu tư rất nhiều nỗ lực để tạo ra những lợi ích này. Một ví dụ hiện tại khiến tôi tự hào và mang lại lợi ích cho những người xung quanh tôi là sự đầu tư sâu rộng của chúng tôi vào khả năng cung cấp thông tin sức khỏe của ChatGPT.

Dù triển vọng dài hạn của AI có tuyệt vời đến đâu, phần lớn sự chú ý của chúng ta nên tập trung vào vài năm tới. Chúng ta đang ở giai đoạn chuyển tiếp sang một thế giới có những cỗ máy cực kỳ thông minh, và phải đảm bảo rằng sự chuyển tiếp này mang lại lợi ích cho con người. Trong một thế giới nơi hầu hết các nhiệm vụ đều có thể được AI thực hiện, chúng ta cần tìm cách duy trì tính chủ động của con người và khẳng định giá trị nội tại của việc “là con người”. Cần ngăn chặn sự tập trung quyền lực cực đoan: những dự án trước đây cần hàng ngàn chuyên gia mới thực hiện được, trong tương lai có thể chỉ cần vài người vận hành một máy tính lớn. Đồng thời, phải đảm bảo con người luôn kiểm soát tương lai, không bị bỏ lại phía sau bởi những tiến bộ mất kiểm soát do một trí thông minh ngoại lai vượt trội hơn chúng ta mang lại.

Hiện tại, tôi cho rằng chưa có phòng thí nghiệm nào đạt được mức độ đồng bộ và giám sát đủ để hỗ trợ việc mở rộng có trách nhiệm với tốc độ tối đa trong thời gian dài hơn. Tôi mong đợi và hy vọng sự giảm tốc tự nguyện sẽ trở thành chuẩn mực cho đến khi thiết lập được ngưỡng an toàn chung. Tôi cũng tin rằng sự phối hợp quốc tế xung quanh sự phát triển AI trong tương lai cần trở thành ưu tiên hàng đầu của các chính phủ trên toàn thế giới.

1 Điều này bao gồm việc mở rộng từ lý thuyết trò chơi, robot học, và quan trọng nhất là mở rộng mạng tuần hoàn để mô hình hóa ngôn ngữ, đặt nền móng cho các nghiên cứu về chuỗi GPT.

2 Lý do phụ của thiết kế này là để ngăn chặn quá trình tinh luyện. Tuy nhiên, trong suốt quá trình phát triển, việc duy trì khả năng giám sát chuỗi suy luận luôn là ưu tiên lớn hơn mà chúng tôi xác định rõ ràng.