OpenAI sắp ra mắt mô hình mới “Astra”, đang gây ra sự quan tâm và tranh cãi rộng rãi trong cộng đồng nghiên cứu AI—mô hình này có thể mang lại bước nhảy vọt lớn nhất kể từ GPT-4 về hiệu năng, nhưng công nghệ suy luận mới đằng sau nó đồng thời khiến người ta lo ngại về sự suy giảm khả năng giám sát an toàn AI.Tác giả bài viết, nguồn: The Information
Theo báo cáo ngày 2 tháng 9 của truyền thông công nghệ The Information, Astra đã tích hợp một công nghệ đột phá, trọng tâm là vượt qua giới hạn của mô hình trong việc "suy nghĩ" về các vấn đề phức tạp. Một số nhà nghiên cứu cho rằng, sự cải thiện trong khả năng lập trình và sử dụng máy tính của Astra có thể sánh ngang với bước nhảy vọt về hiệu năng mà OpenAI mang lại khi ra mắt GPT-4 vào năm 2023, vượt xa so với hiệu suất khi GPT-5 được ra mắt vào mùa hè năm ngoái. Đối với toàn bộ ngành công nghiệp, nơi phụ thuộc vào sự gia tăng năng suất AI để hỗ trợ các khoản đầu tư lớn vào việc xây dựng trung tâm dữ liệu, đây chắc chắn là một tín hiệu tích cực.
Tuy nhiên, bước đột phá công nghệ này cũng mang đến những rủi ro không thể bỏ qua. Công nghệ mới cho phép mô hình hoàn thành suy luận sâu mà không cần đầu ra đầy đủ “chuỗi tư duy”, điều này có nghĩa là các nhà nghiên cứu có thể không còn có thể giám sát quá trình suy luận của mô hình một cách hiệu quả như trước, từ đó làm suy yếu các cơ chế kiểm tra an toàn hiện có. Hiện tại, OpenAI đang thực hiện các biện pháp để đảm bảo chuỗi tư duy của Astra vẫn giữ được tính minh bạch, nhưng ngành công nghiệp vẫn còn chia rẽ về hướng đi dài hạn của sự đánh đổi này.
Bứt phá hiệu năng: Kỹ thuật suy luận mới có liên quan chặt chẽ đến các khái niệm như “độ sâu lặp lại” (recurrent depth) và “bộ biến đổi lặp lại” (loop transformers), mang lại bước nhảy vọt cấp GPT-4 cho Astra.
The Information báo cáo rằng công nghệ này xử lý vấn đề bằng cách truyền lặp lại qua các “lớp” toán học của mô hình để tạo ra từ tiếp theo trong câu trả lời, giúp mô hình thể hiện khả năng suy luận vượt xa quy mô thực tế của nó mà không cần tăng đáng kể số lượng tham số — hiệu quả tương đương với một mô hình lớn hơn nhiều.
Một số nhà nghiên cứu cho rằng, nhờ khả năng mã hóa và sử dụng máy tính mạnh mẽ hơn, hiệu suất của Astra có thể tăng lên mức tương đương với bước tiến nhảy vọt khi GPT-4 ra mắt năm 2023, vượt xa phản ứng thị trường tương đối ổn định khi GPT-5 ra mắt mùa hè năm ngoái.
Sự tiến bộ này có ý nghĩa quan trọng đối với toàn bộ chuỗi công nghiệp AI. Hiện nay, việc xây dựng quy mô lớn các trung tâm dữ liệu trên toàn cầu dựa trên logic cốt lõi là đặt cược vào việc năng lực AI liên tục được cải thiện sẽ thúc đẩy tăng trưởng năng suất, từ đó chuyển hóa thành lợi nhuận kinh doanh cao hơn. Nếu hiệu suất của Astra đáp ứng kỳ vọng, nó sẽ cung cấp sự hỗ trợ mạnh mẽ cho logic đầu tư này.
Cần lưu ý rằng, công nghệ này không phải là khái niệm mới. Nhà tiên phong trong nghiên cứu AI, Jürgen Schmidhuber, đã chỉ ra trên nền tảng mạng xã hội X rằng, ý tưởng cốt lõi của “độ sâu tuần hoàn” thực chất đã xuất hiện trong bài báo năm 2015 của ông có tựa đề “On Learning to Think” (arXiv:1511.09249).
Anh ấy cho biết, mạng điều khiển C trong bài báo本质上 là một kỹ sư prompt, học cách truy vấn các mô hình thần kinh độc lập để thực hiện suy luận trừu tượng, các prompt và câu trả lời được tạo ra là các chuỗi vector tự sinh bên trong, không cần hiển thị dưới dạng ngôn ngữ tự nhiên.
Lỗ hổng bảo mật: Cơ chế giám sát chuỗi tư duy đang đối mặt với thách thức—các công nghệ mới, dù mang lại sự cải thiện hiệu suất, cũng tạo ra tác động tiềm tàng đến các khung giám sát an toàn AI hiện có.
The report states that currently, mainstream AI models typically output their reasoning process in text form—known as "chain of thought"—when handling complex problems. This mechanism not only enhances model interpretability but also serves as a crucial tool for researchers to monitor model behavior and prevent anomalous operations.
The Information báo cáo rằng việc giám sát chuỗi suy nghĩ là một trong những giải pháp chính mà OpenAI đề xuất sau sự cố tin tặc tại Hugging Face vào tháng 7 năm nay nhằm ngăn chặn các sự cố an ninh tương tự tái diễn.
Tuy nhiên, kỹ thuật suy luận mới mà Astra sử dụng có thể không hiển thị đầy đủ các bước suy luận khi mô hình “suy nghĩ” sâu, mà thay vào đó thực hiện tính toán một cách “im lặng” bên trong mô hình. Điều này có nghĩa là mô hình càng phụ thuộc vào công nghệ mới này, quá trình suy luận của nó càng trở nên kém minh bạch đối với những người theo dõi bên ngoài.
Để giải quyết điều này, OpenAI hiện đang thực hiện các biện pháp để cân bằng. Công ty đang hướng dẫn mô hình giảm số lần lặp lại vấn đề ở cấp độ tính toán, nhằm đảm bảo chuỗi suy nghĩ của Astra vẫn duy trì một mức độ nhất định về tính minh bạch—số lần lặp lại càng ít, không gian “suy nghĩ thầm lặng” của mô hình càng nhỏ.
Các phòng thí nghiệm lớn đang theo dõi sát sao, và tác động của xu hướng công nghệ này vẫn chưa được hiểu rõ hoàn toàn, nhưng có thể vượt xa chỉ riêng OpenAI. Theo The Information, kỹ thuật suy luận mới này đã trở thành chủ đề thảo luận nóng trong nội bộ các phòng thí nghiệm AI lớn, và khả năng các tổ chức như Anthropic và Google áp dụng con đường công nghệ tương tự là không thể bỏ qua.
Nhiều nhà nghiên cứu chỉ ra rằng việc giám sát chuỗi tư duy vốn không phải là giải pháp cuối cùng để giám sát hành vi của AI. Khi khả năng của các mô hình tiếp tục phát triển, đặc điểm mô hình xuất ra quá trình tư duy dưới dạng văn bản chủ yếu chỉ là sản phẩm phụ của phương pháp huấn luyện hiện tại.
Khi các nhà phát triển mô hình khám phá các hướng tối ưu hóa và thiết kế kiến trúc mới, xu hướng mô hình tự phát tạo ra chuỗi tư duy có thể dần suy giảm, buộc các nhà nghiên cứu phải phát triển các phương pháp giám sát mới.
Báo cáo chỉ ra rằng vấn đề cốt lõi hiện tại là: dưới áp lực cạnh tranh hiệu suất ngày càng gay gắt, các nhà phát triển AI lớn có sẵn sàng từ bỏ các biện pháp an toàn hiện có để theo đuổi khả năng suy luận mạnh mẽ hơn không? Câu trả lời cho vấn đề này sẽ quyết định lớn đến hướng đi của quản trị an toàn AI trong giai đoạn tiếp theo.