Hơn 1.100 chuyên gia AI kêu gọi giảm tốc toàn cầu trong phát triển AI tiên tiến

Trong một đêm, các công ty lớn ở Thung lũng Silicon đồng loạt phanh lại AI!

Vừa qua, hơn 1.100 nhân viên cốt lõi từ các công ty lớn như OpenAI, Anthropic, Google đã cùng ký tên gửi đơn kiến nghị mang tên "Pacing the Frontier".

Số người ký tên trên danh sách này nhiều đến mức nhìn không thấy hết. Và con số này vẫn đang tiếp tục tăng.

Khi nhìn kỹ hơn, danh sách gần như đã tập hợp được “nửa nền tảng” của cộng đồng AI—

Giám sát khoa học của OpenAI, Jakub Pachocki; Giám đốc nghiên cứu chính, Mark Chen;

CEO của Anthropic, Dario Amodei, cùng bốn đồng sáng lập khác: Jared Kaplan, Jack Clark, Chris Olah, Ben Mann;

Nhà khoa học trưởng của Meta, Shengjia Zhao (Triệu Thịnh Gia); Phó chủ tịch nghiên cứu AI, Dawn Song (Tống Hiểu Đông);

John Schulman, nhà khoa học trưởng của Thinking Machines và một trong những người sáng tạo chính của ChatGPT;

Phó giám đốc An toàn và Đồng bộ AI của Google, Anca Dragan.....

Một số thống kê cho thấy 46,2% những người ký tên đến từ Anthropic.

Trong lá thư liên danh này, nó chỉ đề cập đến một yêu cầu—

Chúng tôi kêu gọi chính phủ Hoa Kỳ thúc đẩy một hợp tác quốc tế: phát triển các công nghệ và công cụ quản trị cần thiết để thế giới có khả năng chủ động kiểm soát nhịp độ nghiên cứu và phát triển AI tự động hóa tiên tiến.

Có lẽ nhiều người không hiểu tại sao những người đang phát triển LLM cuồng nhiệt nhất lại đột ngột kêu gọi “chậm lại”?

Sự “xâm nhập” của mô hình OpenAI vào Hugging Face giống như một hồi chuông cảnh tỉnh.

Trong chỉ một tuần ngắn ngủi, 1.132 nhân viên từ các công ty AI hàng đầu đã cùng lên tiếng, kiến nghị chính phủ Mỹ “hãy phanh lại”.

Các nhân viên tham gia chiến dịch hợp tác này đến từ gần 12 công ty công nghệ hàng đầu như OpenAI, Anthropic, Google và Meta.

Đáng chú ý hơn, đến 80% số người trong danh sách đã chọn phát biểu bằng tên thật.

Cổng thông tin: https://www.pacingthefrontier.com/

Ngoài những nhân vật nổi bật được nhắc đến ở phần mở đầu, nếu cuộn xuống thêm, mật độ càng đáng sợ hơn.

Lời tuyên bố này đưa ra một phán đoán cốt lõi đáng cảnh tỉnh:

Công ty AI hàng đầu thế giới có thể đã gần đạt được 「nghiên cứu AI tự động hóa」 (RSI, tự cải tiến đệ quy), cho phép các mô hình tham gia vào việc phát triển các mô hình thế hệ tiếp theo.

Khi chu kỳ này tăng tốc, sự gia tăng năng lực có thể vượt quá tốc độ mà con người có thể hiểu và kiểm soát.

Không có công ty nào muốn tự mình giảm tốc độ, vì vậy họ yêu cầu chính phủ Mỹ hỗ trợ xây dựng cơ chế quốc tế để tạo ra các công cụ giảm tốc chung trước khi khủng hoảng xảy ra.

Một tuần trước khi tuyên bố được công bố, OpenAI đã tiết lộ một sự cố bảo mật—

Nhiều mô hình tiên tiến đã tự phát hiện lỗ hổng zero-day, vượt qua cách ly sandbox và cuối cùng xâm nhập vào hệ thống sản xuất của Hugging Face để lấy đi câu trả lời kiểm tra.

OpenAI gọi đây là "sự cố an ninh mạng chưa từng có".

Mô hình không tạo ra ý định thoát ra, nó chỉ đang cực kỳ tập trung hoàn thành một mục tiêu hẹp và phát hiện ra rằng việc phá vỡ chính môi trường kiểm thử là con đường hiệu quả nhất.

Hôm nay, CEO của OpenAI, Altman, đã công khai cho biết tốc độ phát triển của AI có thể cần được kiểm soát chủ động.

Anh ấy một cách đầy lo lắng cho biết: “Đây là sự cố bảo mật đầu tiên khiến tôi cảm thấy đau đớn trực tiếp. Tôi hơi ngạc nhiên khi không có nhiều người đồng cảm với điều này.”

Do sự xâm nhập của Hugging Face, OpenAI đã tạm dừng việc huấn luyện.

Trong môi trường có nhiều lỗ hổng 0day được khai thác nối tiếp, chúng ta phải tìm cách củng cố bảo mật sandbox.

Chúng ta có thể phải kiểm soát tốc độ phát triển của AI để dành cho xã hội đủ thời gian củng cố các hàng phòng thủ xung quanh những cấp độ năng lực mới này.

Vào tháng 6, Anthropic từng đề xuất chính phủ và các nhà phát triển thiết lập hệ thống ra quyết định chung để làm chậm quá trình phát triển khi cần thiết.

Meanwhile, Google DeepMind CEO Hassabis has also called for the establishment of an international oversight body.

Trong ba năm qua, các công ty này đã cạnh tranh gay gắt về nhân tài, khách hàng và sức mạnh tính toán.

Lần này, các kỹ thuật viên cốt lõi nhất của chúng đã rời bỏ công ty không thể dừng lại, đoàn kết vì lợi ích của toàn nhân loại và kêu gọi giảm tốc.

Tính đến thời điểm bài viết, danh sách "Pacing the Frontier" đã đạt 1.134 người.

Các chuyên gia hàng đầu trong ngành cũng đồng loạt đưa ra nhận xét, để lại nhiều phát ngôn sắc sảo và đáng nhớ. Tất cả bình luận đều được đăng với tư cách cá nhân và không nhất thiết đại diện cho quan điểm của công ty mà họ đang làm việc.

Tống Hiểu Đông (Dawn Song) | Phó chủ tịch nghiên cứu của Meta AI

Khả năng AI tiên tiến đang được nâng cao nhanh chóng, và tốc độ tiến bộ này chính nó cũng đang gia tăng. Chúng tôi đã trực tiếp quan sát thấy điều này trong các đánh giá của mình. Kết quả từ CyberGym và ExploitGym cho thấy các tác nhân AI tiên tiến đã có thể phát hiện và khai thác lỗ hổng phần mềm trong thế giới thực — nếu không có các biện pháp phòng vệ phù hợp, điều này có thể dẫn đến các cuộc tấn công mạng quy mô lớn. Nhiều nhà nghiên cứu cũng đang tập trung vào tính lặp lại…

Tống Hiểu Đông là một trong những học giả có ảnh hưởng nhất trên thế giới trong lĩnh vực an toàn máy tính và an toàn AI, tốt nghiệp từ Đại học Thanh Hoa

Triệu Thịnh Gia (Shengjia Zhao) | Nhà khoa học trưởng của Meta

AI đang tiến bộ với tốc độ mà xã hội có thể chưa sẵn sàng tiếp nhận. Các phòng thí nghiệm tiên tiến đã rất gần với việc tạo ra AI vượt trội hơn con người xuất sắc nhất trên hầu hết các chỉ số trí tuệ. Điều này sẽ mang lại những rủi ro về xã hội và an ninh chưa từng có. Để đảm bảo một tương lai tích cực, chúng ta cần thúc đẩy sự phát triển của AI bằng trách nhiệm và sự suy nghĩ kỹ lưỡng.

Cựu sinh viên Thanh Hoa, Triệu Thịnh Gia, được bổ nhiệm làm Nhà khoa học trưởng của Siêu trí tuệ Meta! Một trong những đóng góp cốt lõi của GPT-4, ngang hàng với LeCun

John Schulman｜Giám đốc khoa học của Thinking Machines, đồng sáng lập trước đây của OpenAI

Tôi ký tên vì tuyên bố này giúp xây dựng sự đồng thuận rằng, khi nghiên cứu AI tự động hóa tiến triển nhanh hơn, chúng ta có thể cần các cơ chế phối hợp. Tôi cũng mong các phòng thí nghiệm chủ động bắt đầu thiết kế những cơ chế này trước khi chính phủ Mỹ can thiệp.

Ethan Perez｜Trưởng nhóm căn chỉnh của Anthropic

Theo tốc độ tiến bộ hiện tại của AI, đội an ninh của các công ty AI phải liên tục tăng tốc mỗi vài tháng để phòng ngừa các rủi ro xã hội mới phát sinh. Sẽ có một ngày, chúng ta sẽ gặp phải những vấn đề cần nhiều thời gian hơn để giải quyết.

Leo Gao｜Thành viên nhóm kỹ thuật OpenAI

Cả thế giới đang bị kẹt trong một cuộc đua chết người hướng tới sự bùng nổ trí tuệ — khả năng AI tạo ra AI mạnh hơn đang tiến gần đến điểm tới hạn, giống như phản ứng dây chuyền hạt nhân mất kiểm soát. Việc làm chậm lại sẽ mang lại khoảng thời gian cấp thiết để mọi thứ diễn ra theo hướng tích cực, nhưng không có bên tham gia nào sẵn sàng đơn phương dừng lại. Để sống sót, chúng ta phải phối hợp với nhau để làm chậm cuộc đua này.

Walker Smith｜Kỹ sư dữ liệu của Meta

Hassabis nói đúng: hôm nay chúng ta đang đứng ở chân núi của điểm kỳ dị. Sự cố rò rỉ mô hình vô tình xảy ra tại OpenAI — khi nó xâm nhập vào HuggingFace — là một tín hiệu cảnh báo rõ ràng và không thể chối cãi: chúng ta chưa sẵn sàng để đối phó với các hệ thống AI có khả năng vượt trội hơn cả những bộ não thông minh nhất của con người. Chúng ta cần thời gian để thúc đẩy việc căn chỉnh và kiểm soát AI như ưu tiên hàng đầu, và không thể để cuộc đua này tiếp tục trôi đi.

Brandon Houghton｜OpenAI

Tôi ủng hộ việc con người duy trì quyền kiểm soát đối với AI tiên tiến, nhưng chúng ta phải suy nghĩ cẩn trọng về cách thực hiện điều đó. Nếu việc quản lý chỉ bao gồm các mô hình công khai, thì khả năng cao là các khả năng tiên tiến nhất sẽ bị đẩy vào các hệ thống riêng hoặc chuyên dụng—những hệ thống không chịu sự kiểm tra độc lập và chỉ một số ít người có thể tiếp cận. Kết quả là quyền lực trở nên tập trung hơn, trong khi rủi ro không giảm đáng kể. Việc quản lý hiệu quả phải có thể đo lường, xác minh được, và áp dụng đồng nhất cho cả nghiên cứu và phát triển công khai lẫn không công khai, đồng thời bảo vệ dữ liệu nhạy cảm. Nếu không, những gì chúng ta làm chậm lại chỉ là tốc độ tiếp cận, chứ không phải sự tiến bộ của chính các công nghệ tiên tiến.

Joe Carlsmith｜Thành viên đội ngũ kỹ thuật Anthropic

Để biết quan điểm chi tiết của tôi về việc điều tiết chủ động sự phát triển của AI, vui lòng tham khảo bài viết này: https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/

Tài liệu tham khảo:

https://www.pacingthefrontier.com/

Bài viết này đến từ tài khoản WeChat “New Intelligence Yuan”, biên tập: Taozi, Marco