Một mô hình AI đang trong giai đoạn thử nghiệm đã tự tay xâm nhập vào máy chủ sản xuất của một công ty.
Sự việc xảy ra không lâu trước đây: một mô hình được thử nghiệm nội bộ bởi OpenAI, trong quá trình thực hiện nhiệm vụ, đã tự động xâm nhập vào máy chủ sản xuất của Hugging Face nhằm gian lận để đạt điểm cao hơn trong một bài kiểm tra chuẩn. Sau đó, OpenAI đã phân loại sự cố này là một “lối thoát khỏi môi trường cách ly” — nói một cách đơn giản, đó là mô hình đã tự tìm ra cách vượt ra ngoài các giới hạn hoạt động đã được thiết lập sẵn.
Vụ việc này trở thành chất xúc tác. Chưa đầy vài ngày sau, vào ngày 28 tháng 7, một bức thư công khai có tiêu đề “Pacing the Frontier” đã lan truyền trong ngành. Tính đến nay, đã có 1.178 nhân viên từ năm phòng thí nghiệm AI hàng đầu thế giới là OpenAI, Anthropic, Google DeepMind, Meta và Thinking Machines ký tên. Yêu cầu cốt lõi trong thư chỉ gồm một câu: mong chính phủ Mỹ dẫn dắt, phối hợp với cộng đồng quốc tế, cùng xây dựng một bộ công cụ kỹ thuật và quản trị nhằm chủ động làm chậm tốc độ phát triển của AI tiên tiến.
Danh sách người ký có trọng lượng đáng kể. Tài khoản chính thức của Anthropic đã công khai bày tỏ sự ủng hộ, nêu rõ bức thư này được ký bởi CEO Amodei, nhiều đồng sáng lập và nhiều nhà nghiên cứu cấp cao, đồng thời đề cập đến nghiên cứu về "tự cải tiến lặp lại" mà công ty đã công bố hồi tháng trước, vốn là một trong những cơ sở cho lời kêu gọi này. Tại Google DeepMind, các vị trí như Giám đốc Chiến lược và Phó Chủ tịch An toàn AI đều có tên trong danh sách; nhà khoa học trưởng của Meta AI cũng đã ký tên; OpenAI cũng đồng thời phát hành tuyên bố ủng hộ, với Giám đốc Nghiên cứu chính Mark Chen nằm trong số những người ký.
Đây không phải lần đầu tiên nhóm này nỗ lực theo hướng này. Vào ngày 17 tháng 6, Amodei đã cùng CEO của Google DeepMind, Demis Hassabis, trong một bữa trưa làm việc kín bên lề hội nghị G7 tại Évian, Pháp, trực tiếp đề xuất với các nhà lãnh đạo nhiều quốc gia, bao gồm Trump và Macron, yêu cầu “đặt ra nhịp độ phát triển”. Thủ tướng Canada Carney ngay lập tức bày tỏ sẵn sàng xem xét cơ chế phối hợp do Mỹ dẫn đầu, nhưng cuộc gặp đó không tạo ra bất kỳ cam kết ràng buộc nào. Sau đó, Anthropic khi giải thích lập trường này đã đặc biệt so sánh với hiệp ước cắt giảm tên lửa tầm trung thời kỳ Chiến tranh Lạnh — ngay cả những quốc gia đang trong cạnh tranh địa chính trị khốc liệt cũng từng đạt được thỏa thuận hạn chế về vũ khí hạt nhân và tên lửa, vậy thì tại sao AI lại không thể.
Tuy nhiên, chỉ vài ngày trước khi lá thư này được công bố, cùng ngành này vừa chứng kiến một biểu hiện gần như hoàn toàn đối lập. Vào ngày 24 tháng 7, CEO của NVIDIA, Huang Renxun, đã dẫn đầu cùng với Microsoft, Meta và tổng cộng 50 công ty khác phát hành một lá thư liên danh, với yêu cầu cốt lõi là phản đối các hạn chế của Washington đối với việc phổ biến các mô hình AI có trọng số mở — nói cách khác là "Đừng can thiệp, hãy để công nghệ phát triển tự do." Trong khi đó, yêu cầu trong lá thư "Pacing the Frontier" lại gần như đảo ngược hoàn toàn: cũng là gửi thông điệp đến Washington, tuần trước kêu gọi "Đừng hạn chế", tuần này lại kêu gọi "Đã đến lúc cần kiểm soát rồi." Đáng chú ý hơn nữa, Anthropic không có mặt trong danh sách ký tên của lá thư do NVIDIA phát động, nhưng lần này lại trở thành một trong những người thúc đẩy hàng đầu cho "Pacing the Frontier" — một lần vắng mặt, một lần dẫn đầu; tưởng chừng mâu thuẫn, nhưng thực chất lại phản ánh một lập trường nhất quán: Anthropic thường thiên về phía "hãy phanh lại ngành công nghiệp" thay vì "giúp ngành công nghiệp tăng tốc".
Tuy nhiên, lá thư liên danh này đã đi kèm với tranh cãi ngay từ đầu. Chuyên gia phân tích chính sách công nghệ tự do Adam Thierer đã công khai chỉ trích, gọi đây là "hành động cực kỳ đáng lo ngại" – khi chính phủ Mỹ can thiệp thúc đẩy toàn ngành đồng loạt giảm tốc độ, về bản chất sẽ tạo ra hiệu ứng phản cạnh tranh rõ rệt, đặc biệt đối với những người theo sau chưa theo kịp các phòng thí nghiệm hàng đầu; câu nói "cùng nhau chậm lại" nghe giống như "mời những người đi đầu giúp thu thang lại".
Sự nghi ngờ này không phải không có cơ sở. Nhìn lại danh sách chữ ký, gần như toàn bộ đều là những phòng thí nghiệm hàng đầu trong ngành, chứ không phải những công ty vẫn đang cố gắng đuổi kịp. Việc giảm tốc độ gần như không mang lại chi phí nào cho những bên đã xây dựng được lợi thế về năng lực — họ đã không còn cần phải "đi trước" để giành chiến thắng, mà thay vào đó, họ cần thêm thời gian để biến lợi thế dẫn đầu thành sản phẩm, thành hàng rào an toàn và thành sự công nhận của cơ quan quản lý; nhưng đối với những công ty vẫn đang đuổi kịp, nếu "đồng bộ nhịp độ" trở thành hiện thực chính sách, thì cơ hội đuổi kịp của họ có thể bị đóng lại ngay lập tức.
Điều này cũng khiến cuộc phỏng vấn của CEO OpenAI, Altman, vào cùng ngày trở nên đầy ý nghĩa. Bản thân anh ấy không được công bố nằm trong danh sách những người ký tên vào lá thư liên danh, nhưng trong một cuộc phỏng vấn podcast cùng ngày, phát biểu của anh ấy mang tính tinh tế — vừa thừa nhận rằng “những lo ngại về an toàn có một phần là hợp lý”, vừa chuyển hướng, ngụ ý rằng những lo ngại như vậy có thể ẩn chứa động cơ “nhân danh an toàn để tập trung quyền lực”. Câu nói này đã được một số phương tiện truyền thông giải thích như một lời mỉa mai ngầm nhắm vào Amodei.
Việc làm chậm lại thực sự cũng không phải không có chi phí đối với chính các phòng thí nghiệm này. Việc huấn luyện một mô hình tiên tiến thường đòi hỏi chi phí hàng tỷ đô la cho năng lực tính toán và hàng nghìn nhân viên nghiên cứu, và việc có thể thu hồi được những khoản đầu tư này phần lớn phụ thuộc vào lời hứa liên tục được thực hiện rằng “mô hình thế hệ tiếp theo sẽ mạnh hơn thế hệ trước” — người dùng đăng ký sẵn sàng gia hạn, khách hàng doanh nghiệp sẵn sàng mở rộng triển khai, nhà đầu tư sẵn sàng tiếp tục rót vốn, về bản chất đều đang đánh cược vào việc đường cong này sẽ tiếp tục tăng lên. Một khi “chủ động làm chậm tốc độ lặp lại” từ một lời kêu gọi trở thành hành động thực tế, thời gian hoàn vốn cho những khoản đầu tư đã bỏ ra sẽ bị kéo dài, câu chuyện tăng trưởng được thúc đẩy bởi “mô hình mạnh hơn” cũng sẽ trở nên chậm chạp hơn. Đó cũng là lý do vì sao bức thư này, dù mang danh nghĩa an toàn, nhưng đối với những người ký tên, lại là một lựa chọn đòi hỏi phải trả tiền thật, chứ không phải một lời tuyên bố suông.
Điều thực sự quyết định hướng đi của cuộc thảo luận này có thể không phải là “có nên giảm tốc hay không”, mà là “ai có quyền định nghĩa tốc độ và cách thức giảm tốc”. Nếu cuối cùng chính phủ Mỹ dẫn dắt và phối hợp với một số đồng minh xây dựng một cơ chế “hài hòa nhịp độ”, thì quyền lập quy tắc rất có thể sẽ nằm trong tay vài phòng thí nghiệm hàng đầu đã tham gia soạn thảo lá thư liên danh này – những tổ chức này vừa là đối tượng bị ràng buộc, vừa phần nào là người soạn thảo các tiêu chuẩn ràng buộc. Cấu trúc kiểu “vừa là vận động viên vừa là trọng tài” này chính là phần mà những nghi ngờ về “hiệu ứng phản cạnh tranh” lo ngại; nhưng ngược lại, những phòng thí nghiệm này cũng chính là những người hiểu rõ nhất về ranh giới năng lực của các mô hình tiên tiến và sớm phát hiện ra các rủi ro tiềm ẩn nhất; việc họ tham gia soạn thảo quy tắc cũng có thể được hiểu là một sự cần thiết thực tế, chứ không nhất thiết là động cơ vị kỷ. Hiện tại, cả hai cách giải thích đều thiếu bằng chứng đủ mạnh để áp đảo lẫn nhau.
Cuối cùng, lá thư này không để lại một câu trả lời rõ ràng, mà là một câu hỏi khó phân biệt hơn: Khi vài công ty mạnh nhất trong ngành cùng kêu gọi “hãy chậm lại một chút”, đằng sau lời nói này có thể thực sự là sự thức tỉnh về rủi ro, hoặc cũng có thể xen lẫn những cân nhắc về vị thế dẫn đầu của chính họ – trong thực tế, hai động cơ này thường không loại trừ nhau và rất khó để chọn một trong hai. Nhưng có một điểm tương đối chắc chắn: trước đây hiếm khi có ngành nào tự giới hạn bản thân thông qua việc các doanh nghiệp hàng đầu chủ động kêu gọi “chậm lại” – những đợt giảm tốc thực sự hiệu quả trong lịch sử phần lớn đều do sự can thiệp bên ngoài hoặc các sự cố buộc phải thực hiện, chứ không phải do sự đồng thuận tự nguyện từ bên trong. Lần này liệu có phải là ngoại lệ? Câu trả lời có lẽ sẽ không sớm được hé lộ.
Nội dung bài viết này chỉ mang tính chất tham khảo, không tạo thành bất kỳ lời khuyên đầu tư nào. Thị trường có rủi ro, đầu tư cần cẩn trọng.