Anthropic đối mặt với sự phản đối từ chính phủ về mô hình AI Fable

Tác giả: Ben Thompson

Biên dịch: Deep潮 TechFlow

Dẫn nhập của Shenchao: Mô hình mới Fable của Anthropic vừa ra mắt được hai tháng đã bị chính phủ Mỹ đình chỉ khẩn cấp, bề ngoài vì "rò rỉ an toàn", nhưng thực chất phơi bày cuộc chiến song phương giữa các phòng thí nghiệm AI với chính phủ và ngành phần mềm. Công ty lấy "an toàn" làm điểm bán hàng này đang biến câu chuyện an toàn thành hàng rào bảo vệ thương mại, và điều họ thực sự muốn chiếm đoạt là dữ liệu người dùng của những công ty như Microsoft.

Tôi hiểu lập trường của những người chế nhạo, những người luôn cho rằng các tuyên bố công khai của Anthropic — đặc biệt là những lời nói khi phát hành mô hình — nhằm tạo ra sự hoảng loạn để phục vụ mục đích tiếp thị. Hai tháng trước, Anthropic thông báo ra mắt Mythos Preview, tuyên bố rằng mô hình này quá nguy hiểm nên không thể công khai, đặc biệt là khả năng an ninh mạng mạnh mẽ của nó. Sau đó hai tháng, công ty đã công bố Fable — phiên bản Mythos đã được trang bị nhiều lớp bảo vệ an toàn.

Trong phạm vi trải nghiệm hạn chế của tôi, Fable thực sự là một mô hình xuất sắc. Hiện nay, ngoài hiệu năng lập trình, việc đánh giá khách quan các mô hình đã trở nên khó khăn, nhưng vẫn còn cảm nhận chủ quan; tôi nhận thấy trải nghiệm tương tác với Fable cực kỳ tuyệt vời; nó khiến các mô hình khác, bao gồm GPT 5.5 và Opus 4.8, trông như nhỏ bé và ngu ngốc. Trước đây tôi chỉ có hai lần cảm giác như vậy, một lần là GPT-4 và một lần là Grok 4, cả hai đều đại diện cho thế hệ mới về quy mô và độ phức tạp của mô hình nền tảng; tôi cho rằng Fable xuất phát từ một quá trình tiền huấn luyện mới, là mô hình đầu tiên của thế hệ mới.

Vì vậy, tôi hoàn toàn có thể chấp nhận rằng Fable/Mythos thực sự mạnh hơn trong việc nhận diện và khai thác các vấn đề bảo mật, nên Anthropic đưa ra quyết định thận trọng là hợp lý. Nhưng vấn đề với việc công bố mô hình là các hàng rào bảo vệ có thể bị vượt qua, và rõ ràng điều này đã xảy ra ngay sau khi mô hình được phát hành.

Điều xảy ra tiếp theo vẫn chưa rõ ràng. Anthropic viết trong bài đăng blog:

Chính phủ Hoa Kỳ đã viện dẫn quyền lực an ninh quốc gia để ban hành lệnh kiểm soát xuất khẩu, tạm dừng tất cả quyền truy cập của công dân nước ngoài vào Fable 5 và Mythos 5, bất kể đang ở trong hay ngoài Hoa Kỳ, bao gồm cả nhân viên nước ngoài của Anthropic. Hiệu quả thực tế của lệnh này là chúng tôi buộc phải vô hiệu hóa ngay lập tức Fable 5 và Mythos 5 cho tất cả khách hàng để đảm bảo tuân thủ. Việc truy cập vào tất cả các mô hình Anthropic khác không bị ảnh hưởng.

Chúng tôi nhận được chỉ thị từ chính phủ lúc 5:21 chiều giờ Đông Mỹ hôm nay. Thư không cung cấp chi tiết cụ thể về mối lo ngại an ninh quốc gia. Chúng tôi hiểu rằng chính phủ cho rằng đã phát hiện ra phương pháp để vượt qua hoặc "thoát khỏi" Fable 5. Chúng tôi đã xem xét bản trình diễn sử dụng kỹ thuật cụ thể này để phát hiện một số lỗ hổng nhỏ đã biết. Những lỗ hổng này dường như đều tương đối đơn giản, và chúng tôi nhận thấy các mô hình công khai khác cũng có thể phát hiện chúng mà không cần vượt qua.

Anthropic sau đó lập luận rằng việc bẻ khóa phi phổ quát là không thể tránh khỏi và có phạm vi hạn chế, không có bằng chứng nào cho thấy sự tồn tại của bẻ khóa phổ quát; các vụ bẻ khóa được phát hiện dường như được Amazon báo cáo, điều này đáng chú ý vì Amazon vừa là nhà đầu tư của Anthropic, vừa là nhà cung cấp chính các dịch vụ suy luận của công ty. Khi tôi viết bài này, các nhà quản lý cấp cao của Anthropic đang ở Washington D.C., nỗ lực giải quyết vấn đề mà họ khẳng định là sự hiểu lầm, nhưng các quan chức Nhà Trắng lại ngụ ý rằng đó là sự thờ ơ của ban lãnh đạo công ty đối với những lo ngại hợp pháp về an ninh quốc gia.

Do có quá nhiều sự thật đang gây tranh cãi, tôi không có gì thêm về xung đột hiện tại; nhưng tôi không ngạc nhiên khi xung đột đang diễn ra: tôi đã giải thích trong bài viết “Anthropic và Sự Đồng Bộ” rằng xung đột giữa chính phủ Mỹ và Anthropic là không thể tránh khỏi. Về mặt này, những người cho rằng Mythos chưa đủ mạnh để chính phủ phải hành động quyết liệt đã bỏ lỡ trọng tâm: nếu hiện tại chưa đủ mạnh, thì phiên bản tiếp theo sẽ là, hoặc phiên bản sau đó, đặc biệt khi các mô hình ngày càng hữu ích trong việc tạo ra các thế hệ kế tiếp.

Tuy nhiên, điều này đặt ra một câu hỏi khác—một câu hỏi dường như xác nhận quan điểm của những người chế nhạo: Nếu Mythos nguy hiểm đến vậy, thì tại sao lại phát hành Fable từ đầu, tại sao lại đối lập với chính phủ để làm những điều bạn tuyên bố muốn làm? Thực tế, tôi cho rằng hành vi của Anthropic là hoàn toàn có thể hiểu được; điểm độc đáo của công ty nằm ở cách họ biện minh cho những hành vi này, chính những lời biện minh đó vừa cung cấp nhiên liệu cho những người chế nhạo, vừa mang lại ma lực cho Anthropic.

Trong những năm đầu của AI, giá trị kinh tế lớn nhất đã chảy vào năng lực tính toán, vì lý do rõ ràng: chúng ta không có đủ nguồn cung để đáp ứng nhu cầu, điều này dẫn đến giá tăng mạnh; những người hưởng lợi lớn nhất là NVIDIA, TSMC và các nhà sản xuất bộ nhớ (SK Hynix, Samsung và Micron). Trong khi đó, Anthropic và OpenAI đã lỗ hàng chục tỷ đô la để xây dựng các mô hình tiên tiến, và ngay sau khi các mô hình này được phát hành, chúng đã bị làm giàu và thương mại hóa bởi các mô hình mã nguồn mở, chủ yếu đến từ Trung Quốc.

Điều này đại diện cho tình huống bi quan của phòng thí nghiệm—chúng sẽ không bao giờ bù đắp được chi phí vì sự khác biệt của chúng là tạm thời, và các sản phẩm thay thế miễn phí trở nên “đủ tốt”—tôi cho rằng điều này là hợp lý. Trong một thế giới nơi các mô hình có thể hoán đổi cho nhau, các mô hình trở thành hàng hóa, và phần lớn giá trị chảy đến những nơi khác. Hiện tại là sức mạnh tính toán, nhưng theo thời gian, khi chúng ta có đủ sức mạnh tính toán, vị trí có giá trị nhất trong chuỗi giá trị sẽ luôn là vị trí có giá trị nhất: sở hữu điểm tiếp xúc với người dùng.

Vì vậy, tôi luôn rõ ràng rằng các phòng thí nghiệm tiên tiến có tính tất yếu kinh tế để gần gũi người dùng hơn. Nếu bạn sở hữu điểm tiếp xúc với người dùng, thì bạn có sự khóa chặt có ý nghĩa, và cách tốt nhất để sở hữu điểm tiếp xúc với người dùng là trở thành nền tảng cho mọi thứ họ cần làm. Điều này đồng nghĩa với việc các phòng thí nghiệm tiên tiến đang đi vào xung đột với các công ty phần mềm: phần mềm sở hữu điểm tiếp xúc với người dùng, trong khi lợi ích dài hạn của các phòng thí nghiệm tiên tiến không đơn giản là trở thành đầu vào hàng hóa cho phần mềm, mà là thay thế trực tiếp phần mềm.

Trong khi đó, các công ty phần mềm đang nỗ lực làm điều ngược lại. Satya Nadella đã trình bày tầm nhìn của mình về cách các công ty nên xây dựng trên các mô hình trong một bài viết trên X:

Mỗi công ty đều phải xây dựng vốn con người và vốn token mà tôi đã nói đến. Vốn con người bao gồm kiến thức, khả năng phán đoán, mối quan hệ, sự sáng tạo và nhận dạng mô hình của nhân viên, trong khi vốn token là năng lực AI mà công ty xây dựng và sở hữu. Điều quan trọng là, khi vốn token tăng lên, vốn con người không trở nên ít giá trị hơn. Nó chỉ trở nên giá trị hơn! Tôi tin rằng sự chủ động của con người sẽ là động lực thúc đẩy sự tăng trưởng của vốn token. Con người sẽ đặt ra những mục tiêu tham vọng, kết nối các điểm qua các lĩnh vực khác nhau, xây dựng mối quan hệ và nhận diện những mô hình quan trọng nhất. Nếu không có sự hướng dẫn của con người, sức mạnh tính toán của bạn sẽ chỉ đang chạy vô ích.

Điều này có nghĩa là cơ hội thực sự không nằm ở việc chọn mô hình tốt nhất, mà ở việc xây dựng vòng lặp học tập trên nền tảng các mô hình, để vốn con người và vốn token cùng tăng trưởng theo cấp số nhân. Bạn có thể giao外包 một nhiệm vụ, thậm chí cả một công việc, nhưng bạn không bao giờ có thể外包 việc học của mình. Tương lai của doanh nghiệp là khả năng thúc đẩy sự tăng trưởng theo cấp số nhân của việc học này giữa con người và AI. Điều này đòi hỏi một phương pháp kiến trúc mới, cho phép mọi doanh nghiệp xây dựng các hệ thống tác nhân được cải thiện theo thời gian, đồng thời vẫn duy trì quyền kiểm soát đối với tài sản trí tuệ của mình. Các công ty nên có khả năng thay thế các mô hình "phổ quát" mà không làm mất đi kiến thức chuyên môn của những "cựu binh" doanh nghiệp được tích hợp vào hệ thống học tập của họ. Đây là "kiểm tra" then chốt cho quyền kiểm soát và chủ quyền của bạn trong thời đại tương lai.

Nadella đã mở đầu tầm nhìn này bằng một lời cảnh báo:

Điều chúng ta không mong muốn là một thế giới nơi mỗi công ty trong mọi ngành đều nhường lại giá trị cho vài mô hình nuốt chửng tất cả. Nếu toàn bộ giá trị đều bị vài mô hình chiếm giữ, nền kinh tế chính trị sẽ không dung thứ điều đó. Xã hội sẽ không cấp phép cho một tương lai AI làm cạn kiệt cả một ngành.

Hãy nghĩ về những gì đã xảy ra trong giai đoạn đầu toàn cầu hóa, khi toàn bộ nền kinh tế công nghiệp bị chuyển giao ra ngoài và bị rút rỗng. Dù con số GDP trông có vẻ tích cực, nhưng sự mất việc làm là có thật và hậu quả vẫn đang được cảm nhận cho đến ngày nay. Hãy đừng mang theo động lực này vào thời đại AI, để một số ít hệ thống AI chiếm đoạt toàn bộ lợi ích kinh tế, trong khi cả ngành công nghiệp phát hiện ra rằng tri thức của họ đang bị thương mại hóa ngay trước mắt họ.

Vấn đề với ẩn dụ này là: toàn cầu hóa thực sự đã xảy ra, các nền kinh tế công nghiệp thực sự đã bị cạn kiệt. Điều này có thể không phải là lời cảnh báo mà là lời tiên tri; không ngạc nhiên khi Nadella đang cảnh báo, vì Microsoft có thể là một trong những nạn nhân. Tương tự, tính tất yếu kinh tế của các nhà sản xuất mô hình chính là để đạt được điều này.

Những mô hình này—ngay cả Mythos—chưa đến bước đó. Ngoài việc cần thêm sức mạnh tính toán, chúng còn cần thêm nhiều dữ liệu tốt hơn. Việc cải tiến mô hình ngày càng phụ thuộc nhiều vào học tăng cường; một số dữ liệu có thể được tổng hợp, nhưng đòn bẩy mạnh nhất đối với các phòng thí nghiệm hàng đầu vẫn là việc sử dụng trong thế giới thực.

Tôi cho đây là lý do chính khiến OpenAI và Anthropic đều cung cấp các gói đăng ký được trợ giá lớn. SemiAnalysis gần đây ước tính rằng gói 200 USD cho phép bạn nhận được 8.000 USD giá trị token Claude và 14.000 USD giá trị token Codex. Tất nhiên, cả hai đều đang cạnh tranh để chiếm lĩnh thị phần tâm trí người dùng và nhà phát triển, nhưng họ cũng đang cạnh tranh để tiếp cận dữ liệu sử dụng thực tế nhằm cải thiện mô hình.

Anthropic đã tăng cường đáng kể trên Fable, tuyên bố rằng họ sẽ lưu giữ tất cả dữ liệu được sử dụng trong 30 ngày, ngay cả đối với các kế hoạch doanh nghiệp trước đây đã cam kết không lưu trữ dữ liệu. Công ty cho biết sẽ không sử dụng những dữ liệu này để huấn luyện, nhưng họ không thiết lập bất kỳ biện pháp bảo đảm nào để đảm bảo rằng họ sẽ không làm như vậy trong tương lai (ví dụ: lưu trữ dữ liệu ở bên thứ ba). Nếu sự thay đổi chính sách này (khi Fable hoạt động trở lại) không dẫn đến việc khách hàng rời đi hàng loạt, tôi nghi ngờ rằng việc họ bắt đầu sử dụng dữ liệu chỉ là vấn đề thời gian: nó quá giá trị đối với mục tiêu cuối cùng của họ.

Cũng cần lưu ý đến chu trình tích cực với việc di chuyển lên các điểm tiếp xúc của người dùng: càng nhiều quy trình làm việc được hoàn thành trực tiếp bằng Claude hoặc Codex, thì mỗi công ty sẽ nhận được càng nhiều dữ liệu có thể phản hồi vào quá trình huấn luyện, giúp sản phẩm của họ mạnh mẽ và hữu ích hơn, từ đó mở rộng số lượng quy trình làm việc mà họ có thể phục vụ và tăng cường khả năng truy cập dữ liệu.

Nadella nhấn mạnh tầm quan trọng của những dữ liệu này, nhưng tự nhiên cho rằng nó nên độc lập với mô hình:

Công ty cần chuyển đổi quy trình làm việc, kiến thức lĩnh vực và các phán đoán tích lũy thành một hệ thống AI được cải thiện sau mỗi lần sử dụng. Các đánh giá riêng nên ghi nhận liệu mô hình có thực sự cải thiện trên các kết quả quan trọng với doanh nghiệp (không chỉ là các bộ dữ liệu bên ngoài!) hay không. Môi trường học tăng cường riêng nên giúp mô hình trở nên mạnh mẽ hơn thông qua các quỹ đạo thực tế trong tổ chức. Cơ sở tri thức của nó cho phép truy vấn ký ức tổ chức một cách hiệu quả và sử dụng token tối ưu hơn.

Vòng lặp này trở thành tài sản trí tuệ mới của công ty. Tôi xem nó như một cỗ máy leo núi. Khác với hầu hết các tài sản, nó mang tính lãi kép. Mỗi cải tiến trong quy trình làm việc đều tạo ra tín hiệu huấn luyện tốt hơn, từ đó thúc đẩy sự tích lũy kiến thức ngầm độc quyền của công ty. Những công ty xây dựng điểm này từ sớm sẽ sở hữu lợi thế khó sao chép, bất kể khả năng của bất kỳ mô hình đơn lẻ mới nào.

Vòng lặp này trở thành IP mới của công ty. Tôi xem nó như một cỗ máy leo núi. Khác với hầu hết các tài sản, nó có thể tăng trưởng theo cấp số nhân. Mỗi cải tiến trong quy trình làm việc đều tạo ra tín hiệu huấn luyện tốt hơn, thúc đẩy sự tích lũy kiến thức ẩn độc quyền của công ty. Những công ty xây dựng được khả năng này từ sớm sẽ có lợi thế khó sao chép, bất kể khả năng của các mô hình đơn lẻ có được cải thiện thế nào trong tương lai.

Tuy nhiên, nếu những công ty tuân thủ chính sách dữ liệu của Anthropic hiện đã có thể đạt được kết quả tốt hơn? Hoặc nếu các công ty hiện tại kháng cự, tạo cơ hội cho các công ty mới—hoặc chính các nhà phát triển mô hình—đánh bại chúng trên thị trường? Anthropic thực sự đang thử thách sự quyết tâm mà Nadella kêu gọi.

Về chính sách lưu trữ dữ liệu liên quan đến Fable/Mythos, điều này thậm chí còn không phải là phần gây tranh cãi nhất trong bản phát hành. Thay vào đó, Anthropic đã tuyên bố trong quá trình phát hành rằng nếu Fable được sử dụng để phát triển LLM, hiệu suất của nó sẽ bị giảm một cách lặng lẽ; trong thẻ hệ thống ghi:

Chúng tôi cũng đã tăng cường các biện pháp phòng ngừa liên quan đến sự phát triển tiên tiến của LLM. Như đã thảo luận trong Mục 6.1 Báo cáo rủi ro tháng 2 năm 2026, chúng tôi lo ngại về nguy cơ gia tốc tốc độ phát triển AI tổng thể, dù vẫn chưa rõ mức độ nghiêm trọng của những rủi ro này. Đặc biệt, mối quan tâm của chúng tôi là—như chúng tôi đã viết lúc đó—“việc gia tốc việc các nhà phát triển AI khác xây dựng các hệ thống AI mạnh mẽ có rủi ro tương tự hệ thống của chúng tôi—mà không nhất thiết đi kèm các biện pháp phòng ngừa tương ứng.”

Do gần đây mô hình có khả năng tự tăng tốc quá trình phát triển, chúng tôi đã thực hiện các biện pháp can thiệp mới nhằm hạn chế hiệu quả của Claude khi xử lý các yêu cầu liên quan đến phát triển LLM tiên tiến (ví dụ: xây dựng đường ống tiền huấn luyện, cơ sở hạ tầng huấn luyện phân tán hoặc thiết kế bộ gia tốc ML). Việc sử dụng Claude để phát triển mô hình cạnh tranh vốn đã vi phạm điều khoản dịch vụ của chúng tôi, nhưng việc áp dụng các biện pháp bảo vệ để thực thi giới hạn này sẽ ngăn chặn những người có ý định vi phạm các điều khoản này tăng tốc hành vi của họ.

Khác với các can thiệp của chúng tôi trong lĩnh vực an ninh mạng, sinh hóa học và các nỗ lực chưng cất, các biện pháp bảo vệ này không hiển thị với người dùng. Fable 5 sẽ không quay lại mô hình khác. Thay vào đó, các biện pháp bảo vệ sẽ giới hạn hiệu quả thông qua các phương pháp như sửa đổi lời nhắc, định hướng vector hoặc tinh chỉnh tham số hiệu quả (PEFT). Những can thiệp này không ảnh hưởng đến phần lớn công việc lập trình. Chúng tôi ước tính chúng sẽ ảnh hưởng đến khoảng 0,03% lưu lượng truy cập, tập trung ở ít hơn 0,1% các tổ chức. Khi các biện pháp can thiệp được kích hoạt, chúng tôi dự kiến chúng sẽ có tác động rất nhỏ đến hành vi của mô hình, ngoài việc hạn chế hiệu quả của các LLM前沿 phát triển. Claude vẫn sẽ đưa ra các phản hồi hữu ích cho yêu cầu của người dùng. Chúng tôi sẽ tiếp tục cải thiện độ chính xác của các phương pháp phát hiện sau khi ra mắt mô hình này.

Anthropic đã rút lại thay đổi này—Fable sẽ chuyển các yêu cầu liên quan đến LLM cho Opus 4.8 và tiết lộ việc chuyển giao này cho người dùng—nhưng tôi cho rằng chính sách ban đầu rất mang tính启发性. Một mặt, tôi thực sự không trách Anthropic vì không muốn hỗ trợ đối thủ cạnh tranh; mặt khác, cần phải rõ ràng rằng Anthropic cho rằng ngoài họ ra, không ai nên tạo ra các LLM tiên tiến.

Điều đáng chú ý hơn về chính sách này là nó được ban hành chỉ hai tháng sau khi Anthropic tranh cãi với Bộ Quốc phòng: phía sau muốn sử dụng Claude cho bất kỳ mục đích hợp pháp nào, trong khi phía trước muốn áp đặt kiểm soát chặt chẽ hơn đối với vũ khí giám sát và tự chủ. Biện pháp hạ cấp này vừa thể hiện khả năng Anthropic chủ động thay đổi mô hình của mình để đạt được sở thích chính sách, vừa thể hiện ý chí của họ. Nói cách khác, Anthropic đã chủ động xác nhận một số mối lo ngại lớn nhất của các nhà phê bình về việc họ là một rủi ro trong chuỗi cung ứng.

Tuy nhiên, kết luận rộng hơn rút ra từ sự kiện đó là Anthropic cho rằng họ nên có quyền quyết định cuối cùng về cách sử dụng Anthropic; do họ cho rằng chỉ có họ nên phát triển AI tiên tiến, nên thực tế họ cho rằng chỉ có họ nên có quyền quyết định cuối cùng đối với AI nói chung. Khi bạn kết hợp nhận thức này với tuyên bố của công ty rằng AI có thể thực hiện mọi hoạt động kinh tế, bạn sẽ nhận ra rằng ban lãnh đạo Anthropic thực sự muốn nắm quyền lực đối với mọi thứ và mọi người.

Tất nhiên, Anthropic sẽ không bao giờ diễn đạt một cách trực tiếp như vậy; thay vào đó, câu chuyện là về bảo mật:

Tôi dự kiến Anthropic sẽ ngày càng công khai khả năng mô hình của mình đến người dùng cuối thông qua các endpoint được tùy chỉnh ngày càng chuyên biệt cho các quy trình làm việc khác nhau, ngay cả khi họ bắt đầu hạn chế API. Việc thay thế phần mềm và hạn chế truy cập này sẽ được thực hiện với danh nghĩa an toàn, ngay cả khi Anthropic đang thực hiện các yêu cầu kinh tế của mình nhằm tiếp cận người dùng cuối.

Anthropic giải thích sự thay đổi lớn trong chính sách lưu trữ dữ liệu của họ là do an ninh. Cụ thể, công ty tuyên bố rằng việc lưu giữ tất cả dữ liệu người dùng trong 30 ngày là cần thiết để ngăn chặn các hành vi thoát khỏi giới hạn mà chính phủ Mỹ lo ngại. Tôi hoàn toàn có thể hình dung một tương lai trong đó các yếu tố an ninh buộc họ phải sử dụng những dữ liệu này để huấn luyện, nhằm ngăn ngừa tốt hơn việc sử dụng sai mục đích.

Toàn bộ câu chuyện khởi nguồn của Anthropic xuất phát từ niềm tin của những người sáng lập rằng OpenAI không coi trọng an toàn đủ nghiêm túc; công ty cho rằng chỉ có họ mới có thể kiểm soát AI, và vì họ đặc biệt quan tâm đến an toàn, nên họ có lý do để cố gắng kiểm soát tất cả những người khác, bao gồm cả chính phủ Mỹ.

Về những lý do an toàn này, vấn đề nằm ở chỗ: tôi cho rằng chúng có hiệu lực, bởi vì đối với Anthropic, chúng không phải là lý do. Công ty thực sự tin rằng họ là người duy nhất tin vào trí tuệ siêu việt, do đó là người duy nhất quan tâm đầy đủ đến những nguy hiểm. Điều này biện minh cho từng quyết định, từng chính sách, từng cuộc đối đầu, trong khi với những người ngoài cuộc, những điều này trông giống như sự kết hợp kỳ lạ giữa chủ nghĩa hoài nghi và sự ngây thơ.

So sánh với OpenAI thật lớn lao: Tôi cho rằng một cách để hiểu OpenAI đã mất vị thế dẫn đầu như thế nào và tại sao là trong những năm sau khi ChatGPT ra mắt, công ty đã rơi vào tình trạng nội chiến, khi phòng thí nghiệm nghiên cứu từng là trung tâm đột phá bỗng nhiên phải gánh vác trọng trách trở thành một công ty công nghệ tiêu dùng ngoài dự kiến; trong quá trình giải quyết xung đột này, OpenAI đã mất đi một lượng lớn nhân tài cho các công ty như Anthropic.

Mặt khác, Anthropic có sự nhất quán hoàn hảo giữa nhân tài, sứ mệnh và kinh doanh. Công ty có thể thuyết phục các nhà nghiên cứu về tầm nhìn tạo ra một vị thần máy móc, mang theo ánh hào quang của những người quan tâm đến nguy hiểm và đủ thông minh để đại diện cho nhân loại đối phó với những nguy hiểm đó; đồng thời, mọi thay đổi chính sách phát sinh đều vô tình mang lại lợi ích cho kinh doanh — đó là sự trùng hợp tuyệt vời nhất trên thế giới.

Tôi vừa tôn trọng sự nhất quán này, vừa sợ hãi nó. Tôi tôn trọng nó vì rõ ràng nó cực kỳ hiệu quả; so sánh gần nhất có thể là Apple, công ty luôn ngụy trang mọi hành động vị kỷ dưới danh nghĩa làm điều đúng đắn cho người dùng—và họ thường làm đúng như vậy. Anthropic cũng vậy. Tuy nhiên, điều khiến tôi lo lắng là việc để những người tin chắc mình hiểu rõ nhất xây dựng một chiếc điện thoại thông minh mà tôi có thể chấp nhận hoặc từ chối đã là một chuyện; còn việc để họ xây dựng những siêu trí tuệ có tiềm năng sánh ngang hoặc vượt qua quyền lực của các quốc gia dân tộc, hay thậm chí chỉ là các doanh nghiệp lớn, thì đáng lo ngại hơn nhiều. Lịch sử của những người thông minh tin chắc rằng họ biết con người cần gì là một lịch sử bẩn thỉu, chính vì họ đã thuyết phục bản thân rằng ý định của mình là tốt đẹp, từ đó biện minh cho những hành động thực tế lại không hề tốt đẹp như vậy.