CEO của Anthropic đề xuất khung chính sách AI trong bối cảnh tăng trưởng công nghệ nhanh chóng

Gần đây, CEO của công ty AI hàng đầu Anthropic, Dario Amodei, đã công bố một bài viết dài hàng nghìn từ gây chấn động khắp mạng lưới: "Chính sách trong thời đại chỉ số trí tuệ nhân tạo". Bài viết tập trung vào năm lĩnh vực chính sách, trình bày chi tiết các quan sát của ông và đưa ra các đề xuất hệ thống từ giám sát đến địa chính trị.

（原文链接：https://darioamodei.com/post/policy-on-the-ai-exponential ，本文后附中文版全文。）

Phải thừa nhận rằng, trong giới硅谷 đầy những người nói toàn “thay đổi thế giới” và chỉ biết vẽ bánh vẽ, Dario thực sự là một luồng gió hiếm hoi.

Anh ấy cực kỳ thành thật, thậm chí có phần “đại nghĩa diệt thân” khi lột trần lớp vỏ bọc giả tạo của giới công nghệ.

Các chuyên gia trong ngành thường đổ lỗi cho sự lo ngại của công chúng về AI là do “quan hệ công chúng làm chưa tốt”, nhưng Dario phản bác thẳng thừng: người ta lo lắng vì rủi ro là có thật, hoàn toàn không phải vấn đề quan hệ công chúng.

Anh ấy cũng trực tiếp thừa nhận sự thật mà các ông lớn công nghệ cố gắng tránh xa: AI rất có khả năng gây ra làn sóng thất nghiệp nghiêm trọng và kéo dài, khiến nền kinh tế bị kẹt trong trạng thái cực đoan “tăng trưởng siêu cấp và bất bình đẳng siêu cấp”.

Nhưng nếu chúng ta tiếp tục suy luận theo “người cảnh báo” ở tiền tuyến ngành này đưa ra, chúng ta sẽ phát hiện ra một nghịch lý cấu trúc khiến người ta phải suy ngẫm:

Vị quan chức đầy trách nhiệm này, khi kêu gọi trói buộc ngành công nghiệp, vô tình đang nỗ lực thúc đẩy một cuộc chuyển giao quyền lực chưa từng có. Những tinh hoa Thung lũng Silicon đang viết lại những quy luật của xã hội loài người.

Trước sự phát triển của AI với tốc độ chớp nhoáng, Dario lo lắng và đề nghị chính phủ nhanh chóng quản lý AI như cách họ quản lý máy bay và thuốc.

Ví dụ, thiết lập một cơ chế tương tự Cục Hàng không Liên bang (FAA), yêu cầu các mô hình tiên tiến đạt tiêu chuẩn tính toán phải vượt qua bài kiểm tra an toàn bắt buộc bởi bên thứ ba, nếu không sẽ không được phép phát hành.

The starting point is undoubtedly for human safety.

Tuy nhiên, theo quy luật khách quan của sự phát triển thương mại, ngành hàng không trở thành độc quyền oligopoly cao độ chính vì chi phí tuân thủ cao một cách phi lý.

Khi ngành AI thực sự “FAA hóa”, các khoản phí kiểm duyệt cao, các bài kiểm tra định kỳ của đội đỏ và kiểm thử xâm nhập sẽ trực tiếp trở thành một “bức tường thở dài” bất khả xâm phạm.

Quy định, đôi khi là hàng rào bảo vệ của những người đi đầu. Các công ty khởi nghiệp và cộng đồng mã nguồn mở hoàn toàn không đủ khả năng chi trả.

Kết quả cuối cùng là: các ông lớn vì tình yêu “vĩ đại” đối với an toàn của toàn nhân loại, về mặt khách quan đã sử dụng quyền lực công để tiến hành dọn dẹp hợp pháp, ghi nhận vị thế độc quyền của mình vào luật pháp.

Cùng một logic tinh tế này cũng tồn tại trong lĩnh vực dược phẩm và địa chính trị.

Dario kêu gọi các tổ chức truyền thống như FDA nới lỏng quy trình phê duyệt thuốc dựa trên AI, chấp nhận mô phỏng AI thay cho các thử nghiệm lâm sàng kéo dài. Động cơ xuất phát từ thiện chí, nhưng điều này rõ ràng đã dọn đường cho các gã khổng lồ AI sở hữu sức mạnh tính toán mạnh nhất thực hiện cuộc tấn công hạ cấp xuống ngành dược trị giá hàng nghìn tỷ đô la.

Đồng thời, ông hình dung một “Liên minh AI các quốc gia dân chủ”, chia sẻ chip bên trong và phòng thủ chặt chẽ bên ngoài.

Nếu thành lập liên minh này, ai cung cấp công nghệ? Ai bị loại trừ? Ai bị đối địch? Trong toàn bộ quá trình này, ai được lợi?

Để duy trì khoảng cách công nghệ, các ông lớn công nghệ không chỉ là nhà cung cấp công nghệ, mà còn hợp lý trở thành người đặt ra quy tắc mới của thời đại, thậm chí có thể biến thành “phức hợp quân sự số” mới tiếp nhận ngân sách quốc phòng khổng lồ.

Nếu chúng ta lật lại những dấu vết mờ nhạt trong lịch sử, tất cả những điều này thực ra đã có dấu hiệu từ trước.

Trong lịch sử, khi một công ty trở nên đủ lớn, nó thường “chiếm đoạt quốc gia hoặc áp dụng các đặc điểm bán quốc gia”. Dario tự mình đề cập đến một so sánh rất chính xác trong bài viết: Công ty Đông Ấn của Anh.

Công ty Đông Ấn ban đầu chỉ là một nhóm thương nhân buôn bán gia vị, nhưng để bảo vệ tuyến đường biển và quản lý các lợi ích xuyên quốc gia quy mô lớn, họ dần dần bắt đầu tuyển dụng quân đội, thành lập tòa án và phát hành tiền tệ, cuối cùng trở thành một “quốc gia bán chính thức” cai trị bán đảo Ấn Độ.

Những ông lớn thung lũng Silicon ngày nay đang đi theo chính con đường giống hệt.

Chỉ là phương tiện ngày xưa là tàu chiến và súng đại bác, ngày nay là sức mạnh tính toán.

Dario đã phác họa một tương lai đáng kinh ngạc: nếu AI tiếp tục tiến hóa theo cấp số nhân, nó sẽ trở thành “quốc gia thiên tài trong trung tâm dữ liệu”: AI giống như nơi hội tụ của những thiên tài trong mọi lĩnh vực, sở hữu AI mạnh mẽ giống như sở hữu một quốc gia toàn thiên tài sẵn sàng phục vụ mình. Vì vậy, khi một đội quân sở hữu AI mạnh mẽ đối đầu với đội quân không có AI, sự chênh lệch sẽ giống như “đội thủy quân lục chiến Thế chiến II đối đầu với các hiệp sĩ thời Trung Cổ”.

Khi các cường quốc công nghệ nắm giữ những công nghệ siêu việt có thể gây ra sự sụp đổ tài chính, chế tạo vũ khí sinh học, hoặc thậm chí quyết định cục diện địa chính trị toàn cầu, các tổ chức nhà nước truyền thống bắt đầu khó có thể kiểm soát hiệu quả chúng.

Các ông lớn đã cố gắng tự đặt ra các tiêu chuẩn an toàn, tự kiểm tra mô hình, thậm chí tự hình dung các phương án liên minh quốc tế.

Điều này không phải vì họ là một nhóm những kẻ tham vọng độc ác, mà là do sự phát triển công nghệ đạt đến quy mô này, sự trống rỗng quyền lực và sự phức tạp của bản chất con người đã buộc họ tự nhiên đi theo con đường tương tự.

Trong thời đại mà sức mạnh tính toán quyết định mọi thứ, sức mạnh của cá nhân dường như bị nén lại vô hạn.

Dario đã phanh phui sự thật một cách không khoan nhượng: AI không chỉ thay thế lao động chân tay, mà còn là chính những khả năng nhận thức mà con người tự hào.

Khi những khả năng suy luận logic và lập kế hoạch chiến lược mà chúng ta đã miệt mài rèn luyện trong môi trường làm việc trở nên như trò trẻ con trước “đất nước hội tụ mọi thiên tài” của AI, chúng ta nên tự xử lý thế nào?

Các ông lớn đưa ra giải pháp: các hỗ trợ vĩ mô như Thu nhập cơ bản toàn dân (UBI). Dù không làm việc, nhà nước vẫn trả tiền cho bạn.

Nhưng cái bát cơm đã giữ được, thì ai lấp đầy cái lỗ lớn trong lòng?

Có lẽ giống như ẩn dụ mà Dario đưa ra trong bài viết: ngay cả khi máy móc đã vượt trội hoàn toàn con người trong cờ vua và cờ vây, con người vẫn dành cả cuộc đời cho bàn cờ và vẫn được tôn trọng.

Vì máy tính tính ra là những “giải pháp tối ưu” lạnh lùng, trong khi con người theo đuổi là “chính trải nghiệm” sống động.

Những đặc tính không thể được chuẩn hóa sẽ trở thành nguồn tài nguyên khan hiếm nhất trong tương lai.

Trong một cốt truyện phụ của The Lord of the Rings, hai người Hobbit cố gắng đánh thức Treebeard — một sinh vật cây có ý thức, đầy trí tuệ nhưng hành động chậm chạp — để bảo vệ khu rừng của anh ta khỏi một đội quân đang đốn hạ rừng. Vấn đề nằm ở chỗ, tốc độ hành động của Treebeard hoàn toàn khác biệt với của những người Hobbit. Anh ta chỉ cần dành cả một ngày để chào một cái cây khác, nên việc khiến anh ta và những người đồng hành của mình hành động nhanh đủ để đối phó là gần như không thể.

Sự giao thoa giữa trí tuệ nhân tạo (AI) và hệ thống chính trị của chúng ta cảm giác giống như những người Hobbit và Treebeard. AI đang phát triển với tốc độ chớp nhoáng (thành ngữ/ngôn ngữ dân gian, nghĩa là cực kỳ nhanh) — chỉ trong bốn năm, các mô hình AI đã từ chỗ gần như không thể viết ra một dòng mã liền mạch, đến mức hiện nay đã viết phần lớn mã nguồn tại các công ty AI hàng đầu. Những tiến bộ tương tự cũng xảy ra trong sinh học, vật lý, toán học, tài chính, luật, dịch thuật và nhiều lĩnh vực khác. Các định luật mở rộng (scaling laws) của AI, tức là dự đoán rằng năng lực nhận thức tổng quát sẽ tăng theo cấp số mũ khi năng lực tính toán tăng lên, hiện đã được hỗ trợ bởi hơn mười năm bằng chứng thực nghiệm. Nếu các định luật mở rộng này tiếp tục duy trì thêm chỉ một hoặc hai năm nữa, chúng ta rất có thể sẽ đạt được điều tôi gọi là “AI mạnh mẽ (Powerful AI)”, hay còn gọi là “quốc gia thiên tài trong trung tâm dữ liệu”.

So sánh với chính sách — đặc biệt là luật pháp — tiến triển rất chậm. Thông thường điều này có lý do chính đáng: chính phủ sở hữu quyền lực cực kỳ lớn, và việc không sử dụng những quyền lực này một cách vội vàng thường là tốt nhất. Nhưng sự không đồng bộ về thời gian này vẫn rất đáng buồn: trong khoảng thời gian vài năm mà quốc hội có thể cần để hành động, AI có thể từ một món đồ chơi thú vị trở thành một quốc gia thực sự của những thiên tài.

Trong vài năm qua, kể từ khi AI trở thành một công nghệ kinh doanh chính yếu, những người chúng tôi mong muốn xử lý nó một cách có trách nhiệm đã đối mặt với một tình thế tiến thoái lưỡng nan. Chúng tôi có thể nhìn rõ xu hướng tăng trưởng theo cấp số nhân này: chúng tôi nghi ngờ mạnh mẽ rằng trong vài năm tới, AI sẽ trở thành một trong những công nghệ hiếm hoi làm thay đổi căn bản toàn bộ bối cảnh chính sách, giống như vũ khí hạt nhân đã thay đổi địa chính trị, hay cách mạng công nghiệp đã làm thay đổi căn bản mọi vấn đề kinh tế và xã hội. Tuy nhiên, đối với những người chỉ tập trung vào những gì AI có thể làm vào thời điểm đó, nó trông giống như một công nghệ rất bình thường — có thể giống như ứng dụng người tiêu dùng mới nhất hoặc tiền mã hóa. Rất khó để thuyết phục đa số nhà hoạch định chính sách và doanh nghiệp rằng ngoài thái độ laissez faire, còn có điều gì đáng kể để làm. Một cách công bằng mà nói, thực tế là những tác động đột phá của AI vẫn chưa xuất hiện, và chúng ta không chắc chắn chúng sẽ có hình thức như thế nào, điều này khiến việc thiết kế các chính sách đúng đắn trở nên khó khăn, ngay cả khi có ý định hành động.

Do các hạn chế đặt ra trong tình huống này, nhiều nhà vận động an toàn (bao gồm cả Anthropic) cho đến nay đã tập trung vào việc thúc đẩy các hành động chính sách có thể duy trì quyền lựa chọn, chuẩn bị sẵn sàng cho các phản ứng nhanh trong tương lai (tee up, thành ngữ/ngôn ngữ khẩu ngữ, nghĩa là chuẩn bị, tạo nền tảng), hoặc giúp thế giới có cái nhìn rõ ràng hơn về những điều sắp xảy ra (coming down the pike, thành ngữ/ngôn ngữ khẩu ngữ, nghĩa là những điều sắp xảy ra hoặc xuất hiện) — chẳng hạn như luật minh bạch, kiểm soát xuất khẩu chip và thu thập dữ liệu về tác động của AI đến lực lượng lao động. Những biện pháp này chưa đủ, nhưng chúng dường như là những gì có thể làm được hiện tại.

Tuy nhiên, trong vài tháng qua, bằng chứng về sức mạnh đáng kinh ngạc của AI và những rủi ro của nó đã trở nên không thể chối cãi. Có lẽ ví dụ tiêu biểu nhất là Claude Mythos Preview, cùng với việc phát hiện ra rằng các mô hình tiên tiến (frontier models) tạo ra rủi ro thực sự đối với an ninh mạng, mở ra khả năng phá hoại ngành tài chính, cơ sở hạ tầng then chốt và an ninh quốc gia. Mythos Preview đã làm xáo trộn (scrambled, thành ngữ/ẩn dụ, nghĩa là gây hỗn loạn, làm xáo trộn) toàn bộ cảnh quan an ninh mạng toàn cầu. Nhưng ý nghĩa rộng lớn hơn là nó đã chứng minh không thể chối cãi rằng các mô hình AI hiện nay đã trở thành những công cụ mang ý nghĩa toàn cầu và chiến lược quốc gia. Rủi ro mạng do các mô hình cấp độ Mythos mang lại sẽ không phải là rủi ro cuối cùng mà chúng ta phải đối mặt. Tôi tin rằng rủi ro sinh học có thể sớm theo sau, và rủi ro về tính tự chủ nghiêm trọng của AI cũng sẽ tiếp nối ngay sau đó (chú thích 1).

Hiện tại, chúng ta toàn cầu cần cùng nhau khởi động một cơ chế chính sách chậm chạp và không ổn định để ứng phó với những rủi ro và cơ hội sẽ tăng trưởng theo cấp số nhân với tốc độ đáng kinh ngạc kể từ bây giờ. Nhiều nhà hoạch định chính sách đang thể hiện thái độ ngày càng cởi mở để hành động, điều đáng khích lệ khi thấy các đồng nghiệp của chúng ta cũng đổi ý để ủng hộ cùng một lập trường mà chúng ta đã vận động trong những năm qua. Đây là điều tốt, nhưng tôi lo ngại rằng những hành động ban đầu này đã ít nhất lạc hậu một năm so với sự tiến bộ nhanh chóng của AI. Bài viết này cố gắng thu hẹp khoảng cách này: làm rõ vị trí hiện tại của sự tăng trưởng theo cấp số nhân, cũng như những hành động tập thể cần thiết để đáp ứng thời khắc then chốt.

Tôi sẽ tập trung vào năm lĩnh vực chính sách lâu năm cần được tái tưởng tượng trong thế giới AI: quản lý và an ninh công cộng, chính sách vĩ mô và thuế, đổi mới khoa học, sự cân bằng quyền lực giữa nhà nước và xã hội, cũng như địa chính trị. Tôi sẽ chủ yếu nói từ góc độ chính sách của Hoa Kỳ, vì Anthropic là một công ty Mỹ, nhưng hầu hết các đề xuất của tôi cũng liên quan đến các khu vực khác trên thế giới.

Đi kèm bài viết này, Anthropic sẽ công bố một đề xuất luật về việc thử nghiệm các mô hình tiên tiến, cùng một khung chính sách về việc mất việc làm, và chúng tôi dự định cung cấp hỗ trợ tài chính đáng kể cho những nội dung này. Chúng tôi có kế hoạch làm thêm nhiều việc khác trong tương lai, nhưng chúng tôi xem đây là những bước đầu tiên thể hiện sự nghiêm túc của chúng tôi.

1. Quản lý và An toàn Công cộng

Mỗi công nghệ hoặc sản phẩm mới đều có những mục đích hữu ích và có hại, do đó tạo ra một tình thế tiến thoái lưỡng nan giữa đổi mới và an toàn. Việc quản lý sản phẩm sẽ làm giảm khả năng gây hại của chúng và đóng vai trò quan trọng trong việc cải thiện cuộc sống của người dân trên toàn thế giới, nhưng nó cũng có thể trực tiếp làm giảm những lợi ích mà chúng mang lại và gián tiếp kìm hãm đổi mới. Còn có một quan điểm theo trường phái Hayek cho rằng các cơ quan quản lý thường thiếu thông tin cần thiết để đưa ra các quyết định đúng đắn về những cân bằng kinh tế phức tạp, do đó việc quản lý thường vừa không hiệu quả vừa rườm rà. Một khái niệm liên quan là nghịch lý Collingridge, chỉ ra rằng tác động của một công nghệ thường rất khó dự đoán cho đến khi đã quá muộn để dễ dàng kiểm soát chúng.

Trong giai đoạn 2023-2024, những động thái này trở nên đặc biệt nổi bật trong lĩnh vực AI (thành ngữ, nghĩa là trở nên nổi bật, thu hút sự chú ý hoặc trông đáng sợ). Đối với Anthropic, rõ ràng là AI trong tương lai có thể có khả năng tạo ra vũ khí sinh học đe dọa hàng triệu người, hoặc hành vi tự chủ không đúng cách của nó trong những tình huống cực đoan thậm chí có thể đe dọa chính nhân loại. Điều chưa rõ ràng là rủi ro sẽ xuất hiện dưới dạng chính xác nào, làm thế nào để kiểm tra và giảm thiểu chúng một cách tốt nhất, cũng như chúng sẽ phát triển như thế nào trong thực tế (thành ngữ, nghĩa là phát triển, tạo ra kết quả). Do đó, việc soạn thảo luật trước thời điểm thích hợp có nguy cơ cao sẽ trở nên vô hiệu — tạo ra các yêu cầu tuân thủ vô nghĩa hoặc có giá trị thấp, đồng thời bỏ lỡ nguồn gốc quan trọng nhất của các rủi ro thực tế (chú thích 2).

Cuối cùng, chúng tôi kết luận rằng phương pháp đúng đắn lúc đó là minh bạch. Các nhà phát triển mô hình AI phải tiết lộ các quy trình bảo mật của họ và các bài kiểm tra họ thực hiện trên mô hình, đồng thời báo cáo bất kỳ sự kiện bảo mật quan trọng nào để công chúng và cộng đồng khoa học có thể hiểu rõ hơn về những rủi ro khi chúng xuất hiện. Khi và nếu các rủi ro trở nên rõ ràng hơn và hình thái của chúng cụ thể hơn, các bằng chứng thu được thông qua minh bạch có thể được sử dụng để thiết kế các đạo luật thông minh nhằm nhắm mục tiêu chính xác vào những rủi ro đáng lo ngại nhất. Do đó, vào năm 2025, Anthropic đã ủng hộ các đạo luật về minh bạch, hỗ trợ thông qua SB 53 tại California, RAISE tại New York, và SB 315 tại Illinois (được thông qua đầu năm 2026), đồng thời vận động xây dựng các tiêu chuẩn minh bạch ở cấp liên bang.

Tuy nhiên, rủi ro hiện tại đã rõ ràng xuất hiện. Đã đến lúc vượt qua sự minh bạch và thực hiện các quy định nghiêm ngặt và mang tính ràng buộc hơn đối với AI. Tôi cho rằng, ít nhất trong giai đoạn tăng trưởng cấp số nhân hiện nay, ví dụ tốt nhất là ô tô, máy bay hoặc thuốc — những công nghệ mạnh mẽ không thể thiếu trong nền kinh tế hiện đại, nhưng nếu được thiết kế hoặc vận hành không đúng cách, có khả năng gây ra cái chết cho hàng loạt người. Do đó, tôi cho rằng chúng ta nên xây dựng khung quy định AI theo mô hình của các cơ quan như Cục Hàng không Liên bang (FAA). Các mô hình AI tiên tiến giống như máy bay, cần được yêu cầu trải qua các bài kiểm tra và kiểm toán kỹ thuật, và nếu không đáp ứng các tiêu chuẩn an toàn cao, cần ngăn chặn hoặc thu hồi chúng, coi đó là mối đe dọa đối với an toàn công cộng. Tôi rất biết ơn khi thấy sắc lệnh hành chính của chính quyền Trump đang từng bước tiến tới việc thúc đẩy chính phủ đóng vai trò lớn hơn trong lĩnh vực AI, dù đề xuất của Anthropic khuyến nghị thực hiện các hành động sâu rộng hơn. Đề xuất của chúng tôi bao gồm các yếu tố sau:

• Các mô hình vượt quá ngưỡng tính toán nhất định phải trải qua bài kiểm tra bắt buộc bởi bên thứ ba đủ điều kiện để đánh giá mức độ rủi ro của chúng trong bốn lĩnh vực cụ thể: an ninh mạng, vũ khí sinh học, mất kiểm soát đối với hệ thống AI, và việc tự động hóa nghiên cứu và phát triển có thể làm gia tăng các rủi ro khác.
• Nếu đánh giá từ bên thứ ba cho thấy mô hình này có rủi ro không thể chấp nhận được, chính phủ nên có quyền ngăn chặn hoặc răn đe việc triển khai mô hình đó. Quyền lực này phải được giới hạn trong bốn rủi ro cụ thể nêu trên và phải có các biện pháp bảo vệ chống lại sự thiên vị chính trị hoặc các quyết định武断.
• Đánh giá của bên thứ ba có thể được thực hiện bởi các cơ quan chính phủ (tương tự như FAA) hoặc một nhóm các tổ chức tư nhân được chính phủ ủy quyền và kiểm tra để đánh giá mô hình theo một số tiêu chuẩn nhất định (một phương pháp “thị trường giám sát”).
• Các công ty AI phát triển mô hình AI tiên tiến phải có các tiêu chuẩn bảo mật mạnh mẽ để bảo vệ trọng số mô hình của họ, nên thực hiện các bài kiểm tra red teaming và kiểm tra xâm nhập định kỳ, đồng thời nên hợp tác với chính phủ để phòng thủ trước các tác nhân đe dọa chính.
• Phải báo cáo kịp thời các sự cố bảo mật trong bốn lĩnh vực then chốt này.

Có thể sẽ có một ngày, có lẽ rất sớm, khi các hệ thống AI mạnh nhất không còn trông giống máy bay hay ô tô, mà giống như vật liệu hạt nhân có thể được vũ trang — lúc đó, nó sẽ là mối đe dọa đối với con người, không chỉ đơn thuần là mối đe dọa đối với an toàn công cộng, và chúng ta sẽ cần vượt qua bước này. Nếu điều này xảy ra, chúng ta có thể cần thực hiện các biện pháp quản lý nghiêm ngặt hơn những biện pháp mà tôi đã liệt kê ở trên (chú thích 3). Tuy nhiên, giống như vào năm 2024 việc nhắm mục tiêu và áp dụng các biện pháp mà tôi đề xuất hiện nay đã khó khăn, tôi cho rằng chúng ta không nên hành động vội vàng (thành ngữ, nghĩa là hành động quá sớm, vượt trước). Chúng ta nên thiết kế các chính sách nhằm đối phó với những mối nguy đang xuất hiện hôm nay, đồng thời xây dựng nền tảng để nhanh chóng tăng cường các biện pháp ứng phó khi những mối nguy mới xuất hiện.

2. Chính sách vĩ mô và thuế

Trong nhiều năm qua, các chính phủ trên toàn thế giới đã phải đối mặt với vấn đề làm thế nào để khuyến khích tăng trưởng kinh tế, đồng thời cung cấp các dịch vụ công quan trọng và đảm bảo rằng các nhóm yếu thế nhất được quan tâm. Một tiền đề quan trọng (và nhìn chung là đúng) trong các cuộc tranh luận này là tăng trưởng kinh tế là mong manh và khó đạt được — mặc dù giảm bất bình đẳng có thể mang lại những lợi ích quan trọng, nhưng nó phải được cân nhắc với những trở ngại kinh tế do tăng thuế hoặc thâm hụt ngân sách gây ra.

Tôi nghi ngờ rằng AI mạnh mẽ có thể làm xáo trộn giả định này. Nếu AI đạt được khả năng vượt trội hơn nhiều so với con người trong việc thực hiện hầu hết các nhiệm vụ nhận thức, thì hợp lý là nó có thể mang lại tăng trưởng kinh tế cực kỳ nhanh và mạnh mẽ thông qua việc tăng tốc khoa học, công nghệ và hiệu quả vận hành. Khả năng lặp lại của AI trong việc xây dựng AI tốt hơn thậm chí còn có thể tăng cường thêm sự tăng trưởng này. Nhưng vì cùng những lý do đó, AI cũng có thể là một sản phẩm thay thế kinh tế phổ biến hơn đối với năng lực nhận thức của con người, đồng thời thay đổi nền kinh tế nhanh hơn các công nghệ trước đây. Do đó, có lý do để cho rằng, so với các công nghệ trước đây, AI có thể gây ra sự gián đoạn lớn hơn nhiều đối với thị trường lao động, và tiềm ẩn là sự gián đoạn lâu dài hơn. Nguy cơ chúng ta đối mặt là cuối cùng sẽ bước vào một thế giới mà bảng điều chỉnh cân bằng kinh tế bị kẹt ở chế độ tăng trưởng siêu cấp và bất bình đẳng siêu cấp, và có thể rất khó để thoát ra khỏi chế độ đó. Trong thế giới như vậy, thách thức then chốt sẽ không còn là khuyến khích tăng trưởng, mà là tìm cách để mọi người đều được chia sẻ lợi ích.

Trong các chủ đề được thảo luận trong bài viết này, vĩ mô kinh tế và sự thay thế lao động bền vững có thể là những chủ đề thu hút nhiều sự chú ý của công chúng và nhiều hiểu lầm nhất, vì vậy tôi muốn làm rõ hai điểm sau.

Đầu tiên, sự mất việc làm kéo dài là không mong muốn và nguy hiểm; chúng ta nên nỗ lực hết sức để giảm thiểu hoặc ngăn chặn nó, thay vì thúc đẩy nó. Tôi đã cảnh báo về vấn đề mất việc làm trong các cuộc phỏng vấn và bài viết, vì tôi mong muốn các nhà hoạch định chính sách và khu vực tư nhân có cơ hội tốt nhất để thích nghi và ứng phó, chứ không phải vì tôi cố gắng trở thành một “ngôn sứ tận thế”. Với tư cách là một công ty, Anthropic luôn nỗ lực hết sức để hợp tác với khách hàng, tìm kiếm các ứng dụng mới sáng tạo và nguồn thu nhập mới, giúp họ có thể làm nhiều hơn với lực lượng lao động hiện có, thay vì chỉ tập trung vào việc tiết kiệm chi phí (thường đồng nghĩa với sa thải). Khi các hệ thống này tiến bộ, chúng tôi cũng không ngừng nỗ lực hình dung các mô hình tương tác mới, để con người tham gia hợp tác có thể đóng vai trò tích cực nhất có thể trong các hệ thống AI. Nói rộng hơn, việc để cả thế giới thử nghiệm sử dụng AI theo càng nhiều cách mới càng tốt là có giá trị, vì đó là cách xã hội tìm ra các cấu hình công việc tiềm năng mới. Tôi thực sự tin rằng AI sẽ mang lại rất nhiều cơ hội kinh tế mới. Tôi từng dự đoán rằng AI sẽ cho phép một cá nhân đơn lẻ tạo ra một công ty trị giá một tỷ đô la, và chúng ta đã chứng kiến những nhóm chỉ gồm vài người xây dựng nên các doanh nghiệp mang lại doanh thu hàng trăm triệu đô la. Nhưng đồng thời, chúng ta nên nhận thức rằng, dù đã nỗ lực hết sức, AI vẫn rất có khả năng dẫn đến tình trạng thất nghiệp nghiêm trọng và kéo dài — điều này có thể là đặc tính nội tại của công nghệ cũng như do nó sao chép rộng rãi cách thức nhận thức của con người (chú thích 4).

Thứ hai, bất kỳ biện pháp nào ứng phó với vấn đề mất việc làm do AI gây ra đều cần giải quyết cả nhu cầu đảm bảo kinh tế cho mọi người lẫn nhu cầu tìm kiếm ý nghĩa, mục tiêu và sự chủ động. Yếu tố sau cuối cùng quan trọng hơn, vì nó phụ thuộc vào những câu hỏi sâu sắc về cách xã hội nên được tổ chức, con người nên theo đuổi điều gì và điều gì tạo nên một cuộc sống tốt đẹp. Thực tế, tôi rất lạc quan cho rằng ngay cả trong một thế giới nơi AI vượt trội hơn mọi người ở mọi khía cạnh, con người vẫn có thể sống một cuộc sống đầy ý nghĩa và nỗ lực tạo ra những điều đáng kinh ngạc và đẹp đẽ (chú thích 5). Nhưng đây là vấn đề cần cả xã hội cùng giải quyết, chứ không phải vấn đề mà chính sách có thể trực tiếp giải quyết. Nơi chính sách có thể phát huy tác dụng lớn nhất là thông qua việc làm chậm tốc độ thất nghiệp và cung cấp sự đảm bảo kinh tế cho những người có thể bị ảnh hưởng, từ đó giúp chúng ta có thêm thời gian để thực hiện công việc này.

Với tinh thần đó, một số biện pháp can thiệp chính sách quan trọng có thể hữu ích bao gồm:

• Đo lường và theo dõi. Rất dễ dàng bác bỏ việc thu thập và phân tích dữ liệu đơn thuần như không đủ để đối phó với quy mô vấn đề, nhưng nếu chúng ta không thể đo lường chính xác những gì đang thực sự xảy ra, thì chúng ta khó có thể đưa ra các chính sách tốt. Anthropic đã vận hành chỉ số kinh tế về cách con người sử dụng Claude trong gần một năm rưỡi, nhưng chính phủ có thể tiếp cận các loại dữ liệu mà chúng tôi không thể có, và có thể mở rộng đáng kể các số liệu kinh tế của mình để theo dõi sát sao hơn tình trạng thất nghiệp do AI gây ra.
• Các biện pháp khuyến khích tạo việc làm. Các chính sách khuyến khích tạo việc làm rộng rãi có thể giúp làm chậm hoặc giảm thiểu sự mất việc, bao gồm: chính sách bảo hiểm tiền lương bù đắp cho người lao động khi họ buộc phải nhận các công việc lương thấp (chú thích 6), các ưu đãi thuế khuyến khích người sử dụng lao động không sa thải nhân viên, các khoản trợ cấp đào tạo lao động, hoặc cơ sở hạ tầng thúc đẩy việc ghép nối giữa người sử dụng lao động và người lao động để tăng tốc độ thích ứng của thị trường lao động. Mặc dù chi tiết về biện pháp can thiệp nào là tốt nhất sẽ phụ thuộc vào loại thay thế lao động mà AI mang lại, nhưng chúng ta nên hoan nghênh chi phí và sự kém hiệu quả thị trường mà các chính sách này có thể gây ra, đặc biệt vì chúng có thể được bù đắp bởi sự gia tăng năng suất do AI thúc đẩy.
• Sự hỗ trợ vĩ mô dài hạn. Nếu sự thay thế lao động do AI dẫn dắt cuối cùng đạt quy mô lớn và làm giảm vĩnh viễn nhu cầu đối với lao động, thì có thể cần vượt ra ngoài các chương trình khuyến khích đơn thuần để cung cấp hỗ trợ thu nhập dài hạn cho một bộ phận lớn lực lượng lao động. Các cơ chế như thu nhập cơ bản toàn dân có thể được tài trợ thông qua việc đánh thuế các công ty liên quan hoặc tăng thuế lợi tức vốn. Tài khoản vốn toàn dân cung cấp một công cụ khác. Nói chung, tăng trưởng kinh tế nhanh chóng nên tạo ra cơ sở thuế cho sự thịnh vượng chung.

Trong những lo ngại kinh tế về AI, một điểm chung mà tôi chưa đề cập là các trung tâm dữ liệu, đặc biệt là khả năng làm tăng giá năng lượng của chúng. Quan điểm của tôi là các công ty AI nên tự chi trả cho sự gia tăng mức giá — và Anthropic đã cam kết làm như vậy — nhưng tôi cho rằng sự thù địch của công chúng đối với các trung tâm dữ liệu phần lớn là một biểu hiện hoặc cách giải tỏa cho những lo lắng kinh tế rộng lớn hơn về AI. Điều quan trọng là chúng ta cần có cuộc đối thoại xã hội trực tiếp về những vấn đề kinh tế rộng lớn này, đồng thời đưa ra những giải pháp thuyết phục nhằm giải quyết chúng một cách thiết thực; nếu không, chúng rất có thể sẽ tiếp tục thể hiện gián tiếp như trong vấn đề trung tâm dữ liệu.

3. Tăng tốc tác động tích cực của AI

Giống như chúng ta phải nỗ lực cân bằng giữa sự đổi mới và an toàn của chính AI, chúng ta cũng phải nỗ lực cân bằng những công nghệ có thể được AI thúc đẩy (như sinh học y tế, năng lượng hoặc khoa học vật liệu). Nhưng mặc dù AI bản thân có thể mang đến những thách thức mới xuất hiện rất nhanh và chúng ta chưa từng có kinh nghiệm xử lý, các lĩnh vực khác được AI thúc đẩy có thể đối mặt với một vấn đề hoàn toàn khác: các hệ thống quản lý được thiết kế cho tốc độ đổi mới chậm hơn chưa sẵn sàng đối phó với luồng sản phẩm và tiến bộ mới mà AI sẽ mang lại. AI còn có thể làm cho những công nghệ hạ lưu này trở nên an toàn và dễ dự đoán hơn, từ đó phá vỡ những giả định hoài nghi mà các cơ quan quản lý như FDA đang duy trì.

Do đó, đối với các ứng dụng hạ lưu của AI—ngược lại với chính AI—tôi lo ngại hơn về việc các cơ quan quản lý sẽ làm chậm tiến độ (vì họ không thể theo kịp nhịp độ thay đổi nhanh chóng), hơn là lo ngại rằng nó không giải quyết được các rủi ro quan trọng. Chúng ta ít muốn thấy nhất là lợi ích của AI bị làm chậm lại trong khi các rủi ro của nó ngày càng gia tăng, vì vậy việc hành động sớm về vấn đề này là rất quan trọng.

Vấn đề này và các giải pháp của nó sẽ xuất hiện theo nhiều cách khác nhau trong các lĩnh vực khoa học, kinh doanh và công nghệ, vì vậy tôi sẽ tập trung vào một lĩnh vực mang tính minh họa: đổi mới sinh học y học. Điều này vừa vì nó rất có khả năng trở thành nguồn lợi ích nhân đạo lớn nhất của AI, vừa vì đây là một lĩnh vực có sự quản lý đặc biệt phức tạp. Chúng ta chưa chắc chắn AI sẽ thúc đẩy đổi mới sinh học y học như thế nào, nhưng dường như nó sẽ:

• Tăng đáng kể tốc độ đưa các ứng cử viên thuốc mới vào quy trình giám sát.
• Tăng cường hiệu lực của thuốc mới và cải thiện tình trạng an toàn của nó nhờ sự tối ưu hóa tốt hơn, có thể còn hiểu rõ hơn về các đặc tính sinh học tiềm ẩn của nó;
• Phát triển ứng cử viên thuốc điều trị các bệnh trước đây chưa từng được điều trị thành công;
• Tạo ra các hình thức điều trị hoàn toàn mới nhanh chóng, giống như kháng thể, peptide và liệu pháp tế bào đã trở thành các nhóm phương pháp điều trị mới trong vài thập kỷ qua.

Một số tiến bộ này sẽ tự nhiên thúc đẩy lịch trình quy định mà không cần thay đổi cấu trúc. Các loại thuốc có hiệu lực lớn hơn có thể dẫn đến các thử nghiệm lâm sàng quy mô nhỏ hơn, chi phí thấp hơn và kích hoạt cơ chế phê duyệt tăng tốc. Tuy nhiên, hệ thống quy định hiện tại được thiết kế để áp đặt mức độ đánh giá cao và nhiều giai đoạn kiểm tra, dựa trên giả định rằng các ứng cử viên thuốc thường không hiệu quả và ngay cả khi hiệu quả thì cũng thường có các vấn đề an toàn nghiêm trọng. Dù là tại FDA hay Cơ quan Dược phẩm Châu Âu (EMA), thời gian trung bình để một ứng cử viên thuốc đi qua quy trình quy định là 7-8 năm, một phần do những giả định bi quan này. Nếu không cải cách, AI sẽ đơn giản khiến hệ thống này bị tắc nghẽn hoặc quá tải.

Rõ ràng, chúng ta không muốn thay đổi mọi thứ theo cách dẫn đến một loạt các loại thuốc vạn năng (snake-oil, tiếng lóng chỉ thuốc giả lừa đảo) hoặc các sự cố an toàn rộng rãi. Nhưng một số cải cách tương đối đơn giản có thể giúp FDA, EMA và các cơ quan tương tự trở nên linh hoạt hơn trước sự gia tốc khoa học nhanh chóng do AI thúc đẩy (nếu điều này xảy ra).

Nhiều bước trong quy trình lâm sàng trước đây đòi hỏi các thí nghiệm đắt đỏ và chậm chạp giờ đây có thể được thực hiện nhanh chóng thông qua mô phỏng hoặc phân tích bởi AI. Các cơ quan quản lý nên xem xét ngay lập tức xây dựng các tiêu chuẩn về điều kiện cần thiết để chấp nhận các phương pháp này. Điều này có nghĩa là ngay khi các phương pháp này hiệu quả, chúng có thể được áp dụng nhanh chóng, thay vì phải trải qua một giai đoạn kéo dài không cần thiết với các yêu cầu kiểm tra tiếp tục được gia hạn. Các lĩnh vực áp dụng có thể bao gồm:

• Mô hình hóa dược động học và dược lực học (PD/PK) dựa trên AI;
• Dự đoán độc tính để tránh cần thực hiện các nghiên cứu độc tính trên động vật nhiều loài;
• Lựa chọn liều lượng chính xác hơn để giảm nhu cầu về phạm vi liều lượng lớn trong thử nghiệm;
• Xác thực sinh vật đánh dấu thông qua phân tích các bộ dữ liệu lớn;
• Nhóm kiểm soát tổng hợp trong các thử nghiệm lâm sàng để giảm nhu cầu tuyển thêm người tham gia;
• Phát triển các điểm kết thúc thay thế (điều này đặc biệt quan trọng trong lão hóa và các bệnh thoái hóa thần kinh).

Ngoài những ví dụ cụ thể này, các tổ chức nên xem xét các cơ chế phê duyệt tăng tốc mang tính táo bạo và linh hoạt hơn. Nếu dự đoán của tôi về AI là chính xác, thì sớm sẽ xuất hiện nhiều biện pháp can thiệp đột ngột (thành ngữ, nghĩa là một cách bất ngờ, đột ngột) và cực kỳ hiệu quả, hệ thống quản lý nên sẵn sàng nghiêm túc xem xét chúng thay vì áp dụng thái độ nghi ngờ quá mức.

Sự tăng tốc trong sinh học y học nên làm tăng đáng kể lợi ích của AI, nhưng cần lưu ý rằng nó cũng có thể giúp giảm thiểu rủi ro của AI. Việc cải cách quy trình phê duyệt sinh học y học có thể hỗ trợ phòng vệ sinh học, và những tiến bộ trong sinh học y học do AI thúc đẩy cũng có thể cải thiện sức khỏe tâm thần, mang lại tác động ổn định cho xã hội.

4. Quốc gia và tự do công dân

Mỗi hệ thống chính phủ đều phải đối mặt với vấn đề quyền lực nhà nước và những giới hạn của nó. Nhà nước có lợi ích hợp pháp, thường là sinh tử, trong việc bảo vệ dân chúng khỏi các mối đe dọa nội bộ và bên ngoài. Nhưng nếu trao cho nó quá nhiều quyền lực sẽ dẫn đến chế độ chuyên chế. Các quốc gia dân chủ hiện đại đã thành công đáng kể trong việc duy trì sự cân bằng này, nhưng ngay cả trong những thời kỳ tốt nhất, sự cân bằng này cũng khiến người ta lo lắng. Duy trì sự cân bằng này đòi hỏi một lượng lớn các cơ chế pháp lý và hiến pháp được xây dựng qua hàng thế kỷ — ví dụ như tại Hoa Kỳ là Tu chính án Thứ Nhất, Thứ Tư và Thứ Năm, Đạo luật Dân quân (Posse Comitatus Act), Đạo luật Giám sát Tình báo Nước ngoài (FISA), v.v.

AI đe dọa phá vỡ sự cân bằng này, đồng thời làm tăng đáng kể mức cược. Nhưng nếu chúng ta phản ứng nhanh chóng và đối mặt với thách thức, chúng ta có thể tận dụng AI để tạo ra một thế giới có sự bảo vệ tự do mạnh mẽ và bền vững hơn bao giờ hết, đồng thời phòng vệ tốt hơn trước các mối đe dọa.

Một AI mạnh mẽ rơi vào tay kẻ xấu có thể trở thành công cụ tối thượng của chế độ chuyên chế độc tài, trong khi các biện pháp bảo vệ pháp lý và hiến pháp hiện tại của chúng ta chưa được trang bị đầy đủ để đối phó với mối đe dọa này. Về cơ bản, lợi ích khổng lồ mà trí tuệ mang lại cho quyền lực toàn cầu, kết hợp với tốc độ phát triển nhanh chóng của AI, đã tạo ra một cơn bão hoàn hảo (perfect storm, thành ngữ, chỉ tình huống tồi tệ xảy ra khi nhiều yếu tố xấu cùng xuất hiện) cho các tác nhân nguy hiểm có thể vô tình chiếm quyền lực.

Loại nguy cơ này có thể biểu hiện dưới nhiều hình thức kỹ thuật hoặc vận hành cụ thể, nhưng điểm chung của chúng là AI có thể đột ngột trao quyền lực khổng lồ, đồng thời vượt qua (routing around, thành ngữ/ngụ ý nghĩa là tránh khỏi rào cản hoặc cơ chế giám sát dân chủ) các cơ chế giám sát dân chủ hiện có. Một đội quân máy bay không người lái hoàn toàn tự động nghe có vẻ như truyện khoa học viễn tưởng hôm nay, nhưng trong tương lai có thể tuân theo các lệnh bất hợp pháp và cho phép chính phủ củng cố quyền lực một cách đơn phương; con người được đào tạo chuyên môn có khả năng phản đối các chỉ thị bất hợp pháp này cao hơn. Một AI tập trung vào giám sát có thể phân tích quy mô lớn các thông tin sẵn có và sử dụng chúng để suy luận ra những chi tiết bí mật nhất trong cuộc sống của mỗi công dân—đây là một khả năng công nghệ mà các luật về tự do công dân hiện tại chưa tính đến. Tất cả những điều này đều có thể xảy ra trong thời gian cực kỳ ngắn hoặc một cách bí mật, do đó việc chủ động củng cố cam kết của các quốc gia dân chủ đối với tự do và quyền công dân là vô cùng quan trọng.

Dưới đây là một số ý tưởng chính sách chúng ta nên xem xét:

• Xây dựng các quy tắc trách nhiệm rõ ràng cho vũ khí tự động hoàn toàn. Các vũ khí tự động, đặc biệt là bất kỳ hệ thống tự chủ nào điều phối hoặc chỉ huy chúng, nên được yêu cầu tuân thủ các cơ chế trách nhiệm hiến pháp và chỉ huy (ví dụ: lệnh tòa án, lập pháp, và trách nhiệm với các giám sát viên con người cấp cao), thay vì tuân lệnh mù quáng. Điều này có thể có nghĩa là một nhóm xem xét pháp lý hoặc cơ quan tư pháp được thiết kế hợp lý có quyền kiểm soát đối với một “công tắc tắt”, hoặc hệ thống tự thân được huấn luyện để tìm kiếm và phản hồi các cơ quan giám sát hợp pháp, hoặc cả hai.
• Cấm sử dụng vũ khí tự động hoàn toàn trong nước. Mặc dù vũ khí tự động hoàn toàn có lý do hợp pháp để sử dụng trong việc phòng thủ trước các đối thủ nước ngoài (ví dụ: Nga xâm lược Ukraine), nhưng không có lý do nào để sử dụng chúng đối với người Mỹ. Khả năng của quân đội trong các hoạt động trong nước đã bị một số hạn chế, nhưng lý tưởng nhất là những vũ khí này cũng nên bị cấm sử dụng trong thực thi pháp luật.
• Đóng lỗ hổng thu thập hàng loạt/dữ liệu môi giới. Theo luật hiện hành, dữ liệu mà công dân Mỹ chia sẻ với các công ty tư nhân (như nhà cung cấp internet) có thể được mua và sử dụng để phân tích hàng loạt trong giám sát và thực thi pháp luật trong nước. Lỗ hổng về bảo vệ quyền riêng tư này đã tồn tại từ trước khi AI ra đời, nhưng AI sẽ làm tăng đáng kể mức độ quan trọng bằng cách khiến việc phân tích khối lượng lớn dữ liệu này trở nên có tính tiết lộ và thực dụng hơn bao giờ hết. Lỗ hổng này cần được đóng lại.
• Có quyền công khai được tiếp cận lời khuyên từ AI khi đối mặt với các hành động bất lợi của chính phủ. Là một nguyên tắc phổ quát, bất kỳ cá nhân hoặc tổ chức nào là đối tượng của các hành động bất lợi từ chính phủ (như quy định hoặc hành động pháp lý) đều phải có cơ hội tiếp cận AI mạnh ít nhất ngang bằng với AI mà chính phủ được phép sử dụng trong hành động cụ thể đó, điều này dường như rất quan trọng. Điều này sẽ ngăn chặn việc tạo ra lợi thế không công bằng cho chính phủ, vốn có thể thực sự làm suy yếu các quyền hợp pháp của công dân. Điều này có thể được bổ sung hoặc giải thích như một sự mở rộng hoặc diễn giải của Luật Thủ tục Hành chính, các bảo vệ do thủ tục đúng đắn, hoặc quyền được đại diện pháp lý theo Tu chính án Thứ Sáu.

Cuối cùng, cần lưu ý rằng trong việc AI chiếm quyền lực, chính phủ không phải là thực thể duy nhất chúng ta cần cảnh giác. Trong các giai đoạn khác nhau của lịch sử (ví dụ: Thời kỳ Vàng son ở Mỹ hay Công ty Đông Ấn của Anh), các công ty đã trở nên mạnh mẽ đến mức họ kiểm soát quốc gia hoặc áp dụng các đặc điểm bán quốc gia. AI sẽ nhanh chóng trở nên mạnh mẽ đến mức tôi lo ngại rằng nó không thể được giao phó hoàn toàn và an toàn cho chính phủ hoặc công ty, và phải có cơ chế cân bằng cho cả hai bên.

Quy định là một cách để kiểm soát (rein in, thành ngữ, nghĩa là kiểm soát, ràng buộc) các công ty (xem Mục 1 về quan điểm của tôi về điều này), nhưng quan trọng không kém là các công ty AI phải có sự phân bổ quyền lực và trách nhiệm giải trình lớn hơn so với các thực thể tư nhân thông thường. Quỹ tin tưởng vì lợi ích dài hạn của Anthropic (một cơ quan quản trị độc lập nhằm thúc đẩy công ty thực hiện sứ mệnh của mình) là một cấu trúc như vậy, và ngành công nghiệp nên tiếp tục khám phá các cơ chế còn tiến xa hơn. Việc đạt được sự cân bằng phù hợp — để cả quyền lực của công ty và chính phủ đều bị ràng buộc một cách có ý nghĩa — là vô cùng quan trọng.

5. Đảm bảo vị thế dẫn đầu của các nền dân chủ

Việc coi các công nghệ mới như một công cụ chính sách thương mại trong bối cảnh địa chính trị, với mục tiêu “lan tỏa nền tảng công nghệ của chúng ta trên toàn cầu”, đã trở thành bản năng phổ biến, có lẽ xuất phát từ kinh nghiệm gần đây trong ngành internet và viễn thông. Nhưng tôi cực kỳ kiên định cho rằng AI là một thứ gì đó sâu sắc hơn nhiều, nó làm thay đổi toàn bộ bàn cờ, và mọi chiến lược địa chính trị trong tương lai đều phải được xây dựng xung quanh nó—giống như vũ khí hạt nhân, nhưng tiềm ẩn mức độ ảnh hưởng còn lớn hơn.

Nếu AI thực sự sớm trở thành “quốc gia thiên tài trong trung tâm dữ liệu” hoặc bất kỳ thứ gì tương tự, thì AI rất có thể trở thành nguồn lực chính cho sức mạnh quân sự và kinh tế của bất kỳ quốc gia nào. Trong một quốc gia ảo với 100 triệu thiên tài, có thể dành 10 triệu cho chiến lược quân sự, 10 triệu cho sản xuất máy bay không người lái, 10 triệu cho nghiên cứu và phát triển vũ khí, 10 triệu cho thu thập và phân tích tình báo, 10 triệu cho sự tiến bộ của khoa học nói chung, v.v. Một quốc gia sở hữu AI mạnh mẽ so với một quốc gia không có AI—hoặc thậm chí chỉ chậm hơn 3 năm trong lĩnh vực AI—khoảng cách này có thể tương đương với một lực lượng thủy quân lục chiến Thế chiến II đối mặt với một đội quân kiếm sĩ thời trung cổ.

Ngoài ra, nếu trí tuệ nhân tạo mạnh mẽ có thể đạt được các hình thức đàn áp chuyên chế sâu sắc hơn và có thể mang tính vĩnh viễn (xem Mục 4), thì việc đảm bảo rằng các quốc gia mạnh nhất thế giới là các nền dân chủ trở nên đặc biệt quan trọng—hoặc ít nhất là tồn tại các biện pháp bảo vệ mạnh mẽ chống lại sự đàn áp do AI thúc đẩy. Điều này cũng làm tăng tính cấp bách trong việc xây dựng một chiến lược địa chính trị nhắm mục tiêu.

Các quốc gia dân chủ nên tìm cách xây dựng một liên minh toàn cầu lấy việc phát triển AI dựa trên các giá trị chung làm trung tâm, từng bước nỗ lực thu hút các khu vực khác trên thế giới, khiến việc gia nhập liên minh ngày càng hấp dẫn hơn và việc đứng ngoài ngày càng ít hấp dẫn. Liên minh này nên là sự quốc tế hóa nhất quán các ý tưởng chính sách AI được thảo luận trong các mục 1 đến 4, cộng thêm nỗ lực khóa chặt các chuỗi cung ứng thiết yếu để phát triển AI thông qua việc chia sẻ trong nội bộ liên minh và từ chối cung cấp cho những người bên ngoài. Một số nguyên tắc và mục tiêu vận hành có thể bao gồm:

Quản lý chuỗi cung ứng AI. Các thành viên trong liên minh đáng tin cậy nên được tự do chia sẻ chip và thiết bị sản xuất bán dẫn (SME) với nhau, đồng thời hợp lực ngăn chặn đối thủ tiếp cận chúng. Các biện pháp kiểm soát của Mỹ đối với việc xuất khẩu chip và SME tiên tiến sang Trung Quốc là một trong những lý do chính giúp Mỹ duy trì lợi thế toàn diện trong lĩnh vực AI; các chính sách này cần được mở rộng, thắt chặt và phối hợp với các quốc gia có cùng chí hướng. Các dự luật đang được xem xét như MATCH và OVERWATCH là một điểm khởi đầu tốt, các quốc gia dân chủ đồng minh cần cân nhắc áp dụng các biện pháp tương tự.

• Phối hợp để ứng phó với các rủi ro do AI gây ra. Nếu được phối hợp trên phạm vi quốc tế, các chính sách được mô tả ở Mục 1 nhằm ứng phó với các rủi ro về sinh học, an ninh mạng và tính tự chủ sẽ hiệu quả hơn (đồng thời giảm thiểu gánh nặng cho ngành). Điều này có nghĩa là các công ty có thể tuân thủ các tiêu chuẩn tương thích lẫn nhau, và các cơ quan quản lý có thể học hỏi lẫn nhau về cách đo lường và giảm thiểu tốt nhất những rủi ro này. Các cơ quan thực thi pháp luật và tình báo cũng nên hợp tác chặt chẽ hơn để theo dõi và ngăn chặn các mối đe dọa lạm dụng, chẳng hạn như những nỗ lực của khủng bố nhằm sử dụng AI để chế tạo vũ khí sinh học.
• Chia sẻ lợi ích của AI. Các chính sách thương mại và quản lý có thể được sử dụng để thúc đẩy sự lan tỏa nhanh hơn các lợi ích kinh tế của AI trong liên minh, chia sẻ bài học kinh nghiệm về cách tăng tốc đổi mới. Việc phối hợp các phương pháp triển khai có lợi có thể giúp mang lại những lợi ích của AI cho các nước đang phát triển. Ví dụ, sự thống nhất các hệ thống phê duyệt y tế có thể giúp các loại thuốc được trang bị AI được thử nghiệm và phê duyệt nhanh hơn và hiệu quả hơn (như đã đề cập ở Mục 3 phía trên).
• Phòng thủ chung. Các quốc gia trong liên minh nên hợp tác sử dụng AI để tự phòng thủ và chống lại AI của đối thủ. Liên minh nên cùng nhau đảm bảo sản xuất đầy đủ các năng lực chia sẻ gồm: phòng thủ mạng do AI dẫn dắt, máy bay không người lái do AI điều khiển, sản xuất do AI điều khiển, năng lực tính toán AI bí mật, nghiên cứu và phát triển do AI dẫn dắt, cũng như thu thập tình báo do AI dẫn dắt.
• Từ chối sự đàn áp được hỗ trợ bởi AI. Các thành viên liên minh phải từ chối chế độ chuyên chế cực đoan, công nghệ cao, được hỗ trợ bởi AI mà tôi đã cảnh báo trong cuốn “The Adolescence of Technology”, và phải có các biện pháp bảo vệ an toàn tương tự như những gì tôi đã mô tả ở phần 4 ở trên.
• Hợp tác vĩ mô. Khủng hoảng về việc làm hoặc tính ổn định công việc, giống như bất kỳ cuộc khủng hoảng kinh tế nào khác, đều có tính lây lan xuyên biên giới. Do đó, các quốc gia có lợi ích chung trong việc hợp tác và phối hợp các chính sách hỗ trợ và ổn định vĩ mô (như đã nêu ở Mục 2) để giảm thiểu mọi tác động đến việc làm.

Mục tiêu nên là làm cho tư cách thành viên của liên minh trở nên hấp dẫn nhất có thể — và làm cho chi phí của việc ở ngoài liên minh trở nên rõ ràng. Liên minh sẽ dựa trên sự phối hợp giữa các quốc gia chủ quyền, với mỗi quốc gia giữ quyền kiểm soát hoàn toàn đối với các vấn đề nội bộ của mình. Nó có thể phát triển theo từng giai đoạn, bắt đầu từ các quốc gia dân chủ có cùng tư tưởng (dễ dàng gia nhập một cách tự nhiên), và dần dần chào đón những quốc gia ít phù hợp hơn nhưng sẵn sàng đáp ứng các tiêu chuẩn của liên minh để đổi lấy những lợi ích to lớn mà tư cách thành viên mang lại. Về lý tưởng, toàn bộ thế giới cuối cùng sẽ gia nhập. Nhưng ngay cả khi điều này không thể xảy ra, việc thành lập liên minh này sẽ giúp các quốc gia dân chủ ở vị thế mạnh mẽ nhất để kiềm chế và vượt qua những chế độ say mê áp bức.

Cửa sổ cơ hội

Sự tiến bộ theo cấp số nhân của AI đã mang đến tốc độ cấp bách và biến đổi mà quy trình hoạch định chính sách thường không được trang bị để đối phó. Nhưng nó cũng tạo ra một cửa sổ cơ hội độc đáo. Bằng chứng rõ ràng và thực tế về rủi ro AI, những trải nghiệm ban đầu về tiềm năng của nó trong việc tạo ra giá trị kinh tế và phá hủy kinh tế, cùng với sự phản kháng mạnh mẽ từ công chúng trước cách xử lý AI không bị ràng buộc, đã đan xen tạo nên một tình thế mà các nhà hoạch định chính sách trở nên đặc biệt cởi mở với các hành động mang tính tiên phong. Râu cây và khu rừng của nó đang thức tỉnh.

Việc coi đây là một vấn đề truyền thông trong cộng đồng AI đã trở nên phổ biến: tức là AI cần “chiến dịch tiếp thị tốt hơn”. Tôi hoàn toàn từ chối khung tư duy này. Người ta lo lắng về AI vì họ nhận thức đúng đắn rằng các rủi ro của nó là có thật, chứ không phải vì các CEO AI không thể hiện đủ “Panglossian” (tham chiếu văn học/tính từ, chỉ sự lạc quan mù quáng). Tôi cho rằng, với tư cách là một nhà lãnh đạo AI, trách nhiệm của tôi là tiếp tục minh bạch về những rủi ro này, và sự lo ngại của công chúng đối với sự minh bạch này chính là biểu hiện của cơ chế trách nhiệm dân chủ đang hoạt động theo đúng cách của nó. Thách thức then chốt là tập trung sự quan tâm này vào các giải pháp mang tính xây dựng, thay vì để nó biến thành sự tức giận vô hình và bạo lực.

Tôi lạc quan về việc tìm ra giải pháp, vì nhiều vấn đề — từ giải quyết thất nghiệp đến kiểm thử trước khi phát hành mô hình, từ hạn chế xuất khẩu chip đến tiêu thụ năng lượng và các vấn đề chính sách AI khác — đều có sức hút mang tính thực tiễn trên toàn bộ phổ chính trị. Có một thế giới tương lai đáng mong đợi nhưng rất thực tế, nơi một liên minh rộng rãi, không đảng phái, bị thúc đẩy bởi nhận thức trực tiếp về những thách thức do AI mang lại, sẽ thông qua các chính sách hợp lý và có tầm nhìn xa hơn nhiều so với thông thường. Chúng ta càng sớm làm được điều này, thì càng sớm được chia sẻ những lợi ích tuyệt vời của AI.

Tôi xin cảm ơn Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson và nhiều nhân viên của Anthropic vì những ý kiến và phản hồi về bản nháp bài viết này.

Footnote

Trong bài viết của tôi “The Adolescence of Technology”, tôi đã thảo luận về các rủi ro sinh học và rủi ro tự chủ, cùng các nội dung khác. Viện Anthropic cũng đã công bố một số dữ liệu nội bộ ban đầu về khả năng cải tiến tự lặp lại trong bài viết “When AI Builds Itself”, tức là các mô hình có thể tự xây dựng các mô hình tốt hơn.

Hiện tượng này không chỉ là lý thuyết: chúng tôi đã nhiều lần quan sát thấy điều này trong khuôn khổ quản trị tự nguyện của chính mình (như chính sách mở rộng có trách nhiệm/Responsible Scaling Policy). Nếu chúng ta đặt ra một danh sách các yêu cầu an toàn cố định hoặc cứng nhắc cho các mô hình AI trong tương lai, một kết quả rất có thể xảy ra là những yêu cầu thực tế không quan trọng lại chiếm tới 95% nỗ lực tuân thủ của chúng ta, trong khi đó chúng tôi phát hiện ra rằng một số nguồn rủi ro lớn nhất lại hoàn toàn không được dự đoán trong danh sách của mình. Các khuôn khổ tự nguyện có thể thay đổi và điều chỉnh, nhưng đối với luật pháp thì việc này khó khăn hơn nhiều. Nỗ lực của tôi để đối phó với nghịch lý này có thể được thấy qua hai bức thư tôi đã công khai về SB 1047, một đạo luật tại bang California năm 2024 nhằm giải quyết các rủi ro thảm họa, do những lý do nêu trên, tôi có cảm xúc rất phức tạp về nó.

Ví dụ, các rủi ro sinh học nghiêm trọng thực sự có thể khó quản lý hơn so với rủi ro mạng, vì kẻ tấn công có lợi thế lớn so với bên phòng thủ và mức độ nghiêm trọng của thảm họa có thể lớn hơn nhiều.

Xem “Tuổi vị thành niên của công nghệ” để phân tích chi tiết hơn về lý do tại sao logic dẫn đến sự phục hồi nhanh chóng của thị trường lao động và không tạo ra sự thay thế lao động bền vững trong các công nghệ khác có thể không áp dụng được cho AI, đặc biệt là tại sao các cơ chế thích ứng thông thường như nghịch lý Jevons hoặc lợi thế so sánh có thể bị vượt qua bởi tốc độ của công nghệ.

Ví dụ, con người vẫn dành cả cuộc đời để chơi cờ vua hoặc cờ vây, hoặc leo núi, và vẫn được tôn trọng vì những hoạt động này, dù máy móc có thể làm tốt hơn trong tất cả những lĩnh vực này.

Điều này thực sự tạo ra một động lực bổ sung để mọi người chuyển việc và bắt đầu tham gia đào tạo cho bậc thang nghề nghiệp mới, ngay cả khi trong ngắn hạn có thể rất khó khăn, nếu thực hiện bằng cách bù đắp chênh lệch giữa mức lương mới và mức lương cũ.

Để biết thêm thông tin về chủ đề này, vui lòng tham khảo “Tuổi vị thành niên của công nghệ”. (Bài viết này lần đầu tiên xuất hiện trên ứng dụng Titanium Media, tác giả | Silicon Valley Tech_news, biên tập | Lâm Thâm)