Chi phí tính toán AI có khả năng tăng lên do nhu cầu gia tăng và hạn chế về nguồn cung

Tôi muốn thử một cách viết tối giản: tự đặt cho mình 2 giờ để nhanh chóng hoàn thành một bài đăng blog. Nhiều vấn đề quan trọng tôi không có thời gian đi sâu, nhưng nếu không làm vậy, nhiều chủ đề tôi quan tâm sẽ mãi bị đình trệ và không có tiến triển nào.

Hôm nay tôi muốn nói về tình hình năng lực tính toán của các phòng thí nghiệm AI trong những năm tới.

Doanh thu của Anthropic tăng gấp 10 lần mỗi năm. Theo xu hướng này, doanh thu của Anthropic vào cuối năm nay rất có thể sẽ nằm trong khoảng 100 đến 150 tỷ USD. Nếu xu hướng này tiếp tục, đến cuối năm sau họ sẽ cần đạt doanh thu 1.000 tỷ USD. Tất nhiên, không có lý do cứng nhắc nào đảm bảo xu hướng này sẽ tiếp tục—điều này cuối cùng phụ thuộc vào năng lực của AI. Nhưng giả sử nó thực sự tiếp tục, thì những điều kiện nào phải được đáp ứng trong thế giới này?

Công suất tính toán của phòng thí nghiệm tăng gấp 3 lần mỗi năm. Nếu một phòng thí nghiệm muốn đạt được mức tăng doanh thu 10 lần trong khi công suất tính toán chỉ tăng 3 lần, thì phải đồng thời xảy ra ít nhất một trong ba điều sau: một, lợi nhuận của phòng thí nghiệm tăng lên; hai, giá công suất tính toán tăng; ba, phòng thí nghiệm sử dụng một tỷ lệ lớn hơn công suất tính toán cho việc suy luận.

Theo hiểu biết của tôi, ba điều này cơ bản đều đang xảy ra: một, biên lợi nhuận của Anthropic đã tăng từ 40% vào năm 2025 lên có thể vượt quá 80% trong hoạt động suy luận Fable năm nay (tuy nhiên, biên lợi nhuận của năng lực tính toán biên có thể khác, sẽ nói chi tiết sau); hai, giá giao ngay năng lực tính toán đã tăng hơn 40% kể từ đáy tháng Hai năm nay, và mức tăng thực tế mà phòng thí nghiệm phải chi trả có thể còn cao hơn nhiều (sẽ nói chi tiết sau); ba, theo dữ liệu của Epoch, OpenAI đã chi khoảng một phần tư chi phí năng lực tính toán vào năm 2024 cho suy luận, hiện nay tỷ lệ này chắc chắn đã gần 50% hoặc thậm chí cao hơn.

Các phòng thí nghiệm thực ra không muốn đi theo con đường thứ ba (đưa ngày càng nhiều năng lực tính toán vào suy luận). Có một câu đùa nói rất chính xác: ý nghĩa của doanh thu từ suy luận là thuyết phục nhà đầu tư cấp thêm tiền để bạn mua thêm năng lực tính toán và huấn luyện các mô hình lớn hơn. Nếu bạn dành phần lớn năng lực tính toán cho suy luận, về mặt nào đó, bạn đang tuyên bố rằng tiến bộ trong AI đã dừng lại—vì việc đầu tư thêm vào huấn luyện đã không còn hiệu quả về mặt kinh tế, và doanh nghiệp của bạn về cơ bản chỉ là một nhà cung cấp dịch vụ điện toán đám mây. Các phòng thí nghiệm lớn không nghĩ như vậy—họ cho rằng các mô hình họ đang triển khai hiện tại sẽ trở nên lỗi thời sau một năm, và hiện tại họ làm ngành này để tích lũy các trường hợp ứng dụng thương mại, hỗ trợ việc tiếp tục huấn luyện các mô hình thông minh hơn.

Vì vậy, còn lại hai con đường: một là tăng biên lợi nhuận của phòng thí nghiệm; hai là chi phí tính toán trở nên đắt hơn. Nếu một hoặc hai phòng thí nghiệm hàng đầu vượt xa đối thủ cạnh tranh, thì con đường thứ nhất sẽ rõ rệt hơn. Trong cạnh tranh thị trường, biên lợi nhuận phụ thuộc vào việc bạn tốt hơn phương án thứ hai bao nhiêu. Để hiệu ứng đầu tiên chiếm ưu thế, biên lợi nhuận phải đạt trên 90% vào cuối năm tới. Điều này theo tôi là khá phi lý. Nhưng tôi thực sự tin rằng doanh thu của các phòng thí nghiệm AI vẫn có thể tiếp tục tăng với tốc độ đáng kinh ngạc.

Vì vậy, để giải thích làm thế nào thế giới này trở thành hiện thực với doanh thu tăng vọt lên 1 nghìn tỷ USD vào cuối năm tới, vẫn còn một hiệu ứng cuối cùng: chi phí tính toán tăng mạnh. Như tôi đã nói, điều này đã bắt đầu xảy ra. Nếu chúng ta xem xét loại tính toán mà các phòng thí nghiệm thực sự cần, mức tăng giá sẽ còn đáng kinh ngạc hơn nhiều—họ rõ ràng không thể phụ thuộc vào các instance trên thị trường spot, họ cần đảm bảo an toàn cho trọng số mô hình và dữ liệu người dùng, đồng thời cần quy mô đủ lớn để đạt được hiệu suất sử dụng và tính linh hoạt tốt. Hãy xem thị trường này điên rồ đến mức nào: Google và Anthropic thuê tính toán từ SpaceX với giá báo cáo là Google chi 900 triệu USD mỗi tháng để thuê 110.000 GPU, bao gồm sự pha trộn giữa GB200 và GB300. Tính ra, giá này khoảng gấp đôi giá thị trường spot của các GPU này. Và hiện tại, giá spot đã cao hơn 40% so với tháng 2.

Tôi muốn nhấn mạnh một kết luận cốt lõi: Khi các mô hình AI ngày càng mạnh mẽ, cùng một lượng tính toán sẽ tạo ra giá trị ngày càng cao. Nếu một kỹ sư phần mềm thực sự đạt trình độ con người có thể chạy trên thiết bị cấp H100, dựa trên mức lương thị trường hiện tại của kỹ sư phần mềm, chi phí thuê H100 mỗi năm nên vượt quá 250.000 USD — gấp 15 lần giá hiện hành.

Tất nhiên, nếu đột nhiên có thêm 10 triệu kỹ sư phần mềm, giá trị biên của kỹ sư sẽ tự nhiên giảm xuống, do đó chiếc H100 có thể không thực sự tạo ra doanh thu cao gấp 15 lần so với hiện tại. Nhưng tôi thực sự không chắc liệu lập luận này có hợp lý hay không. Nếu áp dụng lập luận này vào con người thay vì AI, đây chính là "sai lầm về tổng cung lao động" kinh điển. Các nhà kinh tế học đều cho rằng nhập cư có tay nghề cao về lâu dài sẽ không làm giảm lương, vì chuyên môn hóa và đổi mới sẽ tăng giá trị lao động. Có lẽ cú sốc cung lao động lần này quá lớn và quá nhanh, khiến quy luật này không còn đúng. Nhưng nếu chúng ta tin vào phán đoán tiêu chuẩn của kinh tế học về lao động, thì giá trị biên của lao động (cũng như giá biên của năng lực tính toán) nên duy trì ở mức cao đáng kinh ngạc.

What will happen in this world?

Các mô hình hàng đầu ngày càng khai thác được nhiều giá trị hơn từ sức mạnh tính toán, khiến mức độ khó để theo kịp ngày càng tăng. Nếu đến năm 2028, kỹ sư phần mềm đã được tự động hóa và giá sức mạnh tính toán cao hơn 15 lần so với hiện tại, thì việc cạnh tranh sức mạnh tính toán với các phòng thí nghiệm hàng đầu mà không có doanh thu nào sẽ cực kỳ khó khăn.

Nếu bạn có thể huấn luyện được mô hình tốt nhất và hiệu quả nhất, lợi nhuận bạn có thể thu được sẽ cao hơn nhiều so với ngày nay. Đây là hiệu ứng Alchian-Allen: khi một chi phí cố định được áp dụng đồng thời lên hai loại hàng hóa có chất lượng khác nhau, loại chất lượng cao hơn sẽ trở nên hấp dẫn hơn về mặt tương đối, dẫn đến nhu cầu chuyển dịch về phía nó. Khi giá mỗi giờ của H100 tăng lên 20 đô la, việc sử dụng một mô hình yếu hơn và kém hiệu quả hơn sẽ trở nên cực kỳ đắt đỏ và ngu ngốc — vì bạn phải tiêu tốn nhiều token hơn, chạy nhiều sức mạnh tính toán đắt đỏ hơn để đạt được cùng một kết quả. Do đó, nếu ai đó có thể huấn luyện được một mô hình hàng đầu tiết kiệm hơn về sức mạnh tính toán, họ có thể thu mức giá cao hơn rất nhiều. Vì chi phí sức mạnh tính toán cơ bản đã phải chi nhiều tiền như vậy, thì tại sao không bỏ thêm một chút để sử dụng mô hình hiệu quả nhất trên cùng một mức sức mạnh tính toán?

Nhiều ứng dụng AI đang phổ biến hiện nay sẽ bị loại bỏ do chi phí. AI hiện nay tương đối rẻ, ít nhất là rẻ hơn lao động con người, một phần vì nó vẫn chưa thể thực hiện được nhiều việc mà con người đỉnh cao có thể làm. Một ngày nào đó điều này sẽ không còn đúng nữa. Khi đó, chi phí sử dụng GPU để tạo nội dung video ngắn chất lượng thấp sẽ cao đến mức không còn đáng để làm.

Tuy nhiên, những dự đoán như vậy cũng có điểm tương đồng với những phán đoán sai lầm về sự khan hiếm trong quá khứ. Tôi nghĩ đến cuộc cược giữa Simon-Ehrlich: Paul Ehrlich đặt cược rằng trong thập kỷ trước năm 1990, giá của một giỏ hàng hóa cơ bản sẽ tăng chứ không giảm. Cuộc cược này nổi tiếng trong các cuộc thảo luận kinh tế đại chúng vì nó được cho là đã bác bỏ thế giới quan Malthus của Ehrlich—cho rằng ông đã đánh giá thấp vai trò của tín hiệu thị trường và trí tuệ con người trong việc tiết kiệm tài nguyên khan hiếm (tuy nhiên, cũng có phân tích chỉ ra rằng nếu cuộc cược này được thực hiện trong một thập kỷ khác, Ehrlich sẽ thắng).

Tôi cho rằng thước đo hàng hóa không phù hợp để đánh giá năng lực tính toán, vì độ co giãn của nguồn cung năng lực tính toán thấp hơn nhiều so với khai thác kim loại, và khả năng hấp thụ cú sốc nhu cầu lớn hoặc tìm kiếm giải pháp thay thế cũng yếu hơn nhiều. Sự tăng trưởng năng lực tính toán 3 lần mỗi năm là kết quả của việc nhân ba con số sau: 1,4 lần do định luật Moore, 1,2 lần do xây dựng nhà máy bán dẫn mới (ít nhất đến năm 2030 đều bị giới hạn bởi nguồn cung thiết bị EUV), và 1,8 lần do AI chiếm lấy phần phân bổ wafer tiến tiến từ các thiết bị khác (con số này sẽ chạm ngưỡng vào khoảng năm 2027, khi tỷ lệ AI chiếm wafer N3 tăng từ 60% lên 86%). Trong ba hệ số này, bất kỳ hệ số nào cũng khó có thể tiếp tục tăng thêm, và hệ số cuối cùng thậm chí sẽ đạt đỉnh trong vòng một đến hai năm tới do sự bão hòa trong phân bổ wafer.

Tôi muốn nhấn mạnh rằng, vào một thời điểm nào đó trong tương lai, sức mạnh tính toán sẽ lại trở nên rẻ hơn. Sẽ có một ngày, robot có thể trực tiếp biến cát silic ven biển và mỏ đồng dưới lòng đất thành máy tính, và khi đó, giá sức mạnh tính toán có lẽ sẽ giảm về mức gần với chi phí nguyên vật liệu và công cụ. Tuy nhiên, điều tôi đang bàn luận ở đây chỉ là giai đoạn hiện tại — sức mạnh tính toán AI chỉ tăng 3 lần mỗi năm, tốc độ này hoàn toàn không theo kịp tác động đẩy giá tăng do AI ngày càng trở nên có giá trị hơn mỗi năm.

Nhân tiện, doanh thu của Anthropic tăng gấp 10 lần mỗi năm, trong khi năng lực tính toán chỉ tăng gấp 3 lần, điều này cho thấy ngành công nghiệp mô hình có lợi thế quy mô cực kỳ mạnh mẽ. Về mặt logic, điều này hợp lý — để huấn luyện một mô hình, bạn chi trả một lần chi phí học tập, sau đó chi phí này có thể được chia đều cho tất cả người dùng (khác với lao động con người, mỗi trường hợp đều phải đào tạo lại từ đầu). Tôi không muốn sống trong một thế giới nơi trí thông minh có lợi thế quy mô mạnh mẽ như vậy (vì tôi lo ngại về sự tập trung quyền lực). Nhưng thực tế dường như đang diễn ra như vậy.

Tác giả: Dwarkesh Patel, Biên dịch: Deep潮 TechFlow