Tác giả: Jamin Ball
Biên dịch: Deep潮 TechFlow
Dẫn nhập của Shenchao: Trung tâm dữ liệu Colossus 1 của xAI vừa tìm được người mua — Anthropic đã đặt trước toàn bộ năng lực tính toán, trả 5 tỷ USD mỗi năm. Giao dịch này không chỉ giúp xAI lập tức trở thành một ông lớn mới trong lĩnh vực điện toán đám mây, mà Anthropic cũng có thể sử dụng những năng lực tính toán này để tạo ra doanh thu 15 tỷ USD, cả hai bên đều thu về lợi ích khổng lồ.
Hãy tính một phép tính sơ lược! (đều là ước tính trên giấy nháp...)
Giả sử Colossus 1 có 220.000 GPU
Giả sử có 150.000 đơn vị H100, 50.000 đơn vị H200 và 20.000 đơn vị GB200
Giả định thuê:
- H100 với giá 2,30 USD mỗi giờ
- H200 2,60 USD mỗi giờ
- GB200 giá 5 USD mỗi giờ
Chi phí thuê hỗn hợp toàn bộ cụm khoảng 2,60 USD mỗi giờ
Giả sử tất cả đều là thỏa thuận take-or-pay (bạn trả phí đầy đủ theo mức 24x365)
Điều này tương đương với doanh thu 5 tỷ USD mỗi năm của xAI. Chúng ta đã chứng kiến sự ra đời của một gã khổng lồ điện toán đám mây mới!
Không chỉ vậy—trong tập podcast gần đây của Dwarkesh, Dario đã tính sơ qua về kinh tế đơn vị (ông đặc biệt nhấn mạnh đây là toán học phổ biến trong ngành, không phải tình hình cụ thể của Anthropic—điều này rất quan trọng, ông không tiết lộ bất kỳ thông tin nào của Anthropic).
Anh ấy đề cập đến việc lấy ví dụ về chi phí tính toán 100 tỷ USD (anh ấy chỉ chọn một con số tròn). Số chi phí này sẽ được phân bổ giữa đào tạo và suy luận. Nếu tỷ lệ đào tạo quá cao, doanh thu của bạn sẽ không đủ; nếu tỷ lệ suy luận quá cao, bạn sẽ làm suy yếu tiến bộ nghiên cứu và phát triển trong tương lai. Anh ấy cho rằng ngành hiện tại đang chia chi phí tính toán giữa đào tạo và suy luận theo tỷ lệ 50/50. Anh ấy nói rằng, với tư cách là một ngành, có thể chuyển đổi 50 tỷ USD chi phí suy luận thành 150 tỷ USD doanh thu (anh ấy đặc biệt lưu ý rằng đây rất có thể là mô hình kinh tế đơn vị của ngành sau 1-2 năm).
Áp dụng logic này trở lại giao dịch của xAI. Theo giả định trên, Anthropic trả 5 tỷ USD mỗi năm. Giả sử họ chuyển hóa con số này thành doanh thu 15 tỷ USD mỗi năm (biên lợi nhuận gộp 60-70%).
Hai bên cùng có lợi!!
Dario đã nói rằng:
Hãy nghĩ như thế này. Tôi xin nhấn mạnh lại một lần nữa, những điều này là sự đơn giản hóa sự thật. Con số không chính xác. Tôi chỉ đang tạo một mô hình mẫu. Giả sử bạn dành một nửa công suất để huấn luyện và một nửa để suy luận. Suy luận có biên lợi nhuận gộp nhất định
@GS_CapSF "Chúng tôi đã ký thỏa thuận với SpaceX để sử dụng toàn bộ năng lực tính toán của trung tâm dữ liệu Colossus 1 của họ. Điều này giúp chúng tôi có thêm hơn 300 MW công suất mới trong một tháng (hơn 220.000 GPU NVIDIA)."