Mọi người đều tin rằng trí tuệ có nhu cầu vô hạn, không chỉ riêng các nhà đầu tư lớn. Nhưng điều mà các nhà đầu tư lớn hiểu sai là trí tuệ mà Anthropic, OpenAI và các mô hình frontier đang xây dựng không phải là loại trí tuệ phổ quát mà bạn đang hình dung. Hãy để tôi giải thích—
Hai ứng dụng lớn nhất của tính toán thô sơ là hoặc huấn luyện hoặc suy luận. “Trí tuệ phổ quát” mà mọi người nói có nhu cầu vô hạn chủ yếu đến từ suy luận, và suy luận đòi hỏi năng lượng và mức độ sử dụng hoàn toàn khác với huấn luyện. Suy luận xảy ra theo từng đợt, vì vậy bạn buộc phải xây dựng quá mức năng lực để xử lý các đỉnh điểm cho đến khi vấn đề sử dụng được giải quyết—nghĩa là gần như theo định nghĩa, chúng ta sẽ xây dựng quá mức. Nhưng huấn luyện thì không gặp vấn đề đó: khối lượng công việc ổn định và đường cong nhu cầu có thể dự đoán được. Do đó, các trung tâm dữ liệu hiện đang bị xây dựng quá mức chính xác vì mức độ sử dụng chưa được tối ưu hóa.
Vì vậy, Anthropic và các phòng thí nghiệm frontier khác đang xây dựng tương lai của họ trên nền tảng huấn luyện, đó là lý do họ nói rằng họ có thể hấp thụ hết toàn bộ năng lực dư thừa này. Nhưng “trí tuệ” của họ không phải là năng suất làm việc. Đó là bước nhảy hướng tới các kết quả kiểu điểm kỳ dị: khám phá thuốc mới, khả năng mạng, tự cải tiến lặp lại. Đây là những thứ thực sự độc nhất vô nhị. Đó là lý do khi Anthropic nói về “mối đe dọa sinh tồn đối với nhân loại,” họ không đang nói về việc mất việc làm, ít nhất không phải chủ yếu. Họ đang nói rằng họ đang ở bờ vực của những khám phá phi thường, bởi vì họ vẫn đang TIẾP TỤC HUẤN LUYỆN NHIỀU MÔ HÌNH HƠN.
Nhưng quá trình tinh luyện là có thật và mã nguồn mở cũng là có thật. Tuổi thọ của bất kỳ mô hình frontier nào đều cực kỳ ngắn vì không có gì bảo vệ nó như bằng sáng chế bảo vệ sở hữu trí tuệ. Hãy tưởng tượng một công ty dược phẩm điều trị bệnh hiếm gặp đầu tư hàng tỷ đô la vào nghiên cứu, và chỉ hai tháng sau khi có đột phá, một phiên bản tương tự đã xuất hiện. Công ty đó không bao giờ có thể thu hồi lại khoản đầu tư của mình, trừ khi họ có thể khám phá ra vô số loại thuốc điều trị bệnh hiếm gặp. ĐÓ chính là loại trí tuệ mà Anthropic đang đặt cược. Đó là điều mà $800 tỷ chi tiêu cho tính toán đang đặt cược.
Vì vậy, những câu hỏi bạn cần đặt ra là: 1) Nếu trí tuệ là hai cấp độ, thì mỗi cấp độ chi phí bao nhiêu? Chi phí của AGI là bao nhiêu, và chi phí của trí tuệ phổ quát có nhu cầu vô hạn là bao nhiêu? Và 2) Chúng ta có đang phân bổ vốn với đường cong rủi ro và hàm suy giảm phù hợp để xác định xem lợi nhuận từ AGI có thật hay không? Và nếu nó thật, liệu một công ty tư nhân có thực sự sở hữu nó được không?
Đó chính là sự mâu thuẫn nhận thức nằm ở trung tâm của toàn bộ nghịch lý này: mọi người đang lừa dối lẫn nhau về việc trí tuệ là gì, trong khi đơn vị đo lường cố ý được giữ mơ hồ bởi cả người dùng lẫn nhà cung cấp. Trí tuệ phổ quát có nhu cầu vô hạn, nhưng đó là một cuộc đua xuống đáy. “Siêu trí tuệ” thì ngược lại: về mặt định nghĩa, nó không thể có nhu cầu vô hạn, nhưng nếu nó mang lại chỉ một nửa những gì hứa hẹn, thì không công ty tư nhân nào có thể giữ lại nó—ít nhất là không mà không có sự can thiệp của chính phủ để bảo vệ lợi thế cạnh tranh (đó là lý do Anthropic liên tục nhấn mạnh góc nhìn này, dù chưa từng chứng minh được họ gần đạt đến mức độ khám phá này). Và đến lúc đó, bạn phải tự hỏi: ai sẽ là người chịu thiệt? Và liệu điều đó thực sự có thông minh hay không?