BlockBeats tin tức, ngày 26 tháng 7, nhà đầu tư của Anthropic, Deedy, chỉ ra rằng tất cả các công ty khởi nghiệp đang phát triển chip AI thế hệ tiếp theo đều đang nỗ lực theo những cách khác nhau để phá vỡ vị thế thống trị của NVIDIA, nhắm vào vấn đề cốt lõi là “di chuyển dữ liệu”. Sáu con đường thách thức khác biệt bao gồm: loại bỏ DRAM (Groq, đã bị NVIDIA mua lại với giá 20 tỷ USD), loại bỏ kết nối (Cerebras, đã niêm yết với vốn hóa khoảng 48 tỷ USD), loại bỏ sự tách biệt giữa tính toán và bộ nhớ (d-Matrix), loại bỏ kiến trúc máy chủ tập trung vào tính toán (Majestic), loại bỏ tính phổ dụng (Etched, Taalas, MatX), và loại bỏ máy quang khắc trị giá 400 triệu USD (Substrate).
Việc Cerebras và Groq niêm yết và mức giá mua lại đã thiết lập chuẩn định giá cho toàn bộ lĩnh vực chip AI, trong khi Etched tuần này đã tăng gấp đôi định giá lên 10,3 tỷ USD, bùng nổ từ trạng thái khiêm tốn chỉ trong ba tuần, càng củng cố rằng vốn đang nhanh chóng đánh giá lại định giá cho lĩnh vực này. Trong số 18 công ty khởi nghiệp chính, tổng giá trị ghi trên sổ sách của các công ty tư nhân đạt khoảng 58 tỷ USD, trong khi giá trị thị trường trên thị trường công khai khoảng 48 tỷ USD, bao gồm các phân khúc như suy luận, đào tạo/kiến trúc mới, hệ thống và nhà máy bán dẫn cùng quang khắc.
Mỗi con đường đều thách thức những giả định cốt lõi của kiến trúc GPU NVIDIA — việc di chuyển dữ liệu giữa đơn vị tính toán và bộ nhớ tiêu tốn cả thời gian lẫn năng lượng. Groq loại bỏ hoàn toàn độ trễ cấp bộ nhớ bằng cách thay thế DRAM bằng SRAM, Cerebras xóa bỏ nút thắt kết nối giữa các chip bằng chip quy mô wafer, d-Matrix thực hiện tính toán trực tiếp trong bộ nhớ, còn Etched từ bỏ tính phổ quát để thiết kế phần cứng chỉ dành riêng cho kiến trúc Transformer. Hệ sinh thái khởi nghiệp chip AI đã phát triển từ câu chuyện đơn lẻ thay thế GPU sang cuộc tấn công đa điểm ở cấp độ kiến trúc. Việc NVIDIA chủ động tham gia vào quá trình này thông qua việc mua lại Groq cho thấy họ hiểu rõ rằng cạnh tranh thế hệ tiếp theo không còn nằm ở hiệu năng đỉnh điểm, mà là sự tái cấu trúc triệt để hiệu quả di chuyển dữ liệu.