NVIDIA Rubin Ultra giảm xuống 8-Hi do chi phí băng thông trở thành ràng buộc chính

iconKuCoinFlash
Chia sẻ
AI summary iconTóm tắt
NVIDIA đã giảm HBM trong Rubin Ultra xuống 8-Hi, lấy lý do chi phí băng thông trên mỗi đơn vị tăng là yếu tố chính. Sự thay đổi này giảm việc sử dụng die DRAM đi một phần ba, giúp giảm áp lực nguồn cung HBM đồng thời duy trì hoặc tăng tổng băng thông. Các altcoin cần theo dõi có thể chứng kiến xu hướng tăng giá khi thiết kế chip AI chuyển sang ưu tiên hiệu quả băng thông. Các ràng buộc về công suất và chi phí giờ đây quan trọng hơn dung lượng HBM thuần túy.
ME AI tin nhắn, SemiAnalysis cho biết, NVIDIA đã giảm HBM của Rubin Ultra từ 12-Hi xuống 8-Hi, lý do chính không phải đơn thuần là giảm dung lượng, mà là do hiện tại AI inference thực sự bị giới hạn bởi chi phí mỗi đơn vị băng thông ($/bandwidth), chứ không phải chi phí mỗi đơn vị dung lượng ($/capacity). Số lớp xếp chồng HBM chủ yếu quyết định dung lượng, trong khi tổng băng thông phụ thuộc nhiều hơn vào số lượng stack HBM, độ rộng giao diện và tốc độ truyền tải. Do đó, việc giảm từ 12-Hi xuống 8-Hi có thể giảm khoảng 1⁄3 lượng chip DRAM, làm dịu áp lực nguồn cung HBM đang căng thẳng và đắt đỏ, đồng thời vẫn duy trì hoặc thậm chí tăng tổng băng thông khi số lượng stack và cấu hình giao diện không thay đổi. Điều này có nghĩa là NVIDIA đang chủ động đổi lấy hiệu quả băng thông cao hơn bằng cách sử dụng ít dung lượng HBM hơn. Đối với các tải công việc AI ngày càng tập trung vào inference, mô hình không chỉ cần “chứa được nhiều dữ liệu hơn”, mà còn cần vận chuyển liên tục và nhanh chóng trọng số mô hình và KV Cache, do đó tầm quan trọng của băng thông bộ nhớ đang gia tăng. Sự điều chỉnh của Rubin Ultra phản ánh logic cạnh tranh của HBM đang thay đổi: các chip AI hiện không còn chỉ theo đuổi việc tăng dung lượng HBM một cách đơn thuần, mà là đạt được băng thông hiệu quả cao nhất có thể trong các ràng buộc giới hạn về DRAM, công suất và chi phí. Nút thắt chính của HBM đang chuyển từ “có đủ dung lượng không” sang “mỗi đô la có thể mua được bao nhiêu băng thông”. (Nguồn: Wall Street View)
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụngTiết lộ rủi ro của chúng tôi.