SK Hynix và Intel đề xuất các hồ bộ nhớ chung để giải quyết các điểm nghẽn AI

iconCryptoBriefing
Chia sẻ
AI summary iconTóm tắt
Tin tức AI + tiền mã hóa từ Hội nghị Intel AI vào ngày 12 tháng 11 năm 2026 cho thấy SK Hynix và Intel đề xuất các hồ bộ nhớ chung để tăng hiệu quả của máy chủ AI. Thiết kế này sử dụng CXL và RDMA để cho phép nhiều máy chủ GPU và CPU truy cập vào một hồ bộ nhớ tập trung. Các bài kiểm tra nội bộ đã giảm độ trễ token đầu tiên đi 81%. Điều này theo sau một thỏa thuận hợp tác năm 2025, trong đó DDR5 RDIMM của SK Hynix đã cải thiện hiệu suất suy luận 16%. Tin tức trên chuỗi cho thấy sự quan tâm ngày càng tăng đối với tối ưu hóa phần cứng cho các công việc AI.

SK Hynix đang hợp tác với Intel và các đối tác ngành khác để phát triển một cách tiếp cận mới nhằm cung cấp dữ liệu cho các máy chủ AI. Ý tưởng là ngừng việc cung cấp cho mỗi máy một kho bộ nhớ riêng biệt và cho phép chúng chia sẻ một hồ chung.

Sự thúc đẩy này xảy ra khi trí tuệ nhân tạo có tính chất tác nhân, loại phần mềm có thể tự thực hiện các nhiệm vụ nhiều bước, tiếp tục làm tăng nhu cầu về dung lượng bộ nhớ và băng thông.

Điều mà SK Hynix thực sự đề xuất

SK Hynix đã trình bày khái niệm được gọi là hồ bộ nhớ chia sẻ tại Hội nghị AI của Intel ở Seoul vào ngày 12 tháng 11 năm 2026.

Về mặt kỹ thuật, thiết kế di chuyển bộ nhớ dung lượng cao vào các kệ chuyên dụng. Sau đó, nhiều máy chủ GPU và CPU có thể truy cập vào bộ nhớ đó thông qua các kết nối tốc độ cao như Compute Express Link (CXL) và RDMA.

CXL cho phép các bộ xử lý xử lý bộ nhớ ngoài như thể nó ở gần, trong khi RDMA cho phép các máy đọc bộ nhớ của nhau mà không cần định tuyến mọi yêu cầu qua bộ xử lý chính.

Các kệ gộp sẽ được đặt cạnh các thiết lập máy chủ hiện có thay vì thay thế chúng.

Phó chủ tịch SK Hynix Joo Young-pyo chỉ ra những bất cập trong cách tiếp cận truyền thống, nơi bộ nhớ băng thông cao được gắn trực tiếp vào từng GPU. Ông cũng ghi nhận sự tiến bộ nhờ phát triển hệ sinh thái chung với các đối tác.

Vấn đề KV cache và câu trả lời 81%

Thiết kế nhắm vào một vấn đề cụ thể: bộ nhớ KV. Đây là bộ nhớ hoạt động mà mô hình AI xây dựng lên khi cuộc trò chuyện hoặc nhiệm vụ diễn ra, và nó tăng nhanh trong quá trình suy luận nhiều vòng.

Việc kiểm tra nội bộ của SK Hynix đã đưa ra con số về mức độ tốn kém của điều đó. Sử dụng eviction và recompute, thời gian trung bình để tạo token đầu tiên là 80,76 giây.

Với CXL DRAM từ xa từ một hồ chung, con số này giảm xuống còn 15,45 giây. Điều này tương đương với mức giảm khoảng 81% độ trễ token đầu tiên.

Tuy nhiên, đây là kết quả nội bộ. SK Hynix cho biết kiến trúc này sẽ được xác minh cùng Intel, khách hàng và các đối tác chiến lược khác, bắt đầu từ giai đoạn thiết kế hệ thống trở đi.

Một đối tác với lịch sử

Đây không phải là lần đầu tiên hai công ty hợp tác về bộ nhớ máy chủ. Vào tháng 12 năm 2025, SK Hynix trở thành nhà cung cấp đầu tiên nhận chứng nhận Intel Data Center cho thanh DDR5 RDIMM 256 GB trên nền tảng Xeon 6.

Module đó đã tăng hiệu suất suy luận lên tới 16%. Nó cũng giảm mức tiêu thụ điện năng khoảng 18%.

Hồ bộ nhớ chia sẻ xây dựng trên mối quan hệ đó và phù hợp với trọng tâm rộng hơn của SK Hynix vào tính toán tập trung vào bộ nhớ. Khung nghiên cứu định vị các CPU của Intel là những người điều phối trong các hệ thống AI mang tính chủ động, điều phối công việc trong khi GPU xử lý các phép tính nặng và bộ nhớ được gộp lại giữ ngữ cảnh ngày càng tăng.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể được lấy từ bên thứ ba và không nhất thiết phản ánh quan điểm hoặc ý kiến của KuCoin. Nội dung này chỉ được cung cấp cho mục đích thông tin chung, không có bất kỳ đại diện hay bảo đảm nào dưới bất kỳ hình thức nào và cũng không được hiểu là lời khuyên tài chính hay đầu tư. KuCoin sẽ không chịu trách nhiệm về bất kỳ sai sót hoặc thiếu sót nào hoặc về bất kỳ kết quả nào phát sinh từ việc sử dụng thông tin này. Việc đầu tư vào tài sản kỹ thuật số có thể tiềm ẩn nhiều rủi ro. Vui lòng đánh giá cẩn thận rủi ro của sản phẩm và khả năng chấp nhận rủi ro của bạn dựa trên hoàn cảnh tài chính của chính bạn. Để biết thêm thông tin, vui lòng tham khảo Điều khoản sử dụng và Tiết lộ rủi ro của chúng tôi.