SK Hynix đang hợp tác với Intel và các đối tác ngành khác để phát triển một cách tiếp cận mới nhằm cung cấp dữ liệu cho các máy chủ AI. Ý tưởng là ngừng việc cung cấp cho mỗi máy một kho bộ nhớ riêng biệt và cho phép chúng chia sẻ một hồ chung.
Sự thúc đẩy này xảy ra khi trí tuệ nhân tạo có tính chất tác nhân, loại phần mềm có thể tự thực hiện các nhiệm vụ nhiều bước, tiếp tục làm tăng nhu cầu về dung lượng bộ nhớ và băng thông.
Điều mà SK Hynix thực sự đề xuất
SK Hynix đã trình bày khái niệm được gọi là hồ bộ nhớ chia sẻ tại Hội nghị AI của Intel ở Seoul vào ngày 12 tháng 11 năm 2026.
Về mặt kỹ thuật, thiết kế di chuyển bộ nhớ dung lượng cao vào các kệ chuyên dụng. Sau đó, nhiều máy chủ GPU và CPU có thể truy cập vào bộ nhớ đó thông qua các kết nối tốc độ cao như Compute Express Link (CXL) và RDMA.
CXL cho phép các bộ xử lý xử lý bộ nhớ ngoài như thể nó ở gần, trong khi RDMA cho phép các máy đọc bộ nhớ của nhau mà không cần định tuyến mọi yêu cầu qua bộ xử lý chính.
Các kệ gộp sẽ được đặt cạnh các thiết lập máy chủ hiện có thay vì thay thế chúng.
Phó chủ tịch SK Hynix Joo Young-pyo chỉ ra những bất cập trong cách tiếp cận truyền thống, nơi bộ nhớ băng thông cao được gắn trực tiếp vào từng GPU. Ông cũng ghi nhận sự tiến bộ nhờ phát triển hệ sinh thái chung với các đối tác.
Vấn đề KV cache và câu trả lời 81%
Thiết kế nhắm vào một vấn đề cụ thể: bộ nhớ KV. Đây là bộ nhớ hoạt động mà mô hình AI xây dựng lên khi cuộc trò chuyện hoặc nhiệm vụ diễn ra, và nó tăng nhanh trong quá trình suy luận nhiều vòng.
Việc kiểm tra nội bộ của SK Hynix đã đưa ra con số về mức độ tốn kém của điều đó. Sử dụng eviction và recompute, thời gian trung bình để tạo token đầu tiên là 80,76 giây.
Với CXL DRAM từ xa từ một hồ chung, con số này giảm xuống còn 15,45 giây. Điều này tương đương với mức giảm khoảng 81% độ trễ token đầu tiên.
Tuy nhiên, đây là kết quả nội bộ. SK Hynix cho biết kiến trúc này sẽ được xác minh cùng Intel, khách hàng và các đối tác chiến lược khác, bắt đầu từ giai đoạn thiết kế hệ thống trở đi.
Một đối tác với lịch sử
Đây không phải là lần đầu tiên hai công ty hợp tác về bộ nhớ máy chủ. Vào tháng 12 năm 2025, SK Hynix trở thành nhà cung cấp đầu tiên nhận chứng nhận Intel Data Center cho thanh DDR5 RDIMM 256 GB trên nền tảng Xeon 6.
Module đó đã tăng hiệu suất suy luận lên tới 16%. Nó cũng giảm mức tiêu thụ điện năng khoảng 18%.
Hồ bộ nhớ chia sẻ xây dựng trên mối quan hệ đó và phù hợp với trọng tâm rộng hơn của SK Hynix vào tính toán tập trung vào bộ nhớ. Khung nghiên cứu định vị các CPU của Intel là những người điều phối trong các hệ thống AI mang tính chủ động, điều phối công việc trong khi GPU xử lý các phép tính nặng và bộ nhớ được gộp lại giữ ngữ cảnh ngày càng tăng.




