SK Hynix sedang bekerja bersama Intel dan rakan industri lain dalam cara baharu untuk memberi tenaga kepada pelayan AI. Idea ini adalah untuk berhenti memberikan setiap mesin simpanan memori sendiri dan membiarkan mereka berkongsi satu kumpulan sepunya.
Pendorong ini muncul kerana AI agen, jenis perisian yang menjalankan tugas pelbagai langkah secara sendiri, terus meningkatkan permintaan untuk kapasiti memori dan lebar pita.
Apa yang sebenarnya dicadangkan oleh SK Hynix
SK Hynix mempersembahkan konsep, dipanggil shared memory pool, di Intel AI Summit di Seoul pada 12 November 2026.
Dalam istilah teknikal, reka bentuk memindahkan memori berkapasiti tinggi ke dalam rak yang ditetapkan. Beberapa pelayan GPU dan CPU kemudian boleh mencapai memori tersebut melalui sambungan berkelajuan tinggi seperti Compute Express Link (CXL) dan RDMA.
CXL membolehkan pemproses memperlakukan memori luaran seolah-olah ia berdekatan, manakala RDMA membolehkan mesin-mesin membaca memori satu sama lain tanpa menghala setiap permintaan melalui pemproses utama.
Rak yang dikelompokkan akan diletakkan bersebelahan dengan pengaturan server yang sedia ada, bukan menggantikannya.
Vice President SK Hynix, Joo Young-pyo, menunjukkan ketidakefisienan dalam pendekatan tradisional, di mana memori berpemandu tinggi dipasang secara langsung ke setiap GPU. Beliau juga mengaitkan kemajuan kepada pembangunan ekosistem bersama dengan rakan kongsi.
Masalah cache KV, dan jawapan 81%
Reka bentuk ini menargetkan satu masalah khusus: cache KV. Ini adalah ingatan kerja yang dibina oleh model AI semasa perbualan atau tugas berlaku, dan ia bertambah pantas semasa inferens berbilang giliran.
Pengujian dalaman SK Hynix memberikan nombor tentang betapa mahalnya ia boleh menjadi. Dengan menggunakan eviksi dan recompute, masa purata kepada token pertama ialah 80.76 saat.
Dengan CXL DRAM jarak jauh dari kumpulan bersama, angka itu turun kepada 15.45 saat. Ini bersamaan dengan pengurangan kira-kira 81% dalam latensi token pertama.
Ini adalah hasil dalaman. SK Hynix mengatakan arsitektur akan divalidasi bersama Intel, pelanggan, dan rakan strategik lain, bermula daripada fasa reka bentuk sistem ke atas.
Kerjasama dengan sejarah
Ini bukan kali pertama kedua syarikat bekerjasama dalam memori pelayan. Pada Disember 2025, SK Hynix menjadi penjual pertama yang menerima sijil Pusat Data Intel untuk RDIMM DDR5 256 GB di platform Xeon 6.
Modul itu meningkatkan prestasi inferens sehingga sebanyak 16%. Ia juga mengurangkan penggunaan kuasa sebanyak kira-kira 18%.
Kumpulan memori bersama membangun hubungan itu dan selari dengan fokus luas SK Hynix pada komputasi berasaskan memori. Kerangka penyelidikan menempatkan CPU Intel sebagai pengatur dalam sistem AI agen, mengkoordinasikan kerja sementara GPU menangani pengiraan berat dan memori terkumpul menyimpan konteks yang semakin membesar.




