Seorang penyelidik yang menulis di bawah nama samaran Zeitgeist mengatakan bahawa permintaan untuk memori untuk kecerdasan buatan melebihi apa yang boleh dihasilkan oleh dunia pada masa ini dengan beberapa ganda. Menurut pandangannya, saham pengilang memori boleh meningkat sepuluh kali ganda daripada paras semasa jika dinilai bukan berdasarkan tertinggi sejarah, tetapi berdasarkan keperluan sebenar untuk pengiraan.
Zeitgeist memberikan contoh yang menarik: pelaburan sebanyak $50,000 dalam saham Micron pada September tahun lalu akan bernilai sekitar $489,000 hari ini. Menurutnya, beberapa pelabur bimbang mereka telah terlepas peluang tersebut, sementara yang lain takut menjadi “likuiditi yang digunakan oleh pemain besar untuk keluar dari kedudukan mereka.” Analis mencadangkan untuk melihat peluang ini dari sudut yang berbeza, melalui aritmetik permintaan memori.
Mengapa Memori Telah Menjadi Penghalang
Setiap akselerator dilengkapi dengan jumlah tetap memori berkelajuan tinggi, dikenali sebagai HBM, yang tidak boleh diperluaskan. Menurut analis, cip H100 standard hanya membawa 80 GB, generasi lebih baharu menawarkan sehingga 192 GB, dan B300 masa depan akan memiliki 288 GB. Batas ini menentukan berapa banyak permintaan yang boleh ditangani oleh satu akselerator.
Beban utama tidak datang daripada berat model itu sendiri, tetapi daripada cache KV yang dipanggil: memori sesi yang bertambah dengan setiap perkataan yang dihasilkan. Menurut pengiraan Zeitgeist, satu sesi dengan konteks 128,000 token memerlukan sekitar 20 GB memori. Hanya empat sesi seperti ini akan menghabiskan sepenuhnya sumber daya satu H100.
Penggunaan memori setiap sesi bergantung pada saiz tingkap konteks, dan bilangan sesi setiap akselerator H100. Sumber: Zeitgeist
Untuk model lanjutan seperti Claude Opus 4.8 atau GPT-5.5, keperluannya lebih tinggi lagi: dari 40 GB hingga 100 GB untuk satu permintaan panjang. Menurut analis, inilah sebabnya setiap gigabyte memori tambahan bernilai seberat emas, sementara pengilang seperti Micron dan SK Hynix secara fizikal tidak mampu meningkatkan pengeluaran dengan cukup pantas.
Kesan Agen AI Dan Kesenjangan Permintaan
Menurut Zeitgeist, perubahan utama ialah peralihan daripada chatbot ringkas kepada agen AI. Walaupun soalan biasa hampir tidak memberi beban kepada ingatan, agen yang secara bebas memanggil alat dan mengumpul konteks boleh dengan mudah mencapai 100,000 token atau lebih. Seorang pekerja pengetahuan tunggal yang menjalankan sepuluh agen sedemikian secara serentak akan memerlukan sekitar 152 GB ingatan.
Penggunaan memori puncak per pekerja pengetahuan semasa perbualan selari dan sesi agen. Sumber: Zeitgeist
Analis itu mencatat bahawa terdapat sekitar 250 juta pekerja pengetahuan di seluruh dunia. Jika nombor itu didarabkan dengan bilangan sesi agen serentak, permintaan memori bukan sahaja meningkat, ia “meletup.” Menurut anggarannya, dengan 100 sesi agen setiap orang sehari, dunia akan memerlukan kira-kira 60 kali lebih banyak memori berbanding jumlah yang akan dihasilkan pada 2026.
Zeitgeist mengakui bahawa algoritma akan mengurangkan penggunaan memori dari masa ke masa, dengan "kaedah perhatian" baharu yang mampu mengurangkan beban sebanyak empat hingga lapan kali. Tetapi menurut pandangannya, permintaan sedang meningkat jauh lebih pantas: agen sedang menggantikan perbualan ringkas, tingkap konteks sedang mengembang dari 128.000 kepada 10 juta token, dan penggunaan AI oleh setiap pekerja sedang bergerak dari sifar ke ratusan sesi.
Menurut analis, dalam dunia di mana model bahasa "ditenun ke dalam setiap aspek kehidupan harian", memori menjadi sumber daya yang penting. Di bawah ramalannya, syarikat-syarikat yang menghasilkannya akan menghasilkan pendapatan yang belum pernah terjadi sebelumnya.
SK Hynix Melampaui Samsung Sebagai Permintaan Memori AI Meningkat
Skala ledakan memori AI sudah mengubah pasaran cip. Pembuat memori Korea Selatan, SK Hynix, telah melebihi Samsung sebagai syarikat yang disenaraikan paling bernilai di negara itu, didorong oleh kedudukannya yang kuat dalam cip memori berpemandu tinggi yang digunakan untuk beban kerja kecerdasan buatan.
Untuk Zeitgeist, peralihan ini menyokong teasis yang lebih luas bahawa penghasil memori sedang menjadi salah satu penerima faedah terbesar dalam perlumbaan infrastruktur AI. Seiring permintaan untuk HBM meningkat lebih pantas daripada bekalan, syarikat yang mampu menghasilkan cip memori canggih boleh melihat pendapatan dan penilaian mereka meningkat dengan ketara.