Persaingan infrastruktur AI sedang meluas dari GPU ke tahap memori. Perusahaan startup chip yang beroperasi di Korea dan AS, XCENA, menyelesaikan pendanaan Seri B senilai $135 juta, dengan valuasi pasca-investasi sebesar $570 juta. Perusahaan percaya bahwa tekanan biaya pada tahap inferensi AI generatif tidak hanya berasal dari chip komputasi, tetapi juga dari proses pemindahan data berulang-ulang antara CPU, GPU, dan memori.
Valuasi setelah pendanaan naik menjadi $570 juta
Setelah putaran pendanaan ini, total pendanaan XCENA mencapai US$185 juta. Perusahaan didirikan bersama oleh CEO Jin Kim, CTO Dohun Kim, dan CPO Harry Juhyun Kim, yang semuanya pernah bekerja di Samsung Electronics dan SK Hynix. Kedua perusahaan ini merupakan pemasok chip penyimpanan utama di dunia dan bagian penting dari rantai pasok GPU NVIDIA.
TechCrunch melaporkan bahwa XCENA berpendapat bahwa AI inference sedang berpindah dari "masalah kekuatan komputasi" menjadi "masalah ekspansi memori". Seiring dengan setiap token yang dihasilkan oleh model memerlukan pemanggilan konteks, cache, dan proses pra-pemrosesan, data berpindah bolak-balik di antara berbagai chip, menimbulkan latensi tambahan, konsumsi daya, dan biaya perangkat keras.
Chip memindahkan sebagian perhitungan lebih dekat ke memori
Produk XCENA bernama MX1, yang saat ini masih berada dalam tahap prototipe. Chip ini terhubung ke CPU melalui CXL, memindahkan sebagian tugas pemrosesan data ke posisi yang lebih dekat dengan DRAM, mengurangi perjalanan data antara CPU, GPU, dan memori.
Perusahaan menyatakan bahwa tugas-tugas semacam ini mencakup pra-pemrosesan, manajemen cache KV, dan cache data. Menurut mereka, pekerjaan yang awalnya mungkin memerlukan 10 server dapat dikompresi menjadi hanya satu server dalam skenario tertentu. Namun, efek ini masih perlu diverifikasi melalui penerapan skala besar.
Rencana produksi massal akhir 2026
XCENA memperkirakan chip produksi massal akan keluar dari lini produksi Samsung Foundry pada akhir 2026 dan mulai menghasilkan pendapatan pada 2027. Pelanggan target saat ini perusahaan adalah penyedia layanan cloud skala besar yang menginvestasikan ratusan miliar dolar AS per tahun dalam infrastruktur AI, karena bahkan peningkatan kecil dalam efisiensi memori dapat menghasilkan penghematan biaya dalam miliaran dolar AS.
Perusahaan menyatakan bahwa sejak semester kedua tahun lalu, permintaan pasar terhadap solusi memori telah meningkat signifikan, dan saat ini telah melakukan kontak awal dengan beberapa produsen penyimpanan global, tetapi tidak mengungkapkan daftar spesifiknya.
Pesaingnya termasuk Astera Labs dan Marvell
Dalam lanskap persaingan, XCENA memandang Astera Labs dan Marvell sebagai pesaing dekat. Kedua perusahaan tersebut sedang mengembangkan solusi interkoneksi memori generasi berikutnya, dengan Marvell sudah menjadi perusahaan publik yang mapan.
XCENA percaya bahwa perbedaan utamanya terletak pada arsitektur internal chip. Perusahaan menyatakan bahwa solusinya berbasis RISC-V, menggunakan sejumlah besar inti pemrosesan data kecil, serta mengembangkan sendiri hierarki memori, bus interkoneksi, dan controller DRAM, alih-alih mengoutsourcing tahapan-tahapan ini kepada pihak ketiga.
Putaran pendanaan ini dipimpin bersama oleh lembaga modal ventura Korea, Altinum dan IMM Investment, dengan partisipasi dari Corstone Asia serta investor lama SBI Investment dan Future Asset Capital. XCENA saat ini memiliki kantor di Panqiao, Korea, dan Sunnyvale, Amerika Serikat, dengan total lebih dari 90 karyawan, dan sedang membahas pendanaan lanjutan dengan investor internasional.