Di WAIC 2026, syarikat infrastruktur AI Singapura, Acrab, melancarkan Agent Box dan cip GΞLIX 1, yang bertujuan untuk menyediakan asas pengiraan untuk Agentic AI di sisi peranti. Berbeza dengan cip AI tradisional, GΞLIX 1 menekankan kerjasama heterogen antara CPU dan NPU, arsitektur memori seragam, dan pengoptimuman Prefill, dengan menyediakan kekuatan pengiraan 700 TOPS dan lebar pita memori 273GB/s. CEO Ken Phua berpendapat bahawa AI telah memasuki era pengiraan heterogen, di mana CPU kembali berada di pusat, dan Acrab telah memperoleh pendanaan lebih daripada US$350 juta. AI di sisi peranti sedang berpindah dari "menjalankan satu model" kepada "menjalankan sistem pintar secara berterusan", dan persaingan sebenar terletak pada kemampuan integrasi penuh antara cip, stak perisian, dan ekosistem Agent.Penulis artikel, sumber: XinZhiYuan
Agentic AI sepatutnya berjalan di atas infrastruktur pengiraan yang seperti apa?
Beberapa hari berlalu, salah satu konsep paling ramai di WAIC 2026—Agent Computer—mulai berubah dari sensasi di stan menjadi satu masalah kejuruteraan yang sebenarnya.
Menjalankan model besar secara tempatan pada satu peranti sudah bukan bahagian yang paling sukar. Yang lebih sukar ialah, apabila Agen perlu membaca fail secara berterusan, menyimpan memori, memanggil alat, dan berjalan secara latar belakang dalam jangka masa panjang, sama ada cip mampu mengekalkan kestabilan di bawah sekatan kuasa, latensi, dan kos.
Ini akan mengubah cara penilaian cip sisi peranti. TOPS, parameter model, dan Token per saat masih penting, tetapi jika lebar pita memori tidak mencukupi, CPU dan NPU tidak berkoordinasi dengan baik, atau stak perisian tidak mampu mengekalkan keadaan tugas, puncak yang paling cantik sekalipun mungkin hanya cukup untuk menyelesaikan satu Demo.
Kami memperhatikan bahawa seminggu ini, syarikat Singapura Acrab telah mengadakan pelancaran dalam talian dan melancarkan Agent Box, yang mungkin memberikan contoh yang boleh dianalisis.
Dalam acara pelancaran ini, syarikat Infra AI menampilkan Prefill, memori seragam, kerjasama hibrid CPU-NPU, dan pengaturan Agen secara serentak.
Kata kunci-kata ini menunjukkan satu penilaian yang sama: AI sisi peranti sedang bergerak dari "menjalankan satu model" kepada "menjalankan sistem pintar secara berterusan".
Yang perlu diselesaikan oleh cip bukan lagi hanya sama ada kuasa pengiraan mencukupi, tetapi bagaimana data mengalir, tugas disusun, dan perisian serta peranti keras bekerjasama secara berterusan.
Jadi, apabila keramaian WAIC dan pelancaran produk baharu, serta tren industri perlahan-lahan mereda, soalan yang benar-benar patut ditanyakan menjadi lebih jelas: Apakah yang perlu ditukar semula pada cip sisi hujung apabila Agent berubah daripada satu panggilan tunggal kepada pekerjaan berterusan?
Dari satu penarikan logik kepada kerja berterusan
Agen mengubah beban sisi peranti
Rumah chat biasanya menyelesaikan satu putaran soal-jawab. Selepas menerima tugas, agen mungkin terlebih dahulu mencari maklumat, membaca fail, kemudian memanggil kod, pelayar, kalender, atau perisian pejabat; selepas menyelesaikan sebahagian, ia memeriksa keputusan, menyimpan status tugas, dan menunggu pemicu seterusnya. Satu tugas sering melibatkan beberapa putaran panggilan model, serta berpindah-pindah antara pelbagai model, alat, dan aplikasi.
Acrab menunjukkan satu alur tugas yang relatif lengkap dalam acara pelancaran: pengguna mengusulkan keinginan untuk membuat hadiah bertema angkasa untuk anak mereka, sistem seterusnya memberikan idea, membantu memilih pilihan, memanggil alat yang berkaitan, dan mengikuti kemajuan pembuatan; apabila berlaku keadaan baru dalam persekitaran, ia boleh menyambungkan peranti pintar lain untuk mengendalikannya.
Makna demonstrasi ini bukan terletak pada seberapa pintar satu jawapan, tetapi sama ada bahasa semula jadi boleh ditukar menjadi siri tindakan berterusan. Bagi sistem komputasi, Agen tidak lagi hanya «memanggil model sekali», tetapi berterusan berpindah antara model, data, perisian dan peranti.
Cara kerja ini pertama-tama memperbesar pembahagian tugas antara hujung dan awan.
Kos untuk satu推理 mungkin tidak tinggi, tetapi apabila panggilan menjadi kerap dan berterusan, Token akan berubah daripada indikator teknikal kepada bil sebenar; satu tunggu rangkaian mungkin hanya memberi kesan terhadap perbualan, tetapi apabila dimasukkan ke dalam tugas berperingkat, ia akan bertambah secara bertahap; Agent perlu menguasai konteks peribadi yang lebih lengkap, dan data yang berulang kali berpindah ke awan juga akan memperluaskan permukaan eksposur.
Oleh itu, sisi peranti dan awan bukanlah pilihan antara satu atau yang lain. Struktur yang lebih realistik ialah: tugas-tugas berfrekuensi tinggi, sensitif terhadap privasi, memerlukan respons pantas dan penyimpanan status jangka panjang sebaik mungkin dikekalkan secara tempatan; manakala penarikan akal yang kompleks melampaui sempadan peranti akan memanggil sumber awan.
Perubahan sebenarnya ialah, sisi end tidak lagi hanya menjalankan inferensi model sekali sahaja, tetapi harus menjalankan sistem pintar yang tidak boleh dihentikan dengan mudah.
Ia perlu menjalankan model besar, memproses konteks panjang, tugas berganda, dan pemanggilan alat; prestasi mesti cukup kuat, sambil mengawal penggunaan kuasa dan kos, serta ekosistem Runtime, alat, dan Agent perlu berjalan serentak.
Model sisi-end menyelesaikan sama ada model boleh dimuatkan ke dalam peranti, manakala Agentic AI pula menyelesaikan sama ada model, memori, alat, dan aplikasi boleh bekerjasama secara jangka panjang di dalam peranti.
Hanya menumpuk NPU tidak cukup
CPU, memori, dan tumpukan perisian mesti dibuat semula bersama-sama
Dahulu, dengan menambahkan NPU ke dalam CPU atau SoC, peranti boleh memperoleh kemampuan AI seperti pengenalan suara dan pemprosesan imej. Tetapi apabila Agent berubah daripada fungsi tambahan menjadi inti peranti, peningkatan mudah dalam keupayaan pengiraan puncak sudah tidak mencukupi.
Sebabnya ialah, Agent bukanlah satu rantai inferensia saraf tetap. Pengiraan selari berskala besar sesuai untuk diberikan kepada NPU, manakala pemecahan tugas, penilaian bersyarat, pengagihan sistem, panggilan alat, penanganan pengecualian, dan kerjasama pelbagai sistem sangat bergantung kepada CPU. Semakin dinamik laluan tugas, semakin penting koordinasi antara CPU dan NPU.
CEO Acrab, Ken Phua, merangkum perubahan ini sebagai: "CPU kembali ke pusat era AI."
Dalam penilaian beliau, AI sedang memasuki persekitaran pengiraan heterogen, di mana prestasi pelaksanaan tidak hanya bergantung pada prestasi NPU, tetapi lebih kepada sama ada CPU dan NPU dapat bekerjasama secara lancar.
Ini juga salah satu garis tim Acrab yang layak dikembangkan.
Ken Phua sebelum ini memimpin pasukan kejuruteraan aplikasi Asia Pasifik di Arm UK dan menyertai pembentukan strategi IP global, sebelum menjadi CEO bersama Arm China.
Makna pengalaman ini bukan sekadar rekod industri, tetapi menjelaskan mengapa syarikat ini telah mentakrif semula beban kerja Agent dari persimpangan arsitektur CPU, pengiraan heterogen, dan keperluan aplikasi sebenar.
Acrab tidak mentakrifkan GΞLIX 1 sebagai pemproses AI tradisional, tetapi sebagai platform pengiraan untuk era AI sisi hujung.
Sisi peranti keras berpusat pada GΞLIX 1; sisi perisian merangkumi model besar, Runtime yang dioptimakan, rangkaian alat lengkap, serta lapisan pengaturan Agent yang menghubungkan model, alat, peranti, dan perkhidmatan; berdasarkan ini, syarikat juga menyediakan reka bentuk rujukan Agent untuk senario typikal, membantu pembangun dan rakan ekosistem membina aplikasi dengan lebih pantas.
Agent Box pula merupakan pertama kalinya platform perisian dan peranti ini muncul dalam bentuk produk lengkap. Ia didefinisikan sebagai Pusat AI Peribadi, yang mampu menjalankan model berskala seribu miliar parameter secara tempatan, dan tetap mempertahankan kemampuan utama walaupun tanpa sambungan internet.
Acrab diambil dari huruf pertama Agentic Compute, Reasoning, Action, dan Brain, dan juga merupakan nama sistem bintang ganda dalam astronomi—sebagaimana falsafah rekaannya: membolehkan unit komputasi yang berbeza beroperasi secara bersama-sama seperti sistem bintang.
Perusahaan menetapkan tujuan ini untuk menciptakan otak yang mampu berpikir dan bertindak bagi Agent, serta membina platform komputasi generasi berikutnya.
Acrab, yang berpusat di Singapura, telah mengumpulkan pendanaan lebih dari US$350 juta, dengan pelabur termasuk Vertex (Xiangfeng Investment), platform modal ventura global di bawah Temasek, dan K3 Ventures, institusi pelaburan teknologi terkenal di Singapura.
Platform pengiraan generasi pertamanya, GΞLIX, telah berjaya diverifikasi dalam persekitaran pelaksanaan sebenar yang menuntut, dan kini sedang menuju kepada pengenalan industri pertama dan penghasilan berskala besar.
Pembiayaan boleh memberi masa untuk merombak semula, tetapi yang menentukan sama ada rancangan itu berjaya tetaplah sama ada sistem tersebut dapat disampaikan.
Dari sudut pandang ini, "CPU kembali ke pusat" tidak bermaksud bahawa NPU tidak lagi penting.
Sebaliknya, ia bermaksud pengiraan AI telah menjadi begitu kompleks sehingga tidak lagi boleh bergantung kepada satu akselerator terasing untuk menyelesaikan semua masalah.
Di luar 700 TOPS
Prefill dan laluan data menentukan pengalaman sebenar
Sering kali, bottleneck dalam inferens model besar bukan hanya kerana unit pengiraan tidak cukup pantas, tetapi kerana data tidak sampai ke unit pengiraan pada masanya.
Walaupun cip mempunyai kekuatan pengiraan puncak yang tinggi, jika lebar pita memori tidak seiring, NPU masih perlu berhenti dan menunggu.
Agen akan memperburuk masalah pemindahan data. Ia perlu membaca rekod sejarah secara kerap, mentransfer data antara model dan perisian yang berbeza, serta menyimpan status tugas secara berterusan. Setiap salinan menambahkan latensi dan penggunaan kuasa; semakin lama tugas berjalan, semakin penting rekabentuk sistem.
Fokus rekaan GΞLIX 1 ialah mengekalkan data yang diperlukan oleh model sedekat mungkin dengan unit pengiraan, serta mengurangkan perpindahan berulang antara CPU, NPU, memori, dan sistem operasi yang berbeza.
Mengikut arsitektur yang diumumkan oleh Acrab, GΞLIX 1 menyediakan kekuatan AI melebihi 700 TOPS dan lebar pita memori seragam 273 GB/s, dengan konfigurasi dalam cip termasuk 8MB L1 Cache, shared L2 Cache dengan lebar pita 768 GB/s, empat inti NPU selari, serta modul akselerasi khas yang direka untuk pengiraan Attention.
Acrab mengatakan yang terakhir boleh meningkatkan kecekapan pengiraan berkaitan sehingga tiga kali ganda.
Cache pada cip yang lebih besar membolehkan data penting berada lebih dekat dengan unit pengiraan; Cache L2 bersama membolehkan parameter dan ciri sementara dibahagikan secara efisien antara unit pengiraan; arsitektur memori seragam mengurangkan salinan data yang tidak perlu antara model, sistem pengendalian, dan aplikasi.
Acrab juga menggunakan arsitektur memori seragam multi-sistem, membolehkan sistem operasi yang berbeza berkongsi memori dengan lebih cekap. Bagi peranti yang hanya menjalankan satu model, ini mungkin hanya peningkatan kecekapan; tetapi bagi Agen yang perlu berterusan berpindah antara aplikasi dan alat, ia akan secara langsung mempengaruhi sama ada tugas boleh diproses dengan lancar.
Ini juga menjelaskan mengapa Acrab meletakkan Prefill di pusat pelancaran. Agens sering perlu memproses semula maklumat tambahan apabila memperkenalkan fail baru, memulihkan status tugas, atau mengemas kini konteks. Semakin panjang rantai tugas, semakin ketara kesan kecekapan Prefill terhadap pengalaman keseluruhan.
Dalam satu set ujian sendiri yang diungkapkan oleh Acrab, GΞLIX 1 menjalankan model Gemma dengan 26 miliar parameter, menggunakan KV Cache 40K dan input 10,000 token, dengan kelajuan Prefill melebihi 1,416 token per saat; pada beban yang sama, prestasinya lebih daripada 7 kali ganda berbanding platform desktop umum utama.
Acrab juga membandingkan GΞLIX 1 dengan platform komputasi AI desktop sejenis dalam kerangka ujian yang sama.
Data menunjukkan bahawa GΞLIX 1 memasuki julat prestasi yang serupa dalam dua indikator utama, Prefill dan Decode, sambil menunjukkan penggunaan kuasa yang lebih rendah dan kos mesin yang lebih kompetitif.
Acrab memilih menekankan prefill dan laluan data, yang secara intrinsik mencerminkan pendekatan produk: cip Agent sisi hujung tidak boleh hanya mengejar seberapa pantas model menghasilkan output, tetapi juga harus menyelesaikan sama ada model mampu membaca konteks panjang dengan pantas, memulihkan status tugas, dan memulakan kerja.
Pengguna tidak akan memperhatikan berapa banyak lapisan cache yang dilalui dalam satu rantai penalaran, dan tidak akan memeriksa TOPS sebelum setiap interaksi. Yang benar-benar dirasakan pengguna hanyalah tiga perkara: sama ada ia mampu memahami dengan cepat, mampu beroperasi secara berterusan, dan sama ada ia cukup bernilai untuk dimiliki.
Dari cip ke platform
Persaingan sebenar berada di luar parameter
Agent Computer, pusat AI peribadi, dan peranti sisi perusahaan yang muncul di WAIC tahun ini belum membentuk bentuk produk yang seragam.
Skenario rumah lebih menekankan ingatan peribadi, kandungan, dan kerjasama peranti, manakala skenario perniagaan lebih memperhatikan perpustakaan pengetahuan, pemprosesan fail, dan keselamatan data dalaman. Permintaan pelanggan yang berbeza terhadap saiz model, kapasiti memori, penggunaan kuasa, dan antaramuka sangat berbeza.
Semakin terpecah-pecah terminal, semakin sukar untuk membuat platform pengiraan. Satu cip tidak mungkin hanya bergantung pada parameter untuk menutupi semua skenario; ia juga perlu menyediakan Runtime, penyesuaian model, alat pembangunan, dan kerangka Agent untuk membantu pelanggan menukar kuasa pengiraan asas menjadi produk yang boleh diserahkan.
Ini juga merupakan soal tambahan yang dimiliki cip Agentic AI berbanding cip inferensia biasa: prestasi cip menentukan sama ada model boleh dijalankan, stak perisian menentukan sama ada pembangun boleh menggunakannya, dan ekosistem Agent menentukan tugas akhir yang boleh diselesaikan oleh peranti. Sebarang lapisan yang hilang mungkin membuatkan cip dengan parameter yang menarik tetap berada pada peringkat Demo.
Acrab cuba mengambil alih semua peringkat ini sekaligus. Kelebihannya ialah definisi produk lebih lengkap, tetapi risikonya juga jelas: garis perang yang panjang.
Cip perlu membuktikan prestasi, kestabilan, dan kemampuan penghantaran berskala, stak perisian perlu mengejar iterasi pantas model, dan lapisan pengaturan Agen perlu kompatibel dengan alat dan aplikasi yang terus berubah. Selepas fail peribadi dan ingatan jangka panjang disimpan secara tempatan, pengasingan kebenaran, keselamatan plugin, dan audit operasi juga mesti diselesaikan secara serentak.
Oleh itu, sama ada Acrab mampu menjadi platform pengiraan di era Agentic AI akhirnya tidak bergantung pada berapa banyak token yang dipaparkan semasa sidang akhbar, atau berapa banyak tugas yang boleh didemonstrasikan oleh Agent Box.
Pengesahan yang lebih penting ialah: adakah pembangun mampu menghasilkan produk dengan pantas di atas platform ini; adakah prestasi, penggunaan tenaga, dan kestabilan Agent masih terjaga selepas beroperasi berjam-jam; adakah perisian dan peranti keras asas mampu mengikuti perubahan model dan kerangka Agent.
Inovasi arsitektur menentukan hadapan kemampuan sebuah syarikat cip, manakala kejuruteraan dan ekosistem menentukan sama ada hadapan ini boleh diubah menjadi pesanan.
Kehadiran terminal baru yang padat di WAIC menunjukkan bahawa industri sedang bergerak dari "menjalankan model besar" ke "memastikan Agent berfungsi secara berterusan". Tahap sebelumnya berfokus pada kuasa pengiraan, memori, dan saiz model; tahap seterusnya perlu menyelesaikan konteks panjang, ingatan peribadi, pemanggilan alat, dan kerjasama pelbagai tugas.
Acrab menempatkan tumpuan pada perubahan ini.
Agent Box bukanlah titik akhir, tetapi ujian terbuka terhadap kemampuan platform.
Cip sisi hujung perlu 'dibuat semula', bukan kerana TOPS tidak penting, tetapi kerana Agent sedang mengalihkan pengiraan daripada nombor puncak kepada kemampuan sistem yang beroperasi secara berterusan. Keberhasilannya akhirnya bergantung kepada sama ada cip, perisian, dan peranti akhir ini boleh dimasukkan ke dalam alur kerja sebenar.