Tại WAIC 2026, công ty cơ sở AI Singapore Acrab đã ra mắt Agent Box và chip GΞLIX 1, nhằm cung cấp nền tảng tính toán cho Agentic AI tại biên. Khác với các chip AI truyền thống, GΞLIX 1 nhấn mạnh sự phối hợp dị cấu giữa CPU và NPU, kiến trúc bộ nhớ thống nhất và tối ưu hóa Prefill, mang lại hiệu năng 700 TOPS và băng thông bộ nhớ 273GB/s. CEO Ken Phua cho rằng AI đã bước vào thời kỳ tính toán dị cấu, khi CPU quay trở lại vị trí trung tâm; Acrab đã huy động được hơn 350 triệu USD. AI tại biên đang chuyển từ “chạy một mô hình” sang “chạy lâu dài một hệ thống thông minh”, và cuộc cạnh tranh thực sự nằm ở khả năng tích hợp toàn diện giữa chip, phần mềm stack và hệ sinh thái Agent.Tác giả bài viết, nguồn: NewZeYuan
Agentic AI nên chạy trên nền tảng tính toán nào?
Sau vài ngày, một trong những khái niệm đông đúc nhất tại WAIC 2026 – Agent Computer – đã bắt đầu từ cảm giác mới mẻ trên gian hàng trở thành một bài toán kỹ thuật thực sự.
Việc chạy mô hình lớn trên một thiết bị tại chỗ đã không còn là phần khó nhất. Khó hơn là khi Agent cần liên tục đọc tệp, lưu trữ bộ nhớ, gọi công cụ và chạy nền trong thời gian dài, liệu chip có thể duy trì sự ổn định trong các ràng buộc về công suất, độ trễ và chi phí hay không.
Điều này sẽ thay đổi cách đánh giá chip đầu cuối. TOPS, tham số mô hình và Token mỗi giây vẫn quan trọng, nhưng nếu băng thông bộ nhớ không theo kịp, CPU và NPU phối hợp không nhịp nhàng, hoặc stack phần mềm không duy trì được trạng thái tác vụ, thì ngay cả đỉnh cao đẹp nhất cũng chỉ đủ để thực hiện một lần demo.
Chúng tôi nhận thấy rằng, trong tuần này, công ty Singapore Acrab đã tổ chức một buổi ra mắt trực tuyến và giới thiệu Agent Box, có thể cung cấp một mẫu để phân tích.
Trong buổi ra mắt này, công ty cơ sở hạ tầng AI đã đồng thời giới thiệu các tính năng Prefill, bộ nhớ thống nhất, hợp tác dị cấu CPU-NPU và sắp xếp Agent.
Các từ khóa này chỉ ra cùng một kết luận: AI đầu cuối đang chuyển từ việc “chạy một mô hình” sang “chạy lâu dài một hệ thống thông minh”.
Vấn đề mà chip cần giải quyết giờ đây không còn chỉ là đủ sức tính toán, mà là làm thế nào để dữ liệu lưu thông, cách thức phân bổ nhiệm vụ, và làm sao để phần mềm và phần cứng phối hợp liên tục.
Vì vậy, khi sự sôi động của WAIC cùng các sản phẩm mới và xu hướng ngành dần lắng xuống, những câu hỏi thực sự đáng để đặt ra trở nên rõ ràng hơn: Khi Agent chuyển từ việc gọi một lần sang hoạt động liên tục, thì chip đầu cuối cần được thiết kế lại những gì?
Từ một lần suy luận đến làm việc liên tục
Agent đã thay đổi tải phía thiết bị
Trí tuệ nhân tạo thường hoàn thành một vòng hỏi đáp. Sau khi nhận một nhiệm vụ, Agent có thể trước tiên tìm kiếm tài liệu, đọc tệp, sau đó gọi mã, trình duyệt, lịch hoặc phần mềm văn phòng; sau khi hoàn thành một phần, nó kiểm tra kết quả, lưu trạng thái nhiệm vụ và chờ kích hoạt tiếp theo. Một nhiệm vụ thường liên quan đến nhiều vòng gọi mô hình và liên tục chuyển đổi giữa các mô hình, công cụ và ứng dụng khác nhau.
Acrab đã trình bày một quy trình nhiệm vụ tương đối hoàn chỉnh trong buổi ra mắt: người dùng đề xuất muốn tạo một món quà chủ đề không gian cho con cái, hệ thống sau đó đưa ra ý tưởng, hỗ trợ lựa chọn phương án, gọi các công cụ liên quan và theo dõi tiến độ sản xuất; khi có tình huống mới phát sinh trong môi trường, nó có thể kết nối với các thiết bị thông minh khác để xử lý.
Ý nghĩa của bản trình diễn này không nằm ở việc một câu trả lời nào đó thông minh đến đâu, mà ở việc một câu ngôn ngữ tự nhiên có thể được chuyển đổi thành một chuỗi hành động liên tục hay không. Đối với các hệ thống tính toán, Agent không còn chỉ là “gọi một lần mô hình”, mà liên tục chuyển đổi giữa mô hình, dữ liệu, phần mềm và thiết bị.
Cách làm việc này đầu tiên là tăng cường sự phân công giữa đầu cuối và đám mây.
Chi phí cho mỗi lần suy luận có thể không cao, nhưng khi các lệnh gọi trở nên thường xuyên và liên tục, Token sẽ từ chỉ số kỹ thuật trở thành hóa đơn thực tế; một lần chờ mạng ảnh hưởng hạn chế đến cuộc trò chuyện, nhưng khi đưa vào các tác vụ nhiều bước, nó sẽ tích lũy dần theo từng cấp độ; Agent cần nắm bắt ngữ cảnh cá nhân đầy đủ hơn, dữ liệu liên tục truyền đi truyền về trên đám mây cũng sẽ mở rộng diện tích tiếp xúc.
Do đó, thiết bị đầu cuối và đám mây không phải là hai lựa chọn loại trừ lẫn nhau. Cấu trúc thực tế hơn là: các tác vụ có tần suất cao, nhạy cảm về quyền riêng tư, cần phản hồi nhanh và duy trì trạng thái lâu dài nên được giữ lại tại chỗ; các phép suy luận phức tạp vượt quá giới hạn khả năng của thiết bị mới được gọi đến tài nguyên đám mây.
Sự thay đổi thực sự nằm ở việc thiết bị đầu cuối không còn chỉ thực hiện một lần suy luận mô hình, mà phải chịu trách nhiệm vận hành một hệ thống thông minh không thể ngắt quãng dễ dàng.
Nó vừa phải chạy các mô hình lớn, vừa xử lý ngữ cảnh dài, đa nhiệm và gọi công cụ; hiệu năng phải đủ mạnh, đồng thời tiêu thụ năng lượng và chi phí không được mất kiểm soát, đồng thời hệ sinh thái Runtime, công cụ và Agent cũng phải đi kèm kịp thời.
Mô hình quy mô lớn tại cạnh thiết bị giải quyết vấn đề liệu mô hình có thể được cài đặt vào thiết bị hay không, trong khi Agentic AI nhằm giải quyết vấn đề liệu mô hình, bộ nhớ, công cụ và ứng dụng có thể phối hợp lâu dài trong thiết bị hay không.
Chỉ tích lũy NPU là chưa đủ
CPU, bộ nhớ và stack phần mềm phải được làm lại cùng nhau
Trước đây, chỉ cần thêm một NPU vào CPU hoặc SoC là đã có thể mang lại cho thiết bị các khả năng AI như nhận diện giọng nói, xử lý hình ảnh. Nhưng khi Agent chuyển từ chức năng phụ thành cốt lõi của thiết bị, việc đơn giản tăng cường khả năng tính toán đỉnh đã không còn đủ.
Lý do là vì Agent không phải là một chuỗi suy luận thần kinh cố định. Tính toán song song quy mô lớn nên giao cho NPU, trong khi việc phân tách nhiệm vụ, đánh giá điều kiện, lập lịch hệ thống, gọi công cụ, xử lý ngoại lệ và hợp tác đa hệ thống lại phụ thuộc rất nhiều vào CPU. Đường đi nhiệm vụ càng động, sự phối hợp giữa CPU và NPU càng quan trọng.
CEO của Acrab, Ken Phua, tóm tắt sự thay đổi này là: "CPU một lần nữa trở lại trung tâm của thời đại AI."
Theo nhận định của anh ấy, AI đang bước vào môi trường tính toán dị hợp, hiệu suất thực thi không chỉ phụ thuộc vào hiệu năng của NPU, mà còn phụ thuộc vào khả năng phối hợp liền mạch giữa CPU và NPU.
Đây cũng là một trong những manh mối đội nhóm đáng để khám phá của Acrab.
Ken Phua từng dẫn dắt đội ngũ kỹ thuật ứng dụng khu vực Châu Á - Thái Bình Dương tại Arm UK và tham gia xây dựng chiến lược IP toàn cầu, sau đó đảm nhiệm vị trí đồng CEO của Arm China.
Kinh nghiệm này không chỉ đơn thuần là một履历 trong ngành, mà còn giải thích lý do tại sao công ty này lại tái định nghĩa tải công việc Agent từ vị trí giao thoa giữa kiến trúc CPU, tính toán dị cấu và nhu cầu ứng dụng thực tế.
Acrab không định nghĩa GΞLIX 1 là một bộ xử lý AI truyền thống, mà coi nó là nền tảng tính toán cho thời đại AI đầu cuối.
Về phần cứng, trung tâm là GΞLIX 1; về phần mềm, bao gồm mô hình lớn, Runtime đã được tối ưu, toàn bộ công cụ và lớp sắp xếp Agent kết nối mô hình, công cụ, thiết bị và dịch vụ; dựa trên nền tảng này, công ty còn cung cấp các thiết kế tham chiếu Agent cho các kịch bản điển hình, giúp các nhà phát triển và đối tác sinh thái xây dựng ứng dụng nhanh hơn.
Agent Box là lần đầu tiên nền tảng phần mềm và phần cứng này xuất hiện dưới dạng sản phẩm hoàn chỉnh. Nó được định nghĩa là Trung tâm AI Cá nhân, có thể chạy các mô hình với hàng tỷ tham số tại chỗ, ngay cả khi không có kết nối mạng.
Acrab được lấy từ các chữ cái đầu của Agentic Compute, Reasoning, Action và Brain, đồng thời cũng là tên của một hệ thống sao đa ngôi trong thiên văn học—đúng như triết lý thiết kế của nó: để các đơn vị tính toán khác nhau hoạt động phối hợp như một hệ thống sao.
Công ty đặt mục tiêu này để xây dựng cho Agent một bộ não có khả năng suy nghĩ và hành động, tạo nên nền tảng tính toán thế hệ tiếp theo.
Acrab, có trụ sở tại Singapore, đã huy động tổng cộng hơn 350 triệu USD, với các nhà đầu tư bao gồm Vertex (Tường Phong Đầu Tư), nền tảng đầu tư mạo hiểm toàn cầu thuộc Temasek, và K3 Ventures, một tổ chức đầu tư công nghệ nổi tiếng của Singapore.
Nền tảng tính toán thế hệ đầu tiên của nó, GΞLIX, đã được xác minh trong các môi trường triển khai thực tế khắt khe và hiện đang tiến tới việc ứng dụng công nghiệp đầu tiên và sản xuất quy mô lớn.
Việc huy động vốn có thể mua thêm thời gian cho dự án trọng điểm, nhưng điều quyết định liệu lộ trình có thành công hay không vẫn là khả năng hệ thống có thể giao hàng hay không.
Từ góc độ này, việc "CPU quay trở lại vị trí trung tâm" không có nghĩa là NPU không còn quan trọng.
Ngược lại, điều đó có nghĩa là tính toán AI đã trở nên phức tạp đến mức không thể còn dựa vào một bộ tăng tốc đơn lẻ để giải quyết tất cả các vấn đề.
Ngoài 700 TOPS
Prefill và dữ liệu đường dẫn quyết định trải nghiệm thực tế
Nhiều khi, điểm nghẽn trong suy luận của mô hình lớn không chỉ là các đơn vị tính toán không nhanh đủ, mà còn là dữ liệu không kịp được đưa đến các đơn vị tính toán.
Ngay cả khi chip có khả năng tính toán đỉnh cao, nếu băng thông bộ nhớ không theo kịp, NPU vẫn phải dừng lại để chờ đợi.
Agent sẽ làm trầm trọng thêm vấn đề sao chép dữ liệu. Nó cần truy xuất lịch sử thường xuyên, truyền dữ liệu giữa các mô hình và phần mềm khác nhau, đồng thời liên tục lưu trạng thái nhiệm vụ. Mỗi lần sao chép đều làm tăng độ trễ và tiêu thụ năng lượng; nhiệm vụ chạy càng lâu, tầm quan trọng của thiết kế hệ thống càng cao.
Thiết kế của GΞLIX 1 tập trung vào việc giữ lại dữ liệu mà mô hình cần càng gần đơn vị tính toán càng tốt, đồng thời giảm thiểu việc di chuyển dữ liệu liên tục giữa CPU, NPU, bộ nhớ và các hệ điều hành khác nhau.
Theo kiến trúc được công bố bởi Acrab, GΞLIX 1 cung cấp năng lực AI vượt quá 700 TOPS và băng thông bộ nhớ thống nhất 273 GB/s, với chip được trang bị 8 MB L1 Cache, L2 Cache chia sẻ có băng thông đạt 768 GB/s, bốn lõi NPU hoạt động song song, cùng module tăng tốc chuyên dụng được thiết kế riêng cho các phép tính Attention.
Acrab cho biết,后者 có thể tăng hiệu quả tính toán lên ba lần.
Bộ nhớ đệm trên chip lớn hơn giúp dữ liệu quan trọng ở gần đơn vị tính toán hơn; Bộ nhớ đệm L2 chia sẻ cho phép các tham số và đặc trưng trung gian được chia sẻ hiệu quả giữa các đơn vị tính toán; kiến trúc bộ nhớ thống nhất giảm thiểu việc sao chép dữ liệu không cần thiết giữa mô hình, hệ điều hành và ứng dụng.
Acrab còn sử dụng kiến trúc bộ nhớ thống nhất đa hệ thống, giúp các hệ điều hành khác nhau chia sẻ bộ nhớ hiệu quả hơn. Đối với các thiết bị chỉ chạy một mô hình, điều này có thể chỉ là tối ưu hóa hiệu suất; nhưng đối với các Agent cần liên tục chuyển đổi giữa các ứng dụng và công cụ, nó sẽ直接影响 việc thực hiện nhiệm vụ có diễn ra suôn sẻ hay không.
Điều này cũng giải thích tại sao Acrab đặt Prefill vào trung tâm sự kiện ra mắt. Khi agent giới thiệu tệp mới, khôi phục trạng thái nhiệm vụ hoặc cập nhật ngữ cảnh, chúng thường cần xử lý lại thông tin mới được thêm vào. Càng dài chuỗi nhiệm vụ, hiệu quả của Prefill càng ảnh hưởng rõ rệt đến trải nghiệm tổng thể.
Trong một loạt bài kiểm tra tự thực hiện của Acrab, GΞLIX 1 chạy mô hình Gemma với 26 tỷ tham số, sử dụng 40K KV Cache và đầu vào 10.000 Token, tốc độ Prefill vượt quá 1.416 Token mỗi giây; trong cùng tải trọng, hiệu suất của nó vượt hơn 7 lần so với một nền tảng máy tính để bàn phổ biến.
Acrab cũng so sánh GΞLIX 1 với một nền tảng tính toán AI dành cho máy tính để bàn cùng loại trong cùng một khung thử nghiệm.
Dữ liệu cho thấy GΞLIX 1 đạt được khoảng hiệu năng tương đương trong hai chỉ số cốt lõi là Prefill và Decode, đồng thời thể hiện mức tiêu thụ điện năng thấp hơn và chi phí toàn bộ hệ thống cạnh tranh hơn.
Acrab chọn nhấn mạnh vào Prefill và đường dẫn dữ liệu, điều này bản thân đã cho thấy một định hướng sản phẩm: chip Agent phía đầu cuối không chỉ nên theo đuổi tốc độ đầu ra của mô hình, mà còn phải giải quyết vấn đề liệu mô hình có thể nhanh chóng đọc hiểu ngữ cảnh dài, khôi phục trạng thái nhiệm vụ và bắt đầu làm việc hay không.
Người dùng sẽ không quan tâm đến việc một chuỗi suy luận bên trong đã qua bao nhiêu lớp bộ nhớ đệm, cũng không kiểm tra TOPS trước mỗi lần tương tác. Những gì người dùng thực sự cảm nhận được chỉ có ba điều: liệu nó có thể hiểu nhanh chóng không, có thể vận hành liên tục không, và việc sở hữu nó có đủ đáng giá không.
Từ chip đến nền tảng
Sự cạnh tranh thực sự nằm ngoài các tham số
Năm nay, các thiết bị Agent Computer, trung tâm AI cá nhân và thiết bị đầu cuối doanh nghiệp xuất hiện tại WAIC vẫn chưa tạo thành hình thái sản phẩm thống nhất.
Cảnh gia đình nhấn mạnh vào ký ức cá nhân, nội dung và sự phối hợp thiết bị, trong khi cảnh doanh nghiệp chú trọng vào kho tri thức, xử lý tệp và bảo mật dữ liệu nội bộ. Các khách hàng khác nhau có yêu cầu rất khác biệt về kích thước mô hình, dung lượng bộ nhớ, công suất tiêu thụ và giao diện.
Càng có nhiều thiết bị đầu cuối bị phân mảnh, thì việc xây dựng nền tảng tính toán càng trở nên khó khăn. Một con chip khó có thể chỉ dựa vào thông số kỹ thuật để bao phủ mọi kịch bản; cần phải cung cấp Runtime, thích ứng mô hình, công cụ phát triển và khung Agent để giúp khách hàng chuyển đổi sức mạnh tính toán nền tảng thành các sản phẩm có thể giao giao.
Đây cũng là câu hỏi bổ sung mà chip Agentic AI có so với chip suy luận thông thường: Hiệu suất chip quyết định liệu mô hình có thể chạy được hay không, stack phần mềm quyết định liệu các nhà phát triển có thể sử dụng nó hay không, và hệ sinh thái Agent quyết định thiết bị cuối cùng có thể hoàn thành những nhiệm vụ gì. Thiếu bất kỳ lớp nào cũng có thể khiến một chip với tham số ấn tượng chỉ dừng lại ở giai đoạn demo.
Acrab cố gắng nắm giữ đồng thời tất cả các khâu này. Ưu điểm là định nghĩa sản phẩm hoàn chỉnh hơn, nhưng rủi ro cũng rất rõ ràng: chiến tuyến quá dài.
Chip cần chứng minh hiệu suất, độ ổn định và khả năng cung cấp quy mô, stack phần mềm cần theo kịp sự lặp lại nhanh chóng của mô hình, và lớp điều phối Agent còn phải tương thích với các công cụ và ứng dụng không ngừng thay đổi. Sau khi tệp cá nhân và bộ nhớ dài hạn được giữ lại tại địa phương, các vấn đề về cách ly quyền hạn, bảo mật plugin và kiểm toán hoạt động cũng phải được giải quyết đồng thời.
Do đó, liệu Acrab có thể trở thành nền tảng tính toán của thời đại Agentic AI hay không, cuối cùng không phụ thuộc vào việc có bao nhiêu Token được chạy trong buổi ra mắt, cũng không phụ thuộc vào việc Agent Box có thể trình diễn được bao nhiêu nhiệm vụ.
Kiểm tra quan trọng hơn là: các nhà phát triển có thể nhanh chóng tạo ra sản phẩm trên nền tảng này không; sau khi Agent hoạt động liên tục nhiều giờ, hiệu suất, công suất và độ ổn định có thể đồng thời được đảm bảo không; khi mô hình và khung Agent tiếp tục thay đổi, phần mềm và phần cứng nền tảng có theo kịp không.
Sự đổi mới kiến trúc quyết định giới hạn năng lực của một công ty chip, trong khi quá trình kỹ thuật hóa và hệ sinh thái quyết định liệu giới hạn đó có thể biến thành đơn hàng hay không.
Các terminal mới xuất hiện dày đặc trên WAIC cho thấy ngành đang chuyển từ giai đoạn “chạy được mô hình lớn” sang giai đoạn “để Agent hoạt động liên tục”. Giai đoạn trước cạnh tranh về sức mạnh tính toán, bộ nhớ và kích thước mô hình; giai đoạn tiếp theo còn phải giải quyết các vấn đề như ngữ cảnh dài, trí nhớ cá nhân, gọi công cụ và phối hợp đa nhiệm.
Acrab đang đặt cược vào chính sự thay đổi này.
Agent Box không phải là điểm kết thúc, mà là một cuộc kiểm tra năng lực nền tảng công khai.
Chip phía đầu cuối cần được “làm lại”, không phải vì TOPS không quan trọng, mà vì Agent đang chuyển đổi tính toán từ các con số đỉnh điểm thành năng lực hệ thống hoạt động liên tục. Việc nó có thể thành công hay không cuối cùng sẽ phụ thuộc vào việc bộ chip, phần mềm và thiết bị đầu cuối này có thể tích hợp vào quy trình làm việc thực tế hay không.