NVIDIA ra mắt nền tảng tính toán robot nhập môn thế hệ mới Jetson Orin Nano 2, nhắm vào các ứng dụng AI biên như robot, drone.

Tác giả bài viết, nguồn: Sina Tech

NVIDIA đang mở rộng khả năng trí tuệ nhân tạo (AI) từ trung tâm dữ liệu sang các thiết bị thực tế như robot.

Vào thứ Ba ngày 25, giờ Đông Mỹ, NVIDIA công bố ra mắt nền tảng tính toán robot nhập môn thế hệ mới Jetson Orin Nano 2, nhắm vào các ứng dụng AI biên nhạy cảm với chi phí, công suất và khả năng tính toán thời gian thực như robot, drone.

NVIDIA cho biết, Jetson Orin Nano 2 cung cấp hiệu năng suy luận cao gấp đôi so với thế hệ trước là Jetson Orin Nano Super, trong khi vẫn giữ nguyên kích thước nhỏ gọn; ở chế độ công suất 15 watt, nó đạt được hiệu năng tương đương thế hệ trước với mức tiêu thụ năng lượng thấp hơn 40%.

Về mặt phần cứng, Jetson Orin Nano 2 được trang bị bộ xử lý 8 nhân, 8GB bộ nhớ, khả năng tính toán AI đạt 78 nghìn tỷ phép tính/giây. NVIDIA cho biết, nền tảng mới nâng cao khả năng suy luận AI thông qua việc nâng cấp các nhân tensor và tăng băng thông bộ nhớ, đồng thời tiếp tục tương thích với hệ sinh thái phần mềm của NVIDIA dành cho robot và AI biên, có thể chạy các mô hình ngôn ngữ lớn và mô hình thị giác-ngôn ngữ đã được tối ưu hóa hiệu quả bộ nhớ, bao gồm Cosmos, Nemotron, Gemma 4 và Qwen 3.

Ý nghĩa của việc ra mắt sản phẩm mới này không chỉ đơn thuần là giới thiệu một máy tính AI nhỏ gọn có hiệu năng mạnh mẽ hơn. Khi các mô hình AI ngày càng được thu nhỏ và hiệu suất suy luận không ngừng được cải thiện, những nhiệm vụ trước đây chủ yếu dựa vào xử lý trên đám mây như hiểu biết hình ảnh, tương tác ngôn ngữ và ra quyết định thời gian thực đang dần chuyển sang các thiết bị đầu cuối như robot và drone. NVIDIA mong muốn thông qua Jetson Orin Nano 2 tiếp tục hạ thấp rào cản để AI vật lý có thể tiếp cận các thiết bị cấp nhập môn.

Các mô hình AI quy mô nhỏ đang được triển khai nhanh chóng, nhu cầu về trí tuệ đầu cuối cho robot đang gia tăng

Việc ra mắt Jetson Orin Nano 2 diễn ra đúng giai đoạn ngành công nghiệp trí tuệ nhân tạo đang mở rộng từ đám mây sang thiết bị đầu cuối.

Khác với AI trung tâm dữ liệu, robot và drone có yêu cầu khắt khe hơn đối với nền tảng tính toán: kích thước thiết bị bị hạn chế, thường không thể tích hợp các bộ xử lý tiêu thụ công suất cao, đồng thời cần liên tục thực hiện các nhiệm vụ nhận thức thị giác, hiểu môi trường và ra quyết định trong quá trình di chuyển. Do đó, lượng năng lực AI cung cấp trên mỗi đơn vị công suất thường quan trọng hơn là chỉ theo đuổi năng lực đỉnh.

NVIDIA cho biết, Jetson Orin Nano 2 có thể đạt hiệu năng tương đương trong chế độ 15 watt với mức tiêu thụ năng lượng thấp hơn 40% so với thế hệ trước. Đối với robot và drone chạy bằng pin, điều này có nghĩa là các nhà sản xuất thiết bị có thể giảm tiêu thụ năng lượng trong cùng yêu cầu hiệu năng, hoặc tận dụng khoảng tiết kiệm năng lượng để nâng cao thời lượng pin, khả năng tản nhiệt hoặc cấu hình cảm biến khác.

Trong khi đó, khả năng của các mô hình trí tuệ nhân tạo quy mô nhỏ đang được cải thiện nhanh chóng, cũng đang thay đổi ranh giới ứng dụng của AI đầu cuối.

Tara, người phụ trách bộ phận robot và trí tuệ nhân tạo biên của NVIDIA, cho biết hiện nay độ chính xác của một số mô hình前沿 nhỏ và vừa đã đạt mức của các mô hình前沿 lớn năm ngoái, điều này đang tạo điều kiện để thực hiện trí tuệ thời gian thực trên các thiết bị biên.

Trước đây, trí tuệ nhân tạo biên chủ yếu thực hiện các nhiệm vụ như phát hiện đối tượng, phân loại hình ảnh; nhưng với khả năng mô hình được tăng cường, các thiết bị đầu cuối đã bắt đầu sở hữu khả năng hiểu ngôn ngữ phức tạp hơn, suy luận thị giác và tương tác đa phương thức.

Điều này cũng giúp robot tiến hóa từ “có khả năng cảm nhận môi trường” sang “có khả năng hiểu môi trường và hành động”.

Từ nhận diện thị giác tiến tới hiểu biết đa mô hình, quyết định theo thời gian thực trở nên then chốt

NVIDIA đang định vị nền tảng Jetson là cơ sở tính toán quan trọng để robot đạt được "trí tuệ vật lý".

Hiện tại, thông tin mà robot cần xử lý đã không còn giới hạn ở hình ảnh thu được từ camera, mà còn bao gồm các lệnh ngôn ngữ tự nhiên, âm thanh, thông tin không gian và dữ liệu từ các cảm biến khác nhau. Đối với robot, việc kết hợp nhanh chóng các thông tin này tại chỗ và phản hồi với độ trễ thấp là điều kiện quan trọng để đạt được hoạt động tự chủ.

Jetson Orin Nano 2 nhắm đến nhiều kịch bản điển hình, bao gồm robot gia đình, hệ thống trí tuệ nhân tạo thị giác, drone giao hàng và drone kiểm tra.

Ví dụ, công ty giao hàng bằng drone thuộc Google, Wing, trước đây đã sử dụng Jetson Orin Nano Super và nền tảng phần mềm của NVIDIA trong các drone giao hàng, và dự định đánh giá Jetson Orin Nano 2. NVIDIA cho biết, hiệu năng và hiệu suất năng lượng cao hơn có khả năng giúp Wing nâng cao thêm khả năng nhận thức và suy luận AI thời gian thực của drone.

Công ty robot gia dụng Matic dự định sử dụng Jetson Orin Nano 2 để tăng cường khả năng tương tác ngôn ngữ tự nhiên, nhận diện cử chỉ, lập bản đồ không gian và hiểu ngữ nghĩa của robot, giúp robot có thể tự chủ thực hiện các nhiệm vụ như dọn dẹp.

Ngoài ra, NVIDIA còn trình diễn trường hợp sử dụng Jetson Orin Nano 2 để vận hành robot Reachy Mini. NVIDIA cho biết nền tảng này có thể đồng thời xử lý các mô hình ngôn ngữ, mô hình âm thanh và các tác vụ AI thị giác thời gian thực, thể hiện khả năng của nền tảng cạnh biên cấp nhập môn trong việc vận hành nhiều mô hình AI.

Đối với các nhà sản xuất robot, tầm quan trọng của khả năng này nằm ở chỗ, robot không còn chỉ thực hiện các hành động cố định theo chương trình được lập sẵn, mà còn có thể hiểu môi trường thông qua thông tin hình ảnh và lệnh ngôn ngữ, sau đó điều chỉnh hành động một cách linh hoạt.

Đây cũng là lý do NVIDIA trong những năm gần đây liên tục nhấn mạnh vào “AI vật lý”: trí tuệ nhân tạo đang dần từ các dịch vụ phần mềm trên màn hình chuyển sang thế giới thực, cuối cùng điều khiển các thiết bị vật lý như robot, ô tô, máy bay không người lái, v.v.

Mở rộng nhà phát triển và đối tác, NVIDIA tiếp tục củng cố hệ sinh thái robot

Ngoài hiệu năng chip, hệ sinh thái phần mềm luôn là lợi thế cạnh tranh quan trọng của nền tảng NVIDIA Jetson.

NVIDIA cho biết hiện đã có hơn 3 triệu nhà phát triển đang phát triển dựa trên nền tảng robot của họ. Với sự ra mắt của Jetson Orin Nano 2, NVIDIA đang tiếp tục mở rộng hệ sinh thái phần mềm, phần cứng và nhà phát triển xung quanh AI robot. Cognex, and Matic

Về mặt phần mềm, Jetson Orin Nano 2 tiếp tục hỗ trợ nền tảng phát triển robot của NVIDIA và có thể chạy các mô hình ngôn ngữ lớn và mô hình thị giác-ngôn ngữ đã được tối ưu hóa hiệu quả bộ nhớ cho thiết bị biên, bao gồm các mô hình Cosmos, Nemotron của NVIDIA, cũng như Gemma 4, Qwen 3, v.v.

Điều này có nghĩa là các nhà phát triển có thể trực tiếp triển khai khả năng hiểu ngôn ngữ, hiểu thị giác và suy luận lên thiết bị robot với tài nguyên phần cứng tương đối hạn chế, mà không cần hoàn toàn phụ thuộc vào máy chủ đám mây.

Hệ sinh thái phần cứng cũng đang được mở rộng đồng bộ.

NVIDIA tiết lộ rằng các đối tác như Elma, Advantech, Aetina, Antmicro, Aptiv, Connect Tech và Seeed Studio đang phát triển các bo mạch chủ, hệ thống phần cứng, phần mềm AI và thiết kế tham chiếu xung quanh Jetson Orin Nano 2, giúp các nhà sản xuất robot rút ngắn chu kỳ phát triển và đưa sản phẩm ra thị trường.

NVIDIA cũng cho biết các doanh nghiệp đầu tiên bắt đầu áp dụng hoặc khám phá Jetson Orin Nano 2 bao gồm Cognex, Doosan Bobcat, Matic và các công ty khác, trong khi Wing cũng có kế hoạch đánh giá nền tảng này.

Từ góc độ chu kỳ dài hơn, NVIDIA không chỉ đang cố gắng xây dựng một ngành kinh doanh chip robot đơn lẻ, mà còn là một hệ sinh thái toàn diện bao gồm các mô hình trí tuệ nhân tạo, công cụ phần mềm, nền tảng tính toán và thiết bị robot.

Mô hình này có điểm tương đồng nhất định với lợi thế cạnh tranh mà NVIDIA xây dựng trong lĩnh vực trí tuệ nhân tạo trung tâm dữ liệu: tạo ra hiệu ứng cộng hưởng thông qua hiệu năng phần cứng và hệ sinh thái phần mềm, sau đó mở rộng sức hấp dẫn của nền tảng thông qua cộng đồng nhà phát triển khổng lồ.

Sản phẩm mới dự kiến ra mắt vào nửa đầu năm tới, đóng góp thương mại vẫn đang chờ được hiện thực hóa

Tuy nhiên, cần lưu ý rằng Jetson Orin Nano 2 hiện vẫn đang trong giai đoạn ra mắt và còn một thời gian nữa mới chính thức lên kệ.

NVIDIA cho biết, mô-đun và bộ phát triển Jetson Orin Nano 2 dự kiến sẽ ra mắt vào nửa đầu năm 2027. Do đó, đóng góp trực tiếp của sản phẩm mới vào hiệu quả hoạt động gần đây của NVIDIA vẫn cần được theo dõi.

Từ góc độ bố trí sản phẩm, NVIDIA đang từng bước hoàn thiện hệ sinh sản phẩm robot và trí tuệ nhân tạo vật lý: một mặt, thông qua nền tảng tính toán robot hiệu năng cao hơn để đáp ứng nhu cầu các ứng dụng phức tạp; mặt khác, thông qua nền tảng nhập môn như Jetson Orin Nano 2, đẩy mạnh suy luận trí tuệ nhân tạo xuống các thiết bị đầu cuối nhạy cảm hơn về chi phí và công suất.

Nếu các mô hình ngôn ngữ nhỏ và mô hình ngôn ngữ-hình ảnh trong tương lai tiếp tục nâng cao năng lực nhanh chóng, đồng thời chi phí suy luận liên tục giảm, thì nhu cầu về khả năng tính toán AI tại thiết bị đầu cuối của các thiết bị như robot, drone có thể mở rộng thêm.

Đối với NVIDIA, điều này có nghĩa là thị trường mà họ đang cạnh tranh đang dần mở rộng từ tính toán AI trung tâm dữ liệu truyền thống sang các thiết bị thực tế như robot, máy bay không người lái và những "bộ não" AI đằng sau chúng. Jetson Orin Nano 2 là bước đi quan trọng giúp họ tiếp cận sâu hơn vào thị trường đầu cuối rộng lớn hơn.