[10 lần biểu diễn thực tế: tiếp xúc vật thể 0/20. Thêm 50 lần mô phỏng từ Axis → 17/20] @KaitoAI X @axisrobotics Liên kết tham gia Axis (referral): https://t.co/hUbWSVsBVR Việc thu thập dữ liệu biểu diễn thực tế để huấn luyện robot thực hiện nhiệm vụ mới đòi hỏi rất nhiều thời gian và chi phí. Bạn cần chuẩn bị robot, điều chỉnh không gian làm việc, sau đó con người phải điều khiển trực tiếp hàng chục, hàng trăm lần để ghi lại dữ liệu; và nếu vật thể hoặc môi trường thay đổi, bạn lại cần dữ liệu mới. Axis và @boosterobotics gần đây đã tiến hành thí nghiệm để xem kết quả học tập thay đổi thế nào khi kết hợp các quỹ đạo mô phỏng của Axis với các biểu diễn thực tế trên robot hai tay của Booster. Nhiệm vụ được sử dụng là nhặt bút và nhặt hộp tai nghe. Họ đánh giá riêng biệt: robot có chạm vào vật thể không, có kẹp được bằng kẹp không, và có nâng vật thể lên thật sự không. Tất cả các chính sách đều bắt đầu từ cùng một điểm kiểm tra mô hình Pi0.5. Trong Axis Suite, bạn có thể quay ngắn không gian làm việc thực tế và sử dụng mô hình 2D-to-3D đã được huấn luyện trước để tạo ra bản sao kỹ thuật số phù hợp với nhiệm vụ. Cảnh này được triển khai trên Axis Hub, cho phép nhiều người đóng góp tạo ra các quỹ đạo mô phỏng cho cùng một nhiệm vụ mà không cần sở hữu robot vật lý. Bạn có thể thay đổi vị trí vật thể, góc máy ảnh, ánh sáng, chất liệu, nền và các vật thể xung quanh để thực hiện cùng một nhiệm vụ trong nhiều điều kiện khác nhau. Trong thí nghiệm low-data sử dụng hộp tai nghe, có 10 lần biểu diễn thực tế. Chính sách được huấn luyện từ dữ liệu này khi chạy 20 lần trên robot Booster thực tế đã không hề chạm vào vật thể mục tiêu lần nào. Giữ nguyên 10 lần biểu diễn thực tế và thêm 50 quỹ đạo mô phỏng từ Axis, chính sách mới đã chạm vào vật thể trong 17/20 lần. Trong đó, 6 lần đạt đến giai đoạn kẹp, và 2 lần thành công trong việc nâng hộp tai nghe lên. Trong các đánh giá robot thực tế với nhiều dữ liệu hơn, họ đã thử nghiệm nhiều tổ hợp khác nhau. Chính sách chỉ dùng dữ liệu thực tế cho nhiệm vụ bút đạt tỷ lệ nâng là 35%, trong khi điều kiện có 67% dữ liệu mô phỏng đạt 40%. Với hộp tai nghe, chính sách chỉ dùng dữ liệu thực tế đạt 30%, còn điều kiện có 50% dữ liệu mô phỏng đạt 40%. Mỗi điều kiện được chạy 20 lần trên robot thực tế, tổng cộng 240 lần rollout để đánh giá toàn bộ. Trong mô phỏng, bạn có thể nhanh chóng thay đổi điều kiện như vị trí vật thể, góc nhìn, nền để tạo ra dữ liệu lặp lại. Trong biểu diễn thực tế, dữ liệu chứa thông tin từ thiết bị vật lý như đặc tính camera, phản hồi actuator, thời điểm kẹp, lỗi tiếp xúc và thực thi. Tỷ lệ nâng cao nhất cho cả hai nhiệm vụ này đạt được khi kết hợp dữ liệu biểu diễn thực tế với dữ liệu mô phỏng được tối ưu hóa cho nhiệm vụ. Axis và Booster cũng đã tạo ra một mô hình khởi đầu được tùy chỉnh cho Booster bằng cách sử dụng dữ liệu thu thập từ nhiều nhiệm vụ. Đây là mô hình đã được huấn luyện trước để làm quen với bố trí camera của Booster, hai cánh tay 7-DoF, kẹp, biểu diễn hành động và các chuyển động cơ bản. Nguồn mô phỏng ban đầu gồm 44.039 episode trải dài trên 95 repository và 76 lệnh ngôn ngữ. Sau khi loại bỏ các quỹ đạo tĩnh và các bản ghi khó phân biệt rõ cánh tay nào được sử dụng, còn lại 42.046 episode và 3.249.835 frame — tương đương khoảng 180,55 giờ ở tần số 5Hz. Các biểu diễn thực tế của Booster có đầy đủ thông tin về thành công, telemetry và observation cũng được sử dụng trong huấn luyện. Sau đó, Pi0.5 được tiếp tục huấn luyện đầy đủ tham số trên dữ liệu này và điều chỉnh cho các nhiệm vụ bút và hộp tai nghe. Khi sử dụng 30 lần biểu diễn cho mỗi nhiệm vụ, mô hình đặc biệt cho Booster thực hiện đúng chuỗi hành động tiếp cận - đóng kẹp - di chuyển lên trong 14/16 lần. Mô hình Pi0.5 gốc chỉ đạt 6/16 trong cùng điều kiện 30 lần biểu diễn, và tăng lên 10/16 khi tăng lên 60 lần biểu diễn. Ngay cả trong mô phỏng zero-shot trước khi huấn luyện bổ sung theo nhiệm vụ, khoảng cách trung bình từ cổ tay đến mục tiêu đã giảm từ 17,27 cm xuống còn 5,78 cm, và khoảng cách di chuyển của cánh tay không được chỉ định giảm từ 5,04 rad xuống còn 0,25 rad. Các con số này là kết quả từ thí nghiệm hợp tác giữa Axis và Booster. Cho đến nay chưa có nghiên cứu độc lập nào công bố khả năng tái tạo lại kết quả tương tự. Đánh giá low-data với 10 lần biểu diễn thực tế và 50 lần mô phỏng được thực hiện trên robot Booster vật lý; so sánh giữa 30 và 60 lần biểu diễn của mô hình đặc biệt cho Booster được thực hiện trên Isaac Sim. Không thể gộp hai con số từ hai đánh giá này thành một chỉ số hiệu suất robot vật lý duy nhất. Các quỹ đạo mô phỏng tạo ra trên Axis Hub được sử dụng để đa dạng hóa bố trí vật thể và điều kiện thị giác; các biểu diễn thực tế của Booster đưa vào học tập các đặc tính tiếp xúc và thực thi của robot vật lý. Dữ liệu được tổng hợp từ nhiều nhiệm vụ cũng được sử dụng để xây dựng mô hình khởi đầu quen thuộc với thân hình và cách điều khiển của Booster.Trajectory được thu thập từ trình duyệt đã được sử dụng thực tế để đánh giá robot vật lý của Booster và học mô hình ban đầu. #PhysicalAI #RobotLearning