[10 реальних демонстрацій: зіткнення з об’єктами 0/20. Додайте ще 50 симуляцій — 17/20] @KaitoAI X @axisrobotics Посилання на участь у Axis (реферальне): https://t.co/hUbWSVsBVR Навчання робота новим завданням вимагає великих витрат часу та коштів на збір даних демонстрацій на реальному обладнанні. Потрібно підготувати робота, налаштувати робоче середовище, а потім людині вручну виконати десятки, а то й сотні повторень, і якщо змінюється об’єкт чи середовище — потрібні нові дані. Axis і @boosterobotics недавно провели експеримент, щоб дізнатися, як змінюється результат навчання, коли реальні демонстрації поєднуються з симуляційними траєкторіями Axis. Використовувалися два завдання: підйом ручки та підйом вушкового кейсу. Оцінювалися три показники: чи торкнувся робот об’єкта, чи захопив його захопом, чи успішно підняв його. Усі політики починався з одного й того ж чекпоінту моделі Pi0.5. У Axis Suite можна коротко заснятися реальне робоче середовище, а потім за допомогою переднавченої 2D-до-3D моделі створити цифрового близнюка, адаптованого під завдання. Створена сцена розгортається в Axis Hub, і навіть ті, хто не має фізичного робота, можуть генерувати симуляційні траєкторії для того ж завдання. Можна змінювати положення об’єкта, кут камери, освітлення, матеріали, фон та сусідні об’єкти — і виконувати одне й те ж завдання в різних умовах. У експерименті з низьким об’ємом даних для завдання з вушковим кейсом використовувалося лише 10 реальних демонстрацій. Політика, навчена на цих даних, не змогла навіть разу торкнутися цільового об’єкта за 20 спроб на реальному роботі Booster. Коли до 10 реальних демонстрацій додали 50 симуляційних траєкторій Axis, політика досягла 17 успішних зіткнень із об’єктом із 20 спроб. 6 разів вдалося дойти до етапу захоплення, а з них 2 рази вдалося підняти вушковий кейс. У більш масштабних експериментах з реальними роботами тестували різні комбінації даних. Для завдання з ручкою політика на основі лише реальних даних показала 35% успішного підйому, а при 67% симуляційних даних — 40%. Для вушкового кейсу: 30% успішних підйомів при лише реальних даних і 40% при 50% симуляційних даних. Кожна умова була протестована 20 разів на реальному роботі; загальна кількість rollout-ів склала 240. У симуляції можна швидко змінювати положення об’єкта, кут камери, фон тощо, щоб генерувати багато повторюваних даних. Реальні демонстрації містять інформацію про фізичні особливості обладнання: характеристики камер, реакцію приводів, час захоплення, похибки контакту та виконання. Найвищий показник успішного підйому для обох завдань був отриманий саме при поєднанні реальних демонстрацій і симуляційних даних, адаптованих під завдання. Axis і Booster також створили початкову модель, оптимізовану під Booster, використовуючи дані з багатьох завдань. Це модель, яка спочатку навчається на розташуванні камер Booster, двох 7-DoF рукавах, захопах, представленні дій та базових рухах перед тим, як приступати до навчання новим завданням. Вихідні симуляційні дані мали 44 039 епізодів з 95 репозиторіїв і 76 мовних команд. При вилученні статичних траєкторій та записів, де важко розроздити, який рукав використовувався, залишилося 42 046 епізодів і 3 249 835 кадрів — приблизно 180,55 годин при частоті 5 Гц. Також у навчанні використовувалися реальні демонстрації Booster з позначками успiшностi, telemetry та спостереженнями. Потiм Pi0.5 було повнiстю доопрацьовано на цих даних (full-parameter continued pretraining), а потiм адаптовано до завдань з ручкою та вушковим кейсом. При використаннi 30 демонстрацiй на завдання Booster-specific модель успiшно виконала послiдовнiсть дiй — наближення — закриття захопу — пiдйом — у 14 із 16 спроб. Оригiнальна модель Pi0.5 при тих самих 30 демонстрацiях показала лише 6/16; при 60 демонстрацiях — 10/16. Навiть у zero-shot симуляцiї перед додатковим навчанням середня вiдстань мiж запястям і цiллю зменшилася з 17,27 см до 5,78 см, а вiдстань руху неспрямованої руки — з 5,04 рад до 0,25 рад. Це результати спiльного експерименту Axis і Booster. Незалежне вiдтворення цих результатiв ще не було опублiковане. Експеримент з низьким об’ємом даних (10 реальних демонстрацiй + 50 симуляцiй) проводився на фiзичному роботi Booster; порiвняння моделi Booster-specific з 30 та 60 демонстрацiями — у Isaac Sim. Цi цифри не можна об’єднувати як єдиний показник продуктивностi реального робота. Симуляцiйнi траєкторiї, створенi в Axis Hub, використовувалися для генерацiї рiзноманiтних розташувань об’єктiв та умов освiтлення; реальнi демонстрацiї Booster додали до навчання данi про фiзичний контакт і особливостi виконання. Данi, зведенi з багатьох завдань, також були використанi для створення початкової моделi, ознайомленої з корпусом та системою керування Booster.Trajectory, зібрані у браузері, фактично використовувалися для оцінки фізичного робота Booster та початкового навчання моделі. #PhysicalAI #RobotLearning