Ipinaglunsad ng Skild AI ang S1 Robot Model na may 10-minutong pagkatuto sa konteksto

Malalaking resulta ng embodied intelligence, darating na!!!

Mula noong ipinakilala ng Generalist ang embodied brain na Gen 1.5 na makakamit na matututo ng mga galaw na 3 hanggang 12 segundo noong nakaraang linggo～

Kasalukuyang, ang北美 embodied startup na Skild AI ay naglabas ng bagong robot base model na S1, na direktang itinataas ang haba ng task sa context learning ng robot sa higit sa 10 minuto.

Ang pangunahang pagkakataon sa S1 na ito ay ang pagkatuto sa konteksto (in-context learning, ICL):

Hindi kailangang mag-aral ng mga bagong data sa pagkatapos ng pag-train; sapat na tingnan ang isang video ng pagpapakita ng tao upang makapagtapos nang direkta ng isang buong komplikadong proseso ng operasyon na hindi pa nakikita.

Sa opisyal na demo, natapos ng robot ang mga mahabang gawain tulad ng paggawa ng pancake, paghahanda ng kape, pagpapalit ng lupa sa mga halaman, at pag-aayos ng mga kagamitan. At sa mga gawain na hindi nakikita bago, itinataas nito ang tagumpay na rate sa 66%, na mas mataas nang malaki kumpara sa VNA batay sa tekstong prompt (tanging 9%).

Bukod dito, kahit sundin ang tradisyonal na paraan ng fine-tuning pagkatapos ng pagtrain, upang makamit ang epekto ng S1 na nagmumula sa isang pagpapakita lamang, kailangan mong magbigay ng halos 380 na pagpapakita ng task.

Sobrang amazing!

Maaaring sabihin na ang kamakailang alon ng mga pag-aaral sa context learning ay muli nagbigay-liwanag sa marami tungkol sa embodied intelligence.

May nag-comment sa Twitter na maaaring lumabas ang pangkalahatang robot sa loob ng dalawang taon, hindi sa pitong taon.

May mga netizen din na nagpapahiwatig na mula sa Rhoda, hanggang sa Generalist noong nakaraang linggo, at ngayon ang 10-minutong gawain ng Skild S1, tila dumating na ang totoong GPT moment ng robot.

Kasi kapag talagang generalizadong gamitin ang kakayahang ito, ang pagbuo ng mga kasanayan ng robot ay maaaring maging parang pagsulat ng prompt para sa ChatGPT.

Totoo ba ang ganito? Tingnan natin nang sama-sama.

Upang maunawaan kung paano talaga ang context learning ni S1, kailangan nating tingnan muna kung paano natututo ang tradisyonal na robot sa isang bagong kasanayan.

Sa tradisyonal na pipeline, ang pagkatuto ng robot ay halos katulad ng malalaking modelo:

Una, i-pretrain sa malaking dami ng data upang matutunan ang ilang pangunahing kakayahan; pagkatapos, sa partikular na sitwasyon, kumuha ng data para sa isang partikular na gawain at gamitin ang post-training upang matutunan ng robot ang mga espesyalisadong kasanayan.

Ang problema lang ay na bagaman ang mga robot at malalaking modelo ay may magkakaparehong proseso, ang gastos sa data ay lubos na iba.

Ang mga datos para sa pre-training ng malalaking modelo ay karamihan ay galing sa internet; kahit sa mga espesipikong aplikasyon tulad ng paggawa ng code at Agent, maraming datos para sa post-training ay maaaring madaling makakuha online, o kaya ay awtomatikong likhain.

Ngunit mas masama ang sitwasyon ng mga robot. Kailangan pang kunin ang pre-trained data sa realidad, at ang post-trained data ay kailangan pa ring kunin sa realidad.

Kaya, sa teknikal na blog, agad na sinabi ng Skild AI:

Kung ang isang base model ng robot ay kailangan pa rin ng mga dekada o daan-daang oras ng totoong data para sa bawat bagong gawain bago ito muling i-training, tanong ko lang, saan ba talaga ang base ng “base model” na ito?

Kahit na binanggit nila ang mga umiiral na pag-aaral na kung sapat na ang data para sa isang bagong gawain, maaaring makasabay pa ng mga base model na naging pre-trained at fine-tuned ang mga model na itinuturo mula sa zero.

Ano nga ba ang kahalagahan ng embodied pre-training?

Ang sagot ni Skild dito ay: context learning.

Para sa isang referensyal na coordinate, kinuha ni Skild ang pag-unlad na landas ng malalaking modelo bilang komparasyon.

Ang mga naunang BERT ay malakas na, ngunit sa bawat bagong gawain, kadalasan ay kailangan pa ring ihanda muli ang data at i-fine-tune muli.

Ang tunay na pagbabago sa laro ay ang kakayahang mag-aral sa konteksto na unti-unting lumabas pagkatapos ng GPT-3:

Hindi kailangang baguhin ang weights ng model; sapat lang na bigyan ng ilang halimbawa ang Prompt para “matuto” ang model sa isang bagong gawain.

Batay dito, naniniwala si Skild na ang mga robot ay kasalukuyang nakakulong sa isang katulad na panahon ng BERT, at ang kanilang tunay na nais ay magbigay sa mga robot ng parehong pagbabago ng paradigma.

Ibig sabihin, ang tunay na halaga ng pre-training ay hindi lamang magbawas ng dami ng data na kailangan ng post-training, kundi magbigay sa robot ng kakayahang “matuto nang direkta mula sa konteksto.”

Ano nga ba ang natutunan ni S1 mula sa konteksto na ito?

Sa paniniwala ni Skild, ang tunay na pagsubok sa kakayahan ng robot sa pagkatuto sa konteksto ay ang dalawang dimensyon lamang:

Isang tanong ay kung kaya mong matutunan ang mga kasanayan na hindi perpektong nakikita sa panahon ng pagtuturo; ang isa pang tanong ay kung kaya mong muling i-combine ang mga umiiral na kasanayan upang matapos ang isang mahaba at napakakomplikadong bagong gawain.

Halimbawa, kailangan lang ng robot na panoodin ang isang video ng pagpapalit ng pancake upang matutunan kung paano gawin ang pancake—

Kahit hindi pa ito nagmula sa mga datos ng pagtuturo nito.

Samantala, kumpara sa mga video ng segundo na ipinakita noong nakaraang linggo ng Gen-1.5, sinasakop ng S1 ang pagkatuto ng konteksto hanggang sa pinakamahabang 10 minuto.

Sa mga gawain tulad ng pagpapalit ng mga halaman, bawat gawain ay nangangailangan ng pagkakasunod-sunod ng maraming hakbang. Sa mga demonstrasyon ng mga mahabang gawain, kailangan ng robot hindi lang na kopyahin ang gawain, kundi malaman din:

Ano na ang aking naiabot ngayon, ano ang susunod na gagawin, paano i-combine ang mga kasanayan, at paano magpapatuloy kung mali ako sa gitna?

Ibig sabihin nito, kailangan ng robot na talagang maintindihan ang intensyon ng gawain at aksyon sa video demonstration, magsagawa nang flexibly at mag-adjust sa bawat sitwasyon, at hindi lang simpleng pagkopya ng pagkilos.

Sa karagdagang pagbabago ng halaman, mula sa pag-record ng demo hanggang sa pagkakaroon ng sariling kakayahan ng robot, tanging 11 minuto ang ginugol, na diretso nang ipinapakita ang pagpapabuti sa efficiency kumpara sa tradisyonal na post-training.

Sa huli, sa buong proseso, ang S1 ay hindi gumamit ng fine-tuning o post-training; ang mga timbang ng modelo ay nanatiling ganito, at gamit ang iisang set ng timbang, natapos lahat ng mga gawain na ipinakita sa blog.

Nakapag-ayos na ng pangunahing paglipat mula sa pagkakailangan ng BERT ng pagpapalawig sa partikular na sitwasyon, hanggang sa GPT-3 na maaaring kumpletuhin ang OOD tasks sa pamamagitan ng pagmamasid lamang.

Ang tanging pagkakaiba ay ang paggamit ng prompt na hindi na wika, kundi mga video ng galaw na mas mabuting nakakatugon sa mga katapusan ng gawain.

Sa eksperimento, sinukat ni Skild ang ICL video prompt at ang tradisyonal na language prompt VLA sa mga gawain na nakikita at hindi nakikita sa training data.

Ang mga resulta ng pagsubok ay nagpapakita na kapag ang training data ay may 1,000 oras lamang, mas mahusay ang language prompt, habang kasunod ng pagtaas ng laki ng data, unti-unting nababawasan ang ICL.

Sa 100,000 na oras, ang mga gawain na nakikita sa pagtuturo: ICL 96%, Language Prompt 89%.

Sa totoong mahalagang OOD task: 66% ang ICL, samantalang ang language prompt ay 9% lamang, na naglalayong magkaltas ng higit sa 7 beses.

Upang patunayan ang generalization ng S1, sinubukan ng Skild ito sa iba’t ibang mga eksperimentong kondisyon.

Ang mga resulta ay nagpapakita na ang pagbaba sa performance ng language prompt VLA ay maaaring umabot sa tatlumpo porsyento ng ICL.

Ibig sabihin nito, hindi natutunan ng ICL ang pag-uulit ng mga galaw sa mga fixed na sitwasyon, kundi ang pag-replan kung paano gagawin batay sa kasalukuyang kaligiran.

Sa huling bahagi, sa aspeto ng one-shot learning.

Ang S1 ay hindi gumagawa ng anumang post-training sa bagong gawain, at sa pagtingin lamang sa isang video demonstration, nakakamit nito ang tagumpay na 66%.

Kumpara sa kanya, ang tradisyonal na VLA ay kailangang magdaraan ng humigit-kumulang 380 na pagpapakita pagkatapos ng pagtuturo upang makamit ang parehong antas.

Totoo, patuloy na i-stack hanggang 2000 na pagpapakita, ang tradisyonal na post-training ay makakamit ng 86%.

Kaya ang konklusyon ay maaaring hindi “hindi na kailangang itrain ang mga robot sa hinaharap,” kundi:

Kahit na kailangan mong turuan ang isang bagong kasanayan nang maraming beses sa nakaraan, ngayon, sa isang pagtingin lang, kayang gawin mo na ito nang 60-70 puntos.

Ito rin ang sinasabing ICL scaling law ni Skild:

Mas maraming data, mas hindi lang nagkakaroon ng mas maraming kasanayan ang modelo, kundi mas nagsisimulang matutong “magsanay mula sa mga demo”.

Itinatag ang Skild noong 2023, na may likod na dalawang pamilyar sa CMU robotics community: Deepak Pathak at Abhinav Gupta.

Dalawa silang mga propesor sa Robotics Institute ng Carnegie Mellon University; ang Deepak ay nakatuon sa pag-aaral ng robot learning, reinforcement learning, at computer vision, habang ang Abhinav ay isang eksperto sa computer vision at self-supervised learning.

Noong 2022, nagtrabaho na ang dalawa sa WHIRL, kung saan ginamit ng robot ang pagmamasid sa mga video ng tao para sa one-shot imitation; maaaring sabihin na ang path na ito ng S1 ay hindi biglaang lumabas mula sa mga bato.

Bilang isang sikat na kumpanya sa North American embodied AI scene, nakakuha ang Skild ng $300 milyong A-round funding at valuation ng $1.5 bilyon noong 2024, agad pagkatapos lumabas sa pagkakatago nito;

Noong Enero ng taong ito, natapos ang pagsasagawa ng C-round funding na $1.4 bilyon, at tumaas ang valuation sa higit sa $14 bilyon, na pinamumunuan ng SoftBank, habang patuloy ang pagtutulungan ng NVIDIA, Bezos, at iba pa. Sa loob ng dalawang taon at ilang buwan, tumataas ang valuation sa halos 10 beses.

Sa pananaw ng pahalang na paghahambing, ang Skild ay may espesyal na posisyon sa North American embodied circle.

Kumpara sa PI na mas tila isang “robot GPT”, pinapahalagahan ng Generalist ang isang-shot learner, kasama ang full-stack momentum ni Genesis AI at Sunday, habang palaging sinasabi ng Skild: Anumang robot, anumang gawain, iisang utak.

Ito ay mas nakatuon sa cross-embodiment, na naghahangad na maaaring mag-run ang iisang Skild Brain sa iba't ibang katawan tulad ng robotic arm, quadruped, at humanoid.

Para mas maintindihan, gusto niya maging ang Android ng panahon ng mga robot: isang intelligent layer na maaaring ilagay sa iba’t ibang uri ng katawan.

Kaya ito ang nagpasya sa data strategy ni Skild: lahat ng ito.

Tingnan ng Skild ang robot data sa tatlong dimensyon: hardware proximity, diversity, at scalability:

Ang real-device remote control ay pinakamalapit sa hardware, ngunit mahal; ang human first-person video ay pinakamadaling iskalin, ngunit malayo sa katawan ng robot; ang simulation ay murang maaaring gawin nang marami, ngunit may sim-to-real gap.

Kaya ang kanilang istruktura para sa Robot Teleop, UMI, Egocentric Video, at Simulation ay kumukuha ng lahat.

At ang ICL ng S1 ay tunay na natural na pagpapatuloy ng ruta na ito:

Setyembre 2025 ang LocoFormer → Pebrero 2026 ang unang In-Domain ICL → Mayo ang unang pagbabalik-tanaw → Agosto ang S1 release, direktang isinampa ang context learning sa pinakamahabang 10-minutong OOD long-range task.

Kaya ang tunay na tanong na dapat pagtuunan ng pansin ngayon ay hindi kung paano pa makakatuto ang mga robot ng higit pang kasanayan, kundi:

Maaari ba ang gastos sa pag-aaral ng isang bagong kasanayan ng robot na maging “gawin mo ang isang beses, tingnan niya ang isang beses” sa halip na “tuturuan ang libo-libo beses”?

Kung patuloy pa ang scaling law na ito, ang tinatawag na GPT moment ng mga robot ay maaaring totoo nang higit sa isang marketing gimmick lamang.

Mga kaukulang link: [1]https://www.skild.ai/blogs/s1

Ang artikulong ito ay galing sa WeChat public account na “Quantum Bit”, may-akda: henry