Jeff Dean tungkol sa Susunod na Pahinga ng AI: Mula sa TPU hanggang sa Self-Evolving Agents

icon MarsBit
I-share
AI summary iconSummary
Isinampa ni Jeff Dean ang susunod na yugto ng AI sa isang sesyon ng YC Startup School, kung saan binigyang-diin na ang pagkakasentro ay nagpapalit mula sa mas malalaking modelo patungo sa mga sistema na makakapag-self-correct at mag-ebolusyon. Binigyang-diin niya ang context engineering at mga matagalang nagpapatakbo na agent, at tiniyak ang paglipat mula sa model-centric patungo sa system-centric na pag-unlad. Maaaring makipag-kaibigan ang mga startup sa pamamagitan ng pagtutok sa mga espesipikong problema kung saan nahihirapan ang mga pangkalahatang modelo. Nasa yugto ng konsolidasyon ang merkado, at ang mga may malakas na ratio ng panganib-kabutihan ay maaaring makakuha ng kahusayan.

Sa YC Startup School noong 2026, ang boses ni Jeff Dean ay medyo malakas.

Sa simula ng interbyu, ipinaliwanag niya na nawala ang kanyang boses, kaya parang iba ang kanyang tinig ngayon. Ngunit hindi ito nakaaapekto sa atensyon ng mga tagapakinig sa ilalim. Ang YC partner na si Diana Hu, nagsalita nang walang paghinto at isinampa ang isang listahan ng mga pangalan na makakasulat sa kasaysayan ng kompyuter: MapReduce, BigTable, TensorFlow, TPU, Gemini.

Agent

Sapat ang anumang proyekto upang maging representasyon ng karera ng isang inhinyero. Ngunit nakapagsasama-sama ang mga ito sa resume ni Jeff Dean at ng isang grupo ng mga inhinyero ng Google.

Hindi ginawa ni Diana ang interview bilang isang pagpupugay sa kanyang mga tagumpay. Mas nag-aalala siya sa isang ibang tanong: Kapag ang generative AI ay nagsakop na sa industriya ng software, ano ang tinitingnan ni Jeff Dean, ang pinakamahusay sa pagbabago ng mga sistema mula sa ilalim, ngayon?

Hindi mas malaking modelo ang sagot.

Sa isang usapan na halos isang oras, paulit-ulit ni Jeff Dean binanggit ang mga hardware para sa inference, enerhiya, paghahatid ng data, paggawa ng konteksto, mga Agent na nagtatrabaho sa mahabang panahon, at ang paraan kung paano maiiwasan ng mga startup ang direkta at malakas na paghaharap sa mga pangkalahatang modelo. Ang kanyang mga pagsasalita ay tila magkakahiwalay, ngunit may isang malinaw na pangunahing ideya sa likod nito: Ang susunod na yugto ng AI ay hindi lamang paggawang mas matalino ang mga modelo, kundi pagsisilip sa isang sistema na kaya magtrabaho nang matagal, magpatuloy na subukan at mali, awtomatikong i-verify, at patuloy na magtipon ng kakayahan.

Ito ay nangangahulugan na ang kompetisyon sa AI ay nagmumula sa "sino ang may mas malaking model", patungo sa "sino ang makakakita nang mas mahusay sa pag-organisa ng智能化".

Isa, ang AI ay naging tulad ng isang junior engineer, ngunit ito ay hindi ang pinakamahalagang pagbabago

Noong Mayo 2025, ginawa ni Jeff Dean ang isang pagtataya na nagdulot ng malawakang diskusyon: ang kakayahan ng AI ay malapit na sa antas ng isang junior engineer.

Agent

Isang taon pagkatapos, tinanong ni Diana siya kung paano nagkakaroon ng katotohanan ang prediction na iyon?

Direkt ang sagot ni Jeff Dean. Naniniwala siya na ang paghuhusga ay “sobrang tama.” Mas mabilis ang pag-unlad ng modelo sa pagiging agent, mahabang proseso ng coding, at mga kumplikadong gawain kaysa sa kanyang naunang inaasahan.

“Ang kakayahan ng modelo na maisagawa ang mga mas kumplikadong gawain ay tumataas nang mas mabilis kaysa sa aking inaasahan,” sabi niya.

Mas nakakatanda, ang kakayahang ito ay hindi na limitado sa pagsusulat ng code. Lalong lumalawak ang mga Agent system sa agham, inhinyeriya, at iba pang propesyonal na larangan. Hindi lamang sila sumasagot ng mga tanong, kundi hinahati nila ang mga gawain, ginagamit ang mga kasangkapan, isinasagawa ang mga eksperimento, binabasa ang mga resulta, at patuloy na gumagalaw batay sa feedback.

Ang paghahambing sa AI bilang isang junior engineer ay madaling naglalayong tumutok sa pagpapalit ng puwersa ng paggawa. Ngunit mas nag-aalala si Jeff Dean sa isang ibang antas ng pagbabago: ano ang mangyayari sa paraan ng pagpapalawak ng produksyon kung ang isang “junior engineer” ay maaaring kopyahin sa mga dekada, daan-daang beses, at magtrabaho nang sabay-sabay sa loob ng ilang araw o linggo?

Sa tradisyonal na tim, kailangan ng mga junior engineer na makilala ang negosyo, maintindihan ang mga kasangkapan, at patuloy na makakuha ng feedback. Parehong nangyayari sa isang Agent. Ang pagkakatuto nito ay hindi lamang nagmumula sa dokumentasyon, kundi sa mga prompt, paliwanag ng mga kasangkapan, mga file ng kasanayan, sistema ng pagsubok, mga evaluator, at buong konteksto.

Nagdudulot ito ng bagong paghahati-hati sa mga inhenyero ng AI.

Kanina, ang mga inhinyero ay pangunahing nagpapatakbo ng code. Sa hinaharap, mas maraming inhinyero ang magiging responsable sa pagtukoy ng mga problema, pagbuo ng mga kapaligiran, pagsusulat ng mga spesipikasyon, pagdidisenyo ng mga loop ng feedback, at pagpapadala ng isang grupo ng Agent upang matapos ang mga gawain.

Ang pagtataya ni Jeff Dean para sa taong 2027 ay ganito. Naniniwala siya na ang mga sistema ng machine learning ay lalong lalong magkakaroon ng papel sa pagpapabuti ng sarili nilang mga sistema. Magkakaroon sila ng kakayahang hatiin ang layunin sa mga sub-problem, awtomatikong patakbuhin ang malaking bilang ng mga eksperimento, ihambing ang mga resulta, at i-combine ang epektibong solusyon upang bumuo ng mas malakas na mga bagong sistema.

Kapag may measurable goal sa isang larangan, may pagkakataon para makamit ang malaking progreso.

Ito ang unang susi sa buong interbyu.

Ang mga larangan na pinakamuna nang hahakot ng automation sa AI ay hindi palaging ang mga may pinakamaraming kaalaman, kundi ang mga may pinakamalinaw na feedback. Kaya ba ng code na lumampas sa pagsubok, mabawasan ba ng chip layout ang sukat, mapataas ba ng model structure ang akurasi, sapat ba ang mga katangian ng materyal? Mayroong malinaw na pamantayan sa pagtataya ang mga tanong na ito. Kung sapat ang kahusayan ng evaluator, maaaring mag-eksperimento ang machine nang napakataas na frequency.

Kaya ang tunay na mahalagang yunit sa panahon ng AI ay maaaring hindi na isang sagot, kundi isang buong loop: pagtataya ng solusyon, pagsasagawa ng solusyon, pagsukat ng resulta, at pagpapabuti ng direksyon.

Dalawa: Ang pagbabago sa Google Search ay isang aritmetikong problema

Marami sa mga pangunahing gawa ni Jeff Dean ay nagsimula sa isang napakasimpleng punto: unang i-calculate ang order of magnitude.

Noong 2001, ang paghahanap ng Google ay patuloy na nakasalalay sa mga hard drive. Bagaman malaki ang kapasidad ng mga hard drive, ang pag-access sa kanila ay mabagal. Ginawa ni Jeff Dean at Sanjay Ghemawat isang pagtatantiya at natuklasan na ang buong search index ng Google noong panahong iyon ay maaari nang ilagay sa memorya ng lahat ng mga server.

Mukhang isang pag-upgrade ng medium ng pag-iimbak lamang ngayon. Ngunit noong panahong iyon, ito ay nangangahulugan ng ganap na iba't ibang disenyo ng sistema.

Kung ang index ay nasa hard drive, ang query ay kailangang maghintay para sa mechanical seek. Kapag isinasama na ang index sa memory, bababa nang malaki ang latency. Agad nilang isinulat ang bagong bersyon at isinampa ito sa production sa loob ng ilang araw. Nagkaroon ng malaking pagtaas ng bilis sa Google Search.

Ang kuwento ay madaling i-imbento bilang isang pagkakataon ng genio. Ngunit ang paraan ni Jeff Dean ay mas parang isang inhinyero na nagpapaliwanag ng karaniwang kaalaman: nagbago ang mga kondisyon ng sistema, kaya naging balidong muli ang dating hindi magiging epektibong solusyon—kaya dapat mong kalkulahin muli.

Maraming inobasyon sa industriya ang nangyayari sa mga panahong ito.

Isang lumang problema ay patuloy na umiiral, at ang mga tao ay naging kumportable sa paggawa ng mga patch dito. Pagkatapos, ang presyo ng hardware, kapasidad ng memorya, bandwidth ng network, o kakayahan ng model ay lumampas sa isang kritikal na punto, at nawala ang mga dating limitasyon. Gayunpaman, ang karamihan ay patuloy na gumagamit ng lumang arkitektura dahil ang lumang arkitektura ay naging karaniwang kaalaman.

Ang kaya ni Jeff Dean ay ang pagbabalik ng karaniwang kaalaman bilang isang hipotesis.

Sasabihin niya: Bakit kailangang gawin ito nang ganito? Pareho pa ba ang sukat ngayon sa sukat kahapon? Kung palitan ang pinakamahal na hakbang, babago ba ang buong sistema nang lubos?

Ito rin ang nasabing payo niya sa mga entrepreneur. Huwag lang tignan kung saan ang kulang sa mga umiiral na solusyon, kundi muling tingnan ang problema mula sa unang prinsipyo. Maaari ba naming pataasin ang performance ng isang ordeng-pamamaraan? Maaari ba naming bawasan ang gastos ng dalawang ordeng-pamamaraan? Maaari ba naming iwasan ang paggamit ng default na paraan ng industriya?

minsan, kailangan mo lang iangat ang iyong mga mata para tingnan ang isang problema, huwag maging nakabase sa kasalukuyang solusyon, kundi isipin mula sa unang prinsipyo kung paano dapat lutasin ito.

Hindi ito maliwanag. Ang tunay na hirap ay ang pagkakaroon ng maraming tao na, pagkatapos makisali sa isang industriya, agad na matututo ng lahat ng default na sagot ng industriyang iyon. Ang karanasan ay tumutulong upang mapabuti ang efficiency, ngunit maaari ring magpalabo sa kakayahang magtanong muli.

Tatlo, tatlong minuto ng boses, bakit nagbigay-daan sa isang TPU

Noong 2013, nagsimulang lampas ng Google's deep learning speech recognition ang mga lumang sistema. Bumaba ang rate ng pagkakamali ng kalahati, katumbas ng pag-unlad sa speech recognition sa loob ng dalawang dekada na nangyari sa ilang buwan.

Natutuwa ang produkto team, ngunit unang kalkulahin ni Jeff Dean ang isang kalkulasyon.

Kung talagang mas magiging mabuti ang voice recognition, mas magiging mas handa ang mga user na gamitin ito. Kung ang bawat Google user ay gagamit ng tatlong minuto lang ng voice recognition araw-araw, ilang server ang kailangan ng Google para suportahan ito?

Hindi maayos ang resulta. Ayon sa efficiency ng CPU noong panahong iyon, kailangan ng Google na palakasin ang sukat ng kanilang server nang dalawang beses.

Ito ang simula ng TPU.

Hindi ito dahil sa pagpapasya ng research team na gumawa ng chip, o upang patunayan na may kakayahan ang Google na gumawa ng hardware, kundi dahil sa isang matagumpay na model na malapit nang maglikha ng hindi kayang tanggapin na gastos sa serbisyo.

Nagpapakita ang kasaysayang ito ng isang madalas na nakakalimutang batayan sa mga produkto ng AI: ang pagpapabuti ng epekto ng modelo ay hindi laging nagbabawas ng gastos. Sa katotohanan, mas mabuting epekto, mas malaking paggamit, mas malakas ang presyur sa sistema.

Kapag hindi magandang gumagana ang voice recognition, kaunti lang ang mga user na gumagamit nito. Ang gastos ng sistema ay hindi isyu. Kapag bumaba nang malaki ang rate ng pagkakamali, biglang nalabas ang pangangailangan, at ang mga limitasyon sa computing power na nakatago sa likod ay naging makikita.

Ang TPU ay isang espesyalisadong hardware na disenyo para sa pinakamahalagang computing pattern sa machine learning. Hindi nito kailangang run ang browser o tratuhin ang lahat ng pangkalahatang programa. Mas mahusay ito sa mababang precision at dense linear algebra. Ang mga uri ng computing na ito ay nasa sentro ng modernong machine learning.

Ang unang henerasyon ng TPU ay nagdala ng pagtaas sa antas ng kita. Ayon kay Jeff Dean, ito ay 30 hanggang 80 beses na mas epektibo sa enerhiya kaysa sa CPU at GPU noong panahong iyon, at 20 hanggang 30 beses na mas maliit ang latency.

May isa pang disenyo na sukat na madalas na nalilimutan.

Ang TPU ay napaka-specialized, ngunit hindi napaka-specialized hanggang sa maaari lamang patakbuhin ang isang fixed na modelo. Alam ng team na mabilis pa ring magbabago ang mga algoritmo ng machine learning, kaya isinagawa nila ang pagdisenyo ng chip bilang isang mas pangkalahatang sistema ng linyar na alhebra. Ipinagkupya nito ang kakayahang patakbuhin ang Chrome o Word, ngunit pinanatili nito ang espasyo para sa pag-unlad ng mga algoritmo sa hinaharap.

Ito ay isang mahirap paghawakan na balanse. Kung sobrang kaunti ang paggamit, hindi malinaw ang kita. Kung sobrang marami ang paggamit, agad na magiging obsolete ang hardware kapag magbago ang algorithm.

Ang pagtataya ni Jeff Dean sa kasalukuyang hardware para sa inference ay may malinaw na pagkakatulad sa TPU noong unang panahon. Naniniwala siya na ang susunod na mahalagang pagkakataon ay nasa pagkakaroon ng espesyalisadong sistema, ngunit ang pagkakabigay-diin ay magiging mas malalim sa mababang latency at mababang paggamit ng enerhiya para sa inference.

Isipin mo kung ano ang maaari mong gawin kung ang pagkakaroon ng delay ay maaaring mapabuti ng 50 beses.

Kapag kailangan ng ilang sampung segundo ang pagkakasagot ng modelo, isinusulat ito ng mga tao bilang isang kasanayan na gamitin nang pansamantala. Kapag ang pagkakaroon ng delay ay malapit sa real-time, maaari itong masisilip sa interaksyonal na interface, robot, real-time video, operating system, at mga patuloy na proseso ng desisyon.

Hindi ito isang maliit na problema sa user experience. Ang paghihintay ay nagbabago sa anyo ng produkto.

apat: Ang gastos ng AI ay hindi ang pagkalkula, kundi ang paghahatid ng data

Kung gagawin ang isang updated na bersyon ng “Mga Numero ng Latency na Dapat Alam ng Bawat Engineer” para sa mga engineer ng AI noong 2026, naniniwala si Jeff Dean na ang pagtingin ay dapat lumipat mula sa seek time ng hard drive, cache miss, at latency sa network sa pagitan ng kontinente, patungo sa paggalaw ng data sa loob ng chip.

Kailangan ng mga inhinyero na malaman: ano ang bandwidth mula sa pangunahing memorya patungo sa on-chip memorya, ano ang bandwidth mula sa on-chip memorya patungo sa multiplier unit, gaano karaming enerhiya ang kailangan para sa isang pagpaparami, paano nakakonekta ang mga chip, at paano bumababa ang network efficiency kapag inexpand ang 500 na chip patungo sa 10,000 na chip.

Ang mga numero na ito ay tila malayo sa produkto, ngunit sa totoo lang ay nagpapasya kung anong produkto ang makakabuo.

Binigay ni Jeff Dean ang isang napakalakas na proporsyon. Ang pagkumpleto ng isang matematikong pagpaparami ay nangangailangan lamang ng halos isang pikojoule ng enerhiya. Ang paglipat ng data mula sa high-bandwidth memory sa computing unit ay maaaring magkost ng halos 1000 beses na higit.

Sa ibang salita, ang mga mahal na aksyon sa AI system ngayon ay kadalasan ay hindi ang “pagkalkula,” kundi ang “paggalaw ng mga bagay na kailangang kalkulahin.”

Ito rin ang nagpapaliwanag kung bakit mahalaga ang batch processing.

Pagkatapos ma-transfer ang isang set ng model weights mula sa memory sa computing unit, kung ang isang token lang ang prosesuhin, ang buong gastos sa pagdadala ng data ay isasagawa sa isang token lamang. Kung mas malaking batch ang pinaproseso nang sabay-sabay, maaaring gamitin ng mas maraming computation ang parehong weights, at nababawasan ang gastos sa enerhiya at bandwidth.

Ngunit ang batch processing at low latency ay natural na magkakasalungat. Upang makapag-umpisa ng isang batch ng mga kahilingan, kadalasan ay kailangan ng sistema na maghintay. Tumaas ang throughput, ngunit maaaring maging mas mabagal ang response para sa bawat user.

Kaya maraming mga problema na tila nanggagaling sa model layer, sa katotohanan ay mga problema sa hardware at sistema. Bakit ginagamit ang malalaking batch sa pagtatrain, bakit kailangan ng KV Cache ang inference, bakit hinahanap ng model ang mababang precision, at bakit kailangan ng sistema ang quantization—lahat ng ito ay nauugnay sa paghahatid ng data at mga limitasyon sa enerhiya.

Mas nakikinig si Jeff Dean sa pagpapatakbo, at dahil dito, napakasensitibo ng pagpapatakbo sa latency. Ang pagkakaroon ng pagkaantala sa mga gawain sa pagtuturo ay karaniwang nangangahulugan lamang na huli ang pagtatapos ng eksperimento. Ngunit ang bawat dagdag na segundo sa paghihintay sa pagpapatakbo ay direktang nakakaapekto sa karanasan ng gumagamit at sa produktibidad ng Agent.

Kung ang isang Agent ay kailangang mag-call ng model nang 1,000 beses nang tuloy-tuloy, ang pagbawas ng 50% sa isang pagkakataon ay maaaring magdulot ng malaking pagkakaiba sa kabuuang oras ng pagkumpleto ng gawain. Hindi na lang ang pagpapatakbo ng Agent sa loob ng ilang araw o linggo sa hinaharap.

Kaya ang "problema sa enerhiya" ng AI ay hindi isang malayong isyu sa kalikasan. Direktang nagdedesisyon kung maaari bang magbigay ng serbisyo sa mas maraming tao nang mura, kung maaari bang magpatuloy ang Agent, at kung malusog ba ang gross profit ng mga startup.

Limang, ang modelo ay isang bahagi lamang, ang konteksto ang talagang lugar ng trabaho ng Agent

Sa mga nakaraang taon, ang industriya ng AI ay karaniwang gumagamit ng bilang ng parameter, mga datos sa pagtuturo, at mga marka sa benchmark upang sukatin ang pag-unlad. Sa 2026, pinapahalagahan ni Jeff Dean ang lahat ng nasa paligid ng modelo.

Ang isang totoong makabuluhang AI system, maliban sa model, ay kailangan ng retrieval, mga tool, memorya, historical information, execution environment, at feedback mechanism. Ang model ay dapat malaman kung anong mga tool ang available, kailan gamitin ang mga tool, kung paano i-decompose ang mga kumplikadong problema sa isang serye ng mga aksyon, at kaya ring ihambing ang iba’t ibang solusyon upang matukoy kung alin ang mas malamang na magtagumpay.

Ito ang dahilan kung bakit ang "context engineering" ay nagsimulang dumating sa sentro ng atensyon.

Sinabi ni Jeff Dean na ang impormasyon na nakikita ng modelo sa panahon ng pagtuturo ay huling "in搅拌" sa mga libo-libo o milyon-milyon na parameter. Pareho ito ng isang malakas na sabaw, kung saan ang kaalaman ay mayroon, ngunit hindi laging malinaw. Ang impormasyon na talagang isinasaad sa kasalukuyang konteksto ay mas direkta at mas madaling gamitin nang tama ng modelo.

Nag-iwan ito ng mahalagang pagkakataon para sa mga maliit na team.

Ang pag-train sa mga pangunang modelo ay nangangailangan ng malaking kapital, data, at computing power. Ang paggawa ng konteksto naman ay maaaring magsimula sa isang API. Maaaring mag-organisa ang mga negosyante ng kanilang kaalaman sa larangan, mga kasangkapan at proseso, data ng mga kliyente, at mga pamantayan sa pag-e-evaluate upang gawing mas mapagkakatiwalaan ang mga pangkalahatang modelo sa isang maliit na aplikasyon.

Ibinigay ni Jeff Dean ang isang halimbawa mula sa kanya.

Madalas niyang pinapabuti ang mga pang-ilalim na library ng Google kasama si Sanjay Ghemawat. Maaaring magpapatakbo ang mga istruktura ng data sa milyon-milyon na proseso, isang I-click Ang mga pagkakaiba sa performance ay lalaki dahil sa sukat. Ang tradisyonal na paraan ay ang mga inhinyero ay unang sumusulat ng microbenchmarks, sinusukat ang kasalukuyang performance, pagkatapos ay binabago ang code, binabawasan muli ang benchmark, obserbahan ang paggamit ng cache at pagbabago sa performance, at patuloy na iterasyon.

Isinulat ng dalawang tao ang这套工作方法 bilang isang Agent skill. Natutunan ng modelo kung paano jalurin ang benchmark, baguhin ang code, ihambing ang mga resulta, at paano patuloy na mapapabuti batay sa pagsukat.

Tinawag namin sa ito ang paraan na ginagamit ng mga tao sa isang anyo na maaaring gamitin ng modelo.

This sentence can almost be considered a naive definition of context engineering.

Hindi ito isang maliit na nakakagulat na teknik sa pagpapahiwatig, ni hindi ito pagpaparami ng karagdagang konteksto. Ito ay ang pagtugon sa tatlong tanong: Ano ang mga hakbang na gagawin ng eksperto, anong mga kapani-paniwala kasangkapan ang mayroon ang sistema, at paano dapat i-verify ang resulta.

Pagkatapos ay isang istrukturadong anyo, ang modelo ay hindi nakakakuha ng higit pang kaalaman, kundi isang set ng maaaring paulit-ulitin na pamamaraan.

Ito rin ang dahilan kung bakit ang “skill” ay naging mahalagang aset sa ecosystem ng Agent. Maaaring maglalaman ng mga taon ng nakatagong karanasan ng isang team ang isang mahusay na file ng skill. Ito ay nagtuturo sa model kung ano ang dapat gawin muna kapag nakakakita ng isang uri ng problema, ano ang mga karaniwang pagkakamali, ano ang mga kasangkapan na maaasahan, at ano ang ituturing na kumpleto.

Ang pagkakaiba ng mga hinaharap na kumpanya ay malamang ay hindi lamang nasa mga timbang ng modelo, kundi pati na rin sa mga karanasan na nakakod sa mga workflow.

Anim, bakit nagsimula ang pagkawala ng kontrol ng Agent sa hakbang 30?

Karamihan sa mga tim na talagang nagawa ang Agent, ay nakakakita ng parehong sitwasyon.

Mabilis ang mga unang hakbang. Ang modelo ay nakakabasa ng mga pangangailangan, nakakagamit ng mga kasangkapan, at nakasusulat ng code. Ngunit sa ikatlong pula o ikalimampung hakbang, nagsisimula itong kalimutan ang layunin, maliit ang pag-unawa sa estado, paulit-ulit ang mga aksyon, o lalong lumalayo sa maling direksyon.

Ipinagkakaroon ni Jeff Dean ang isa sa mga dahilan sa out-of-distribution problem.

Nakakakita ang modelo sa malaking dami ng karaniwang mga gawain sa pagtuturo. Kapag nananatili ang gawain sa pamilyar na “maliwanag na daan,” karaniwang mabuti ang performance. Kapag pinapagpatuloy ang mga operasyon at dinala ito sa hindi pamilyar na estado, bumabagsak agad ang performance. Mas malayo sa komportableng zona, mas madali na makumpuni ang mga error.

Isang solusyon ay ang pagbibigay ng kasanayan at mga tip upang limitahan ang modelo sa mga landas na kilala nito. Ang isa pang solusyon ay ang paggamit ng maraming Agent system.

Maaaring subukan ng maraming Agent iba’t ibang solusyon, at pagkatapos ay isang iba pang modelo ang gagampanan bilang tagapagsuri upang matukoy kung aling direksyon ang may mas malaking potensyal. Ang mga nabigo ng mga sangay ay itinatapon, habang ang mga tagumpay na sangay ay patuloy na ipinagpapatuloy. Ito ay sa puso ay isang paghahanap sa panahon ng pag-iisip.

Hindi ito nakakakilala sa paraan ng paggawa ng tao. Sa harap ng mga kumplikadong problema, isang tao ang nagmumungkahi ng solusyon, iba ang nagrerebyu ng mga panganib, at ang ikatlo ay nagpapatakbo ng mga eksperimento. Ang koponan ay hindi naglalagay ng lahat ng kanilang pag-asa sa unang ideya, kundi nagbabawas ng panganib ng isang puntos ng pagkakamali sa pamamagitan ng paghahati-hati ng mga gawain at feedback.

Mas mahaba ang pagpapatakbo ng agent, mas hindi dapat mag-asa ang sistema sa isang tama lang na pagkakataon.

Ang totoong maaasahan na long-range agent ay kailangan ng checkpoints, state management, rollback, branch exploration, external evaluation, permission control, at exception recovery. Ito ay mas katulad ng isang distributed system kaysa sa isang napakahabang chat window.

Ito ay tamang punto kung saan ang background ni Jeff Dean ay nagsisimulang maging mahalaga muli.

Isa sa pangunahing problema na lutasin ng MapReduce ay kung paano paganahin ang maraming hindi kumpiyansang mga machine upang makamit ang maaasahang pagkalkula. Ang kasalukuyang Agent system ay nakakatunggali sa katulad na kontradiksyon: ang isang pagtawag sa model ay hindi perpekto, at ang mga kasangkapan ay maaaring magkamali, ngunit ang buong gawain ay dapat patuloy na matapos nang maayos.

Ang hinaharap na mahusay na platform ng Agent ay maaaring magdala ng maraming mga ideya mula sa distributed systems. Ang mga gawain ay maaaring hatiin, ang mga resulta ay maaaring i-verify, ang pagkabigo ay maaaring subukang muli, ang estado ay maaaring mabawi, at ang lokal na pagkakamali ay hindi dapat magpapahinto sa buong proseso.

Kapag sinabi ni Jeff Dean na magpapatakbo ang Agent sa loob ng ilang araw o kahit ilang linggo, hindi niya ito inilalarawan bilang isang mas mahabang pag-uusap. Ibinibigay niya ang isang bagong imprastruktura sa kompyutasyon.

Pitong: Paano makakalaban ng dalawa o tatlong tao ang Google: Paghahanap ng mga problema kung saan ang tagumpay ng modelo ay only 1%

Sa konteksto ng Startup School, ang pinakamalaking tanong ay ang pagkakataon sa pagpapatakbo ng negosyo.

Ang Google ay maaaring magkakasama sa pagdisenyo ng mga chip, data center, model, at produkto. Ang mga pangkalahatang model tulad ng Gemini ay patuloy na lumalawak sa kanilang mga hangganan ng kakayahan. Paano makakapanalo ang isang tim na may dalawa o tatlong tao?

Hindi romantiko ang sagot ni Jeff Dean.

Ang mga pagkakataon para sa maliit na team ay karaniwang nasa mga espesipikong larangan na hindi sapat na pinapansin ng mga pangkalahatang modelo. Maaaring i-combine ng mga entrepreneur ang interface ng produkto, propiyetaryong data, workflow, at mga kasanayan sa larangan upang magbigay ng mas mataas na akurasyon at mas magandang karanasan sa isang maliit na skenaryo.

Ngunit agad niyang binigyan ng babala: ang mga pangkalahatang modelo ay mabilis na nagiging mas malakas. Ang mga tampok ng produkto na tila magkakahiwalay ngayon, ay maaaring masakop nang direkta ng mga pangunahing modelo sa loob ng anim o labing-dalawang buwan.

Kaya kailangan ng mga entrepreneur na masuri kung ang kanilang mga kakayahan ay matatag.

Binigay ni Jeff Dean isang partikular na pamantayan sa pagpili: hanapin ang mga gawain kung saan ang kasalukuyang pagkakatagumpay ng pangkalahatang modelo ay malapit sa 0% o 1%, hindi ang mga gawain na kaya nang gawin ang 20%.

Kung lubos na nagkakamali ang modelo, maaaring ito ay isang mabuting tanda. Kung kaya nito nang bahagya ang paggawa, ngunit hindi lubos na mabuti, hindi kailangang mabuting tanda.

Ang dahilan ay simpleng: ang 20% ay nangangahulugan na ang kakayahan ay nagsisimula nang lumabas. Mas maraming data, mas malalaking modelo, at mas mahabang pag-iisip, malamang ay magpapabilis sa pagpapalabas nito sa paggamit. Ang 0% o 1% naman ay nagpapakita na ang gawain ay maaaring kulang sa mahahalagang data, espesyal na kasangkapan, feedback mula sa larangan, o kailangan ng isang kakayahan na mahirap maabot ng isang pangkalahatang modelo sa maikling panahon.

Ito ay maaaring tawaging ang “1% Rule” ni Jeff Dean.

Hindi ito isang rekomendasyon na pumili ng mga pinakamahirap na problema ng mga entrepreneur, kundi ang paghahanap ng mga problema kung saan may structural blind spots ang mga pangkalahatang modelo.

Mayroong tatlong uri ng ganitong blind spot.

Ang unang klase ay ang propiyetaryong data. Ang mga pangkalahatang modelo ay maaaring organisahin ang impormasyon sa mundo, ngunit hindi kinakailangang makakapag-access sa lahat ng personal na profile ng isang user, sa loob na proseso ng isang kumpanya, o sa real-time na data na ginagawa ng isang device. Kapag nakakakuha ang isang startup product ng mga data na ito, maaari itong makabuo ng isang pananaw na iba sa mga pangunahing modelo.

Ang ikalawang klase ay ang propesyonal na pagtataya. Maraming industriya ay hindi kawalan ng kakayahang maglikha, kundi kawalan ng maaasahang pagpapasya. Ang medisina, materyales, chip, paggawa, at siyentipikong pananaliksik, ay nangangailangan ng mataas na kalidad na validator. Sino ang makakadefinir ng “ano ang tama”, siya ang makakapagpapatuloy sa pagpapabuti ng Agent.

Ang ikatlong klase ay ang maliit ngunit malalim na modelo. Ang AlphaFold ay hindi isang pangkalahatang chat model; ito ay nagtatag ng mataas na espesyalisadong kakayahan para sa problema ng protein structure. Sa materyal na siyensiya, disenyo ng chip, at iba pang espesyalisadong larangan, maaari ring umusbong ang katulad na pagkakataon.

Hindi madali ang paggawa ng ganitong pagtataya para sa mga entrepreneur. Kailangan ng team na maintindihan ang hangganan ng kakayahan ng modelo, pati na rin ang mga problema sa loob ng industriya. Ang pagiging marunong lang sa AI ay maaaring magdulot ng mga tampok na agad na masasakop ng platform. Samantala, ang pagiging marunong lang sa industriya ay maaaring magbunsod ng pagkakamali sa pagbabala sa bilis ng pag-unlad ng modelo.

Ang totoong pagkakataon ay nasa hangganan ng dalawa.

Walo, kapag ang code ay hindi na kakaunti, mas mahal ang mga spesipikasyon, lasa, at pagpili ng mga problema

Ibinigay ni Diana ang isang hipotesis: Kung sa hinaharap, bawat founder ay makakapagmaneho nang одночасно ng 50, 100 Agent, at lahat ng code ay isusulat ng Agent, anong kakayahan ang magiging nakakakita?

Ang sagot ni Jeff Dean ay "pagsusuri".

Mas tiyak na ito ay pagtukoy kung ano ang dapat gawin ng Agent.

Naniniwala siya na ang karamihan sa halaga ng pananaliksik ay hindi nasa kung gaano kagaling ang pagpapatupad ng mga eksperimento, kundi kung nagpili ba sila ng isang mahalagang isusulong na tanong. Maaaring gamitin ng isang team ang pinakamatalinong paraan upang tapusin ang isang hindi mahalagang pag-aaral. Maaari rin silang makahuli ng isang mahalagang problema, at kung lutasin, ay magbabago ito sa buong larangan.

Pagkatapos bawasan ng agent ang gastos sa pagpapatupad, ang kahalagahan ng pagpili ng problema ay lalalo pang tataas.

Kanina, isang abstrak na ideya ay natutong mawala dahil masyadong mataas ang gastos sa pagbuo. Sa hinaharap, kung gagamitin ang sapat na mga Agent, maraming ideya ay maaaring agad pang gawing prototype. Hindi lalabas nang awtomatiko ang mas maraming magagandang produkto sa mundo, kundi mas maraming produkto lamang.

Ang mga spesipikasyon ay magiging mas mahalaga rin.

Sinabi ni Jeff Dean na ang mas malinaw ang layunin habang nagtatrabaho kasama ang virtual agent, mas mataas ang tagumpay. Noon, ang mga malabo na kahilingan ay ibinigay sa isang karanasan na inhinyero, na maaaring magtanong at magamit ang kanilang komon na kaalaman upang mabuo ang intensyon. Bagaman maaari ring magtanong ang mga agent, mas madalas silang magtantiya nang walang sapat na konteksto.

Isang karaniwang may mataas na antas ng tagumpay ang gawain na ilipat ang isang software mula sa isang programming language patungo sa isa pa. Ang dahilan ay hindi ang paglipat ay simpleng gawain, kundi dahil ang mga spesipikasyon ay napakakumpleto. Ang lumang code ay nagtatakda ng pag-uugali, habang ang mga pagsubok ay nagtatakda ng mga hangganan; ang Agent ay maaaring tumbok-tumbok na i-verify hanggang sa magkakapareho ang pagganap ng bagong bersyon.

Ngayon ay kayang isulat ng Agent ang software para sa iyo, ngunit mas mahalaga na ipaliwanag mo kung ano talaga ang hinahanap mo.

May direkta na implikasyon ang pahayag na ito sa mga sinasabing AI-native na organisasyon.

Hindi na lang magkakaroon ng mga manager sa hinaharap na nagpapahintulot ng mga gawain, kundi magkakaroon din ng mas malinaw na mga layunin at mga pamantayan sa pagtataya. Ang mga dokumentong disenyo ay hindi na lang magiging materyales para sa komunikasyon ng team, kundi magiging input para sa pagpapatupad ng mga machine. Ang pagsubok, mga indikador, mga limitasyon, at mga halimbawa ay magiging mas maaga sa proseso ng pagbuo—mula sa huling bahagi patungo sa pagtukoy ng gawain.

Tungkol sa paano ituturo ang “taste”, ang paraan na ibinigay ni Jeff Dean ay praktikal.

Isulat ang isang listahan ng mga bagay na naniniwala kang magiging mahalaga sa susunod na 12 buwan. Hindi mo kailangang gawin lahat. Pagkatapos ng 12 buwan, suriin muli kung alin sa mga ito ang naging totoo, alin ang ginawa ng iba, at alin ang walang progreso. Sa pamamagitan ng patuloy na pagkolekta ng mga palagay, magiging mas tama ang iyong paghuhusga.

Hindi lamang talaga ang pagkakaroon ng lasa isang biyaya. Maaari rin itong matutunan sa pamamagitan ng pagsusuri at pagsasanay.

Siyam, magandang isipin ang isang eksperimento, unahin ang pag-alis sa pinakamalakas na palagay ng industriya

Sa huling bahagi ng interbyu, ibinahagi ni Jeff Dean ang isang medyo kamangha-manghang eksperimento sa isip.

Sa nakaraang 60 taon, ang industriya ng chip ay patuloy na naglalayon na makamit ang mas maliit, mas matatag, at mas mababang rate ng error sa mga transistor. Ang pangkalahatang pagkaunawa ay ang mga chip na gawa sa parehong disenyo ay dapat magkakatulad nang lubos, at mas mababa ang bilang ng bit flip, mas mabuti.

Sa malalaking distributed system, ang mga inhinyero ay nagsasabayan na maaaring mabigo ang isang komponente. Maaaring masira ang hard drive, mabawasan ang machine, at mabigo ang switch. Ang reliability ng sistema ay hindi nagmumula sa pagkakawala ng pagkakamali ng bawat bahagi, kundi sa replication, verification, redundancy, at recovery.

Kaya sinabi ni Jeff Dean: Ano ang mangyayari kung ang bawat transistor ay may 20 error araw-araw, kesa isang beses sa bawat milyon na taon?

Hindi ito isang aktwal na plano ng produkto. Kailangan niya lang tanggalin ang isang karaniwang aksiyoma. Maaaring gawin ang mga transistor na lubos na hindi mapagkakatiwalaan sa isang lubos na iba’t ibang paraan, at ang sistema ay maaaring garantihin ang resulta sa pamamagitan ng maraming path at mataas na redundancy.

Hindi lahat ng mga eksperimento sa pag-iisip ay nagiging produkto. Maraming praktika sa industriya ang tumagal nang dekada-dekada, at may sapat na dahilan para dito. Ngunit naniniwala si Jeff Dean na dapat pang muli pang-imbistigahan ang mga dahilang ito nang regular.

Ang MapReduce ay galing sa katulad na proseso.

Ang mga crawler at sistema ng pag-index ng maagang Google ay naglalaman ng maraming manu-manong paralel na code, checkpoint, at logika para sa pagpapalit ng pagkabigo. Ang tunay na bisnese na kalkulasyon ay madalas ay simpleng gawain, tulad ng pagbabasa ng lahat ng mga pahina at pagtukoy sa wika ng pahina. Ngunit ang malaking bahagi ng sistema ay naglalabas ng simpleng intensyon.

Nakakakuha ng inspirasyon si Jeff Dean at Sanjay Ghemawat mula sa functional programming. Ibinabawas nila ang malalaking gawain sa Map at Reduce, at isinabuhay nila ang pagpaparalelo, pagpaplano, pagtatanggol sa pagkabigo, at pag-uulit sa isang isangpamamaraang nag-uunify. Ang mga developer ng negosyo ay kailangan lamang ipahayag ang sariling kalkulasyon.

Hindi ito nagpapalaya ng machine mula sa mga pagkakamali. Ito ay nagpapahintulot sa mga pagkakamali na mabawasan ng sistema.

Ang kasalukuyang pag-unlad ng Agent ay maaaring nasa parehong yugto. Maraming koponan ay patuloy na nagpapalayos ng mga prompt, logika ng pag-uulit, at pagtawag sa mga kasangkapan para sa bawat gawain. Sa hinaharap, magkakaroon ba ng isang simpleng abstraksyon tulad ng MapReduce na gagawing basehan ang paghahati, pag-verify, pagbabalik, at paralel na pagpapalawak ng mga malalayong Agent?

Maaaring ito ang tamang pagkakataon para sa susunod na grupo ng mga kumpanya sa infrastraktura.

Sampu: Ang AI ay nagsisimula na bumuo ng mas mahusay na AI, ang pamamaraang agham ay na-compress sa isang mabilis na siklo

Ang pinakamalaking iniisip ni Jeff Dean ay ang awtomatikong paggawa ng paraan ng agham.

Ang tradisyonal na proseso ng pananaliksik ay ang pagbuo ng isang hipotesis, pagdidisenyo ng eksperimento, pagpapatakbo ng eksperimento, pag-analisa ng mga resulta, at pagbuo ng susunod na bilang ng hipotesis. Ang bilis ng siklo na ito ay mahabang panahon ay limitado dahil sa gastos sa eksperimento at pagkakaroon ng pagkakatagilid sa pagpapatotoo.

Ang AI ay maaaring magbago ng dalawang bahagi.

Ang isang bahagi ay awtomatikong nagpapahayag at nagpapatupad ng higit pang mga eksperimento. Ang ibang bahagi ay ang pagpapalit ng mahal na validator sa murang approximation model.

Ibinigay ni Jeff Dean ang halimbawa ng quantum chemistry. Upang matukoy ang mga katangian ng isang molecular configuration, ang mga siyentipiko ay maaaring jalurin ang density functional theory simulation. Maaaring magtrabaho ang isang simulation nang buong gabi. Ginamit ng mga siyentipiko ng Google ang isang malaking dami ng mga input at output ng simulation upang turuan ang isang neural network approximator. Malapit ito sa accuracy ng orihinal na simulator, ngunit mas mabilis nang humigit-kumulang 300,000 beses.

Pagkatapos magbago ang bilis ng pag-verify, babago rin ang anyo ng mga scientific question.

Kanina, ang pagpili sa 10 milyong mga kandidato ay maaaring isang proyekto na nangangailangan ng ilang buwan ng computing power. Ngayon, ang sistema ay makakapagtapos sa unang pagpili habang ang mga siyentipiko ay kumakain ng tanghalian. Ang mga eksperimento ay hindi na mga mahalagang iisang taya, kundi naging isang mataas na kalikasan ng paghahanap.

Ito rin ang karaniwang lohika sa likod ng mga sistema tulad ng AlphaEvolve at AlphaChip. Ang modelo ang nagpapropose ng solusyon, ang mga kasangkapan ang nagpapatupad ng solusyon, at ang evaluator ang nagpili ng mga resulta, at ang mga mahusay na resulta ay papasok sa susunod na pagsisikap. Habang sapat na mabilis ang loop, ang sistema ay patuloy na mag-eeksplorasyon sa malaking espasyo ng mga solusyon.

Ang machine learning ay magiging objekto rin ng ganitong automated na agham.

Ngayon, ang mga malalaking team ng pag-aaral ay karaniwang binubuo ng mga tao na nagmumungkahi ng mga bagong arkitektura o paraan ng pag-train, kung saan una silang nagpapatakbo ng mga maliliit na eksperimento, at pagkatapos ay pumipili ng mga promiseng solusyon para i-scale. Naniniwala si Jeff Dean na walang pangunahing hadlang na humahadlang sa mga modelo upang takpan ang mas maraming mga bahagi dito. Ang mga tao ang nagbibigay ng mataas na direksyon, samantalang ang sistema ay awtomatikong nag-aaral ng mga istruktura, mga recipe ng data, at mga estratehiya sa pag-train, at pagkatapos ay pinagsasama ang mga matagumpay na eksperimento upang lumikha ng mga bagong modelo.

Ang mga indikador para sa pagmamarka ng efisyensiya ng pananaliksik sa hinaharap ay maaaring hindi na lamang ang flops bawat segundo, kundi ang “kung gaano karaming epektibong pagkakatuklas ang nabubuo bawat yunit ng computing power”.

Mahalaga talaga ang hashing power. Mas mahalaga pa kung paano isasalin ang hashing power sa pagkakatuklas.

Eleven: Ang papel tungkol sa distilasyon na tinanggihan ng NeurIPS, at kung paano makikita ang pagkabigo

Noong 2014, inilathala ni Jeff Dean, Geoff Hinton, at Oriol Vinyals ang isang papel tungkol sa knowledge distillation. Ngayon, ang knowledge distillation ay isang pangunahing paraan sa model compression at capability transfer. Ang malalaking modelo bilang guro, ay nagpapadala ng kakayahan sa mas maliit, mas mabilis, at mas murang student model.

Ang papel na ito na nagdulot ng malalim na epekto sa pagkaraan, ay tinanggihan noong panahong iyon ng NeurIPS.

Isinasaad ng isang reviewer na «hindi malamang makapagdulot ng malaking epekto». Ang mga mambabasa na interesado ay maaaring bisitahin ang «Hindi Pagkakatanggap = Pagkabigo! Ang mga ito ay mga mataas na epekto na papel na tinanggihan ng mga top conference».

Hindi nagpapakita ng galit si Jeff Dean habang binabanggit ang karanasang ito. Sinabi niya, maaaring hindi nauunawaan ng mga reviewer ang mga praktikal na hamon na kinakaharap ng malalaking AI service. Para sa Google, mahalaga talaga ang pagpapalit ng mahal at malalaking modelo sa mas maliit na modelo na makakasailalim sa mga milyon-milyong gumagamit. Para sa mga reviewer na nakatuon lamang sa pagkakaroon ng bagong teorya, hindi ito maaaring mukhang sapat na “pundamental.”

Pagkatapos ay tinanggihan ang papel, isinampa ng team ito sa arXiv. Patuloy pa rin ang industriya na basahin ito at gamitin ito.

Ngayon, ang Gemini Flash model ay maaaring manatili sa malakas na kakayahan habang gumagamit ng mas maliit na sukat at mas mababang latency, at ang distilasyon ay isa sa mga mahalagang paraan dito.

Hindi lamang ito isang inspirasyonal na materyal na nagsasabi na "kung titingin ka, magkakaroon ka ng tagumpay." Ipinapakita nito na may mga blind spot ang bawat sistema ng pagtataya. Ang halaga ng isang solusyon, minsan ay only nakikita ng tunay na nagdadasal sa bottleneck ng sistema.

Mahalaga rin ito para sa mga entrepreneur.

Ang pagtutol mula sa merkado, mga investor, at mga katindigan ay maaaring magbigay-diin sa maling direksyon, o maaari ring dahil sa pagkakaroon ng iba’t ibang konteksto sa problema. Ang pagkakaiba ay nasa kung may sapat na espesipikong ebidensya ang tim na alam kung bakit mahalaga ang problema at bakit ito ay maaaring lutasin ngayon.

Hindi pinapayuhan ni Jeff Dean ang mga tao na magpatuloy nang walang pag-iisip. Pinapayuhan niya ang pag-unawa sa problema, patuloy na pagsusuri, at huwag isipin na ang isang pagtataya ay ang huling hukom sa mundo.

Labing-dalawa, ano ang gagawin ni young Jeff Dean ngayon?

Sa huli ng interbyu, binigay ni Diana ang isang tanong na may imahe.

Kung ipapadala ang batang Jeff Dean noong 1999, nang siya ay sumali sa Google, patungo sa taong 2026, sasali ba siya sa isang avant-garde na laboratorio o magtatatag ng isang kumpanya kasama ang dalawa o tatlong kaibigan?

Hindi ibinigay ni Jeff Dean ang standard na sagot.

Ang mga malalaking organisasyon ay may estruktura, platform, at maraming mahuhusay na kasamahan. Sa loob nito, maaari mong ma-access ang mga kaalaman na hindi mo alam at gamitin ang mga matatag na produkto upang makaaapekto sa mga gumagamit sa buong mundo. Ang mga maliit na team naman ay mas malaya, ngunit mas malaki ang risk. Dapat talagang paniniwalaan ng founder ang isang problema at handa mag-isip ng ilang taon habang nagtatanggol sa kawalan ng siguradong kinabukasan.

Ang kanyang pamantayan sa paghuhusga ay mas pangunahin kaysa sa “sumali sa malaking kumpanya o mag-start ng sariling negosyo”.

Kung lutasan ko ang problema na ito, at ang pinakamabuting resulta ay talagang mangyari, babago ba nito nang malinaw ang mundo, o sasabihin lang lang ng mga tao, “Ang galing,” tapos wala na?

Kung ang sagot ay only “cool,” maaaring hindi ito karapat-dapat sa pinakamahalagang oras.

Pinahalagahan niya rin ang kahalagahan ng mga kasamahan. Dapat hanapin ang mga taong may komplementarong kakayahan, mababang pagkakataon sa sarili, handang magtrabaho nang kooperatibo, at maganda sa pagkakasama. Ang mga totoo nang mahihirap na problema ay kadalasang nangangailangan ng matagal na pagkakasama. Mas mainam kung mayroon bawat miyembro ng tim ng mga kagamitan na walang iba, at patuloy na palawakin ang kanilang sariling “tool belt” habang nagtatrabaho nang magkakasama.

Mayroong simpleng pagkakakilanlan ng isang matandang inhinyero.

Ang industriya ng AI ay mahilig mag-usap tungkol sa paglago ng eksponensyal, superinteligensya, at malalaking pagsasapalaran. Ngunit ang huling pagpili ni Jeff Dean ay bumabalik sa tatlong simpleng bagay: gumawa ng isang tunay na pinag-aaralan na isyu, magtrabaho kasama ang mga minamahal, at gawin ang lahat ng makakaya upang gawing mas mabuting mundo.

Wakas: Ang pinakakakulang sa panahon ng AI ay ang pagkakita nang malinaw sa problema

Mayroong maraming legenda na paulit-ulit na binabanggit sa karera ni Jeff Dean.

Isinulat niya ang muli ang sistema ng paghahanap kasama si Sanjay Ghemawat sa loob ng ilang araw, upang ilagay ang index sa memorya. Isang pagtatantiya tungkol sa isang tatlong-minutong talaan ang nagpabilis sa paggawa ng TPU ng Google. Ang MapReduce ay nagtago ng malawakang paralelismo at fault tolerance sa isang magkakaisang abstrak. Ang knowledge distillation ay naging isang pangunahing teknolohiya sa industriya mula sa isang papel na tinanggihan.

Maaaring madaling isipin mong isang genyo na patuloy na nakakakuha ng inspirasyon.

Ngunit batay sa interbyu na ito, ang kanyang paraan ay talagang mataas na magkakasunod-sunod.

Unawain muna ang order of magnitude. Pagkatapos, hanapin ang tunay na bottleneck. Pagkatapos, tanungin ang mga default assumption at lumikha ng mas simpleng abstrakcion. Huling hakbang, gamitin ang pagsusukat at feedback upang patuloy na i-iterate ang sistema.

Nasa katamtaman na punto ang industriya ng AI ngayon.

Sapat na malakas ang modelo upang harapin ang mga gawain na kabilang sa antas ng isang junior engineer. Ang susunod na pagdedesisyon sa praktikal na produktibidad ay hindi lamang ang IQ ng modelo, kundi ang gastos sa pag-iisip, pag-organisa ng konteksto, kalidad ng mga kasangkapan, bilis ng pagsusuri, at kumpiyansa sa mahabang panahon.

Ang mga agent ay magiging lalong katulad ng mga miyembro ng tim. Kailangan nila ang malinaw na spesipikasyon, kasanayan, mga checkpoint, mga tagapagsuri, at isang sistema na nakakatanggap ng pagkabigo.

Hindi mawawala ang mga pagkakataon para sa mga startup, kundi magiging mas mahigpit lamang. Mas mabuti na huwag gawin ang mga bagay na kayang gawin ng mga pangkalahatang modelo sa 20%, kundi hanapin ang mga problema kung saan ang tagumpay ay nasa malapit sa 0% o 1%. Doon maaaring matagpuan ang mga eksklusibong data, propesyonal na evaluator, narrow-domain models, o bagong sistema ng abstrakson.

Kapag ang paggawa ng code ay naging mas mura, ang tunay na mahal ay ang problema mismo.

Ano ang dapat gawin? Ano ang mga limitasyon na luma na? Ano ang mga pagbabago na just crossed the tipping point? Ano ang sistema na kung mabilisin sa 50 beses, magiging ibang produkto?

Hindi ibinigay ni Jeff Dean ang isang listahan ng mga pagkakataon para sa 6,000 mga entrepreneur. Ibinalita niya ang isang mas matatag na paraan ng pag-iisip.

Huwag magsipagpunta agad sa pinakamainam na sagot.

Kalkulahin muna ang tanong.

Link sa pagmamasid

https://x.com/ycombinator/status/2082938685071491219

https://www.ycrootaccess.com/p/jeff-dean-the-1-rule-for-building

Nakapost sa WeChat public account na “Machine Heart” (ID: almosthuman2014), may-akda: Panda

Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.