Ang distilasyon ay nagpapahintulot sa bagong modelo na matutunan ang mga output ng mas malakas na modelo, na nagliligtas sa oras at kapangyarihan sa pagtuturo. Kinikilala ng ByteDance na kung hindi sila susundin ang landas na ito, mahihirapan ang kanilang language model na Seed na makasunod sa DeepSeek, Kimi, at Qwen sa maikling panahon.

May-akda ng artikulo, pinagkukunan: 0x9999in1, ME News



TL;DR

• Ayon sa The Information, noong nakaraang buwan, malinaw na ipinahayag ni Zhang Yiming, ang tagapagtatag ng ByteDance, sa pagsusuri ng buong team ng Seed: hindi gagawin ng kumpanya ang distilasyon bilang shortcut upang makasunod sa malalaking modelo, kahit na maging mas maliit ang kanilang posisyon sa maikling panahon kumpara sa mga lokal na kalaban.
• Ang distilasyon ay nagpapahintulot sa bagong modelo na matutunan ang mga output ng mas malakas na modelo, na nagliligtas sa oras at kapangyarihan sa pagtuturo. Kinikilala ng ByteDance na kung hindi sila susundin ang landas na ito, mahihirapan ang kanilang language model na Seed na makasunod sa DeepSeek, Kimi, at Qwen sa maikling panahon.
• Hindi ang teknikal na pagkakaiba ang tunay na kinakatakutan ng ByteDance, kundi ang pampolitikal na panganib. Habang patuloy na binabantayan ng pamahalaan ng Estados Unidos ang TikTok, maaaring muling magbigay ng presyon ang Washington kung akusahin ito ng malawakang pagkuha sa kakayahan ng mga advanced na modelo ng Estados Unidos.
• Noong nakaraan, tinukoy ng Anthropic ang DeepSeek, Moonshot, MiniMax, Zhipu at Alibaba dahil sa malaking pagkuha ng kakayahan ni Claude, ngunit hindi sinabi ang ByteDance.
• Hindi ito moral na mataas na posisyon, kundi pagpapasya sa panganib. Ikinalkula ni Zhang Yiming ang isang teknikal na pagpili bilang isang tanong sa pagpapalaban.

Una sa kongklusyon: Hindi ito pagiging mataas ang ulo, kundi pagkalkula.

Ipaliwanag muna ang lahat.

Tinanggihan ni Zhang Yiming ang distilasyon, hindi dahil mas nagmamahal siya sa kanyang reputasyon kaysa sa iba. Hindi rin dahil ang mga inhinyero ng ByteDance ay biglang naging naniniwala sa "paniniwala sa orihinal."

Dahil niya nalaman nang maayos ang isang kalkulasyon.

Sa mga gastos na ito, ang perang matitipid sa distilasyon ay malalim na hindi makakapagkompensa sa mga problema na maaaring dulot nito. Para sa iba pang mga Chinese AI company, ang distilasyon ay isang accelerator. Para sa ByteDance, ang distilasyon ay isang sandata.

Ang iisang galaw, kung itinuturo sa iba’t ibang tao, magkakaiba ang gastos. Ito ang buong lihim.

Kaya huwag masyadong agad ipalit kay Zhang Yiming ang kapalaluan na "teknikal na idealismo." Maraming kanyang ginawa ay malinaw, kahit medyo malamig—nagbabayad siya nang maaga para sa isang panganib na hindi nakikita ng iba.

Ano nga ba ang distilasyon? Bakit ito ginagamit ng lahat?

Magsanay muna.

Ang distilasyon, sa madaling salita, ay "pagsisimba ng AI." Isang mas maliit at mas mura na modelo na sumasalamin sa output ng isang mas malaki at mas malakas na modelo. Ano ang sagot ng guro, iyon ang tututukan ng mag-aaral. Pagkatapos matuto, ang maliit na modelo ay makakagawa ng mga gawain na malapit sa mga gawain ng malaking modelo gamit ang napakababang gastos.

Gaano kahusay ang teknolohiyang ito? Kahusay hanggang sa maging default na aksyon ng industriya.

Isipin mo. Magkano ang gastos para magsimula sa simula at turuan ang isang modernong modelo? Gaano karami ang kinakailangang computing power? Gaano karaming mataas na kalidad na data? Samantala, ang distilasyon ay katulad ng pumunta sa balikat ng iba at direktang lalampas sa pinakamahirap na bahagi.

Kaya sa ecosystem ng AI sa Tsina, ang distilasyon ay halos nasaan-man. Nang lumabas ang DeepSeek R1 at magdulot ng malaking epekto sa buong industriya, ang kontrobersiya tungkol sa distilasyon ay nagsimula ring lumitaw—ang pangkalahatang pag-uusap sa labas ay kung paano ng mga Chinese laboratoryo ay gumamit ng output ng mga advanced na model mula sa Amerika upang mabilisang palaguin ang kanilang sariling pag-unlad.

Inilah ang pag-aalala na binanggit ng OpenAI. Sinabi rin ito ng Anthropic. Pareho silang isinasaalang-alang kung dapat bang i-stringent ang kanilang mga terms of service upang pigilan ang daan na ito ng "paggawa ng copy".

Ito ang konteksto. Kapag lahat ay nagpapadala ng maikling daan, ang pagpapadala ng maikling daan ay hindi na kailangang ipaliwanag.

Ang kailangang ipaliwanag ay ang hindi sumusunod.

Ang "pangamba sa kalinisan" ni Byte: Hindi nagamit ng Seed ang distilado mula sa unang araw

Dito naman dumadating ang interesante.

Ayon sa mga ulat, ang AI research department ng ByteDance na si Seed, mula sa unang araw ng pagkakatatag, ay sumusunod sa isang hindi karaniwang patakaran: hindi gumagawa ng knowledge distillation.

Hindi ito bagong patakaran. Mula sa simula hanggang sa wakas.

Sa isang industriya kung saan ang pagpapakopya sa mas malakas na model ay halos isang pagsisimula sa pagiging matanda, pinili ng parent company ng TikTok ang mas mahirap na daan. Ginagamit nito ang sariling proprietary data upang itayo ang model mula sa unang prinsipyo, isa-isang bato.

Ano ang gastos?

Kinikilala rin ng ByteDance: ang pag-iwas sa pag-aaral na ito ay gagawing mas mahirap para sa language model ng Seed na makamit ang antas ng mga lokal na katulad tulad ng DeepSeek, Kimi, at Qwen sa maikling panahon.

Totoo ang sinabi mo. Walang pinipintura.

Ang paghahabol sa malalaking modelo ay isang paligsahan kung saan bawat segundo ay mahalaga. Kung ikaw ay nagagamit ng isang accelerator, ibig sabihin ay kailangan mong gamitin ang higit pang oras, higit pang computing power, at higit pang pagsisikap upang mapuno ang pagkakaiba.

Ano ang hinahanap ng Byte?

Totoong sagot: Ayaw ng Byte ang pagiging liko, ang takot nito ay Washington

Hindi ibinibigay ang kutsilyo sa Washington.

Ito ang core ng buong sitwasyon. Ang pinakamalaking pag-aalala ng ByteDance ay hindi ang pansamantalang pagkakaligtaan sa teknolohiya. Ang pag-aalala nito ay ang pampolitikal na panganib.

Kung titingnan mo ang nakaraan, maunawaan mo. Ang kompanyang ByteDance, dahil sa TikTok, ay patuloy na nasa ilalim ng pagsusuri ng pamahalaan ng Estados Unidos. Ito ay hindi bagong balita, kundi isang tabak na nakadapa na sa ilalim ng ilang taon.

Ang kasalukuyang sitwasyon ay ganito: Ang amerikanong negosyo sa seguridad ng data ng TikTok ay nakapagdala na ng amerikanong kapital. Gayunpaman, nananatili pa rin ang ByteDance sa mga bahagi at patuloy na pinapatakbo ang pandaigdigang negosyo ng TikTok.

Ibig sabihin, ang ugnayan ng ByteDance at TikTok ay hindi pa lubos na na-deconnect. Nasa mesa pa rin ito.

Kaya ang tanong ay: Kung isang araw, sinupil ang ByteDance dahil sa “malawakang pagkuha ng kakayahan ng mga advanced na modelo sa Amerika,” ano ang mangyayari?

Hindi mahirap i guess ang sagot. Sa kamay ni Washington, may mangyayaring magkaroon ng isang bagong, mukhang maayos na dahilan upang muli itong pressurean ang TikTok.

Tingnan mo, kahit ang AI ng kumpanyang ito ay galing sa Amerika.

Isang pangungusap lang ang kailangan upang muli nang hikayatin ang napakalaking pagpapabuti ng sitwasyon.

Kaya ngayon, habang binabalewala mo muli ang patakaran na "Huwag magsingit sa distilado mula sa unang araw," iba ba ang lasa nito?

Hindi iyon isang teknikal na pagiging perpekto. Iyon ay isang insurance na binili mo nang maaga.

Bakit walang ByteDance sa listahan ng Anthropic?

May isang detalye na lalong nakakaakit.

Noong nakaraan, sinira ni Anthropic na ang DeepSeek, Moonshot, MiniMax, Zhipu, at Alibaba—ang mga kompanyang ito—ay malawakang kinuha ang kakayahan ni Claude.

The list is clearly listed.

Ngunit wala ang Byte sa listahang ito.

Hindi ko gustong i-overinterpret ang isang impormasyon na "hindi lumabas". Ngunit kapag isasama ito sa pahayag ng ByteDance na "hindi nila ginagawa ang distilasyon", kahit anong minsaan ay maaaring makabuo ng isang lohikal na imahe:

Kapag iba ay tinitingnan nang pampubliko dahil sa distilasyon, ang ByteDance ay nasa lugar na hindi binabasag ng ilaw.

Ito ang kapalit ng pagbabayad sa harap.

Ang iyong paghuhugas ng pawis ngayon ay para sa kinabukasan, upang hindi ka mahuli sa mali. Habang ang buong industriya ay nagsisibuhos sa presyur ng opinyon tungkol sa mga akusasyon ng "paggawa ng kopya," maaaring sabihin nang tahimik ng ByteDance: Wala akong bahid dito.

Sa isang laganap na geopolitical na kapaligiran na nagtataglay ng mas malaking pagpapahalaga sa "malinis na pinagmulan," ang pahayag na "hindi ako nagkakaroon ng gatas mula sa American model" — mismo ito ay isang ari-arian.

Ngunit ang gastos ay totoong pera: walang libreng sagot sa tanong na ito.

Ngunit huwag mong gawing masyadong romantis ang usapin na ito.

Hindi ito isang pagkakalat, ang mga utang na dapat bayaran ng ByteDance ay totoo.

Ang unang bagay ay oras. Ang pag-train mula sa simula ay naturally mas mabagal kaysa sa distillation. Sa isang larangan na nag-i-iterate sa loob ng linggo o buwan, ang pagiging mabagal ay sarili nang isang pagkakaligtaan.

Ang pangalawang bagay ay ang computing power at gastos. Ang mga gastos na maiiwasan ng distillation, kailangang balikin ng ByteDance. Ang pagbuwa mula sa zero ay nangangahulugan ng mas mahal na data, mas mahabang training cycle, at mas maraming pagsubok at pagkakamali.

Ilang pangatlo, ito ay posisyon ng maikling panahon sa kompetisyon. Tinanggap na mismo ng ByteDance na mas mahirap makamit ang pagkakapareho sa mga lokal na kasamahan sa maikling panahon. Sa likod ng pahayag na ito ay ang mga posisyon sa listahan, ang antas ng pagpapahayag sa mga pagpapakilala, at ang pagtitiyaga ng mga investor.

Kaya malinaw ang hiling ni Zhang Yiming sa kanyang team: handa magpapalit ng panandaling kita para sa pangmatagalang layunin.

Maliit lang ang sinasabi nito. Sa paggawa, kailangan mong harapin ang bawat kuwarter na presyon, ang pagkabalisa na "naglabas na naman sila ng bagong model," at paulit-ulit na sabihin sa sarili mo—hindi mabilis, hindi kopyahin, patuloy lang.

Ano ba ang libreng pagiging malinaw sa mundo? Ang pagiging malinaw ay binibili sa halaga.

Ang pangmatagalang pagkakaroon ng pananaw ni Zhang Yiming ay naging epektibo ngayon.

Alam ng lahat na kilala kay Zhang Yiming na ang apat na salitang "long-termism" ay patuloy niyang sinasabi sa loob ng maraming taon.

Ngunit sa maraming pagkakataon, ang long-term thinking ay isang magandang salita, lang isinusulat lang. Kapag dumating na ang panahon na kailangan mong magbayad para dito, magpasuko para dito, o tingnan nang walang magawa habang ang iyong kalaban ay umaabot sa harap mo, kaunti ang makakatibay.

Sa pagkakataong ito, ang pagiging matatag sa mahabang panahon ay naging epektibo.

Hindi na ito isang slogan sa PPT, kundi isang tiyak, nakakasakit na pagpili: Mayroon kang mas mabilis na daan, nakikita mo ito sa harap mo, lahat ay dumarating, ngunit ikaw ay hindi sumasama.

Bakit?

Hindi ni Zhang Yiming pinapansin ang posisyon sa paligsahang ito. Pinapansin niya kung kaya ba ng ByteDance na mabuhay nang matatag sa pandaigdigang merkado sa susunod na limang taon o sampung taon, at hindi naaapi sa isang araw ng biglaang pampulitikang akusasyon.

Natutunan niya ng isang bagay mula sa TikTok: Ang pinakamalaking panganib para sa isang kumpanyang nagmamay-ari ng mga operasyon sa China at Amerika ay hindi ang kakulangan sa teknolohiya, kundi ang pagkakaroon ng mga sandata sa kamay ng iba.

Ang distilasyon ay nagpapalakas sa modelo. Ngunit ang distilasyon ay maaari ring maging ang punto ng pag-atake.

Sa pagitan ng "mas malakas" at "mas ligtas", pumili si Zhang Yiming ng huli.

Ito ba ay matalino, o konservatibo?

Maaaring sabihin ng ilan na sobrang konservatibo ito. Ang AI na kompetisyon ay may oras na kailangang mapanatili—nagpapahinto ka nang sarili mong pagkilos dahil sa isang panganib na hindi pa nangyari, at worth it ba iyon? Ano kung ang iyong kalaban ay gagamit ng distilasyon at talagang iwanan ka?

Hindi walang katotohanan ang pag-aalala na ito.

Ngunit mas gusto kong ituring ito bilang isang "pagsasaayos ng panganib" na kakayahan.

Ang karaniwang kumpanya ay nagkalkula lamang ng kasalukuyang gastos: magkano ang matitipid sa distilasyon, gaano kalaki ang pagpapabilis sa mga araw. Ngunit ang Zhang Yiming ay nagkalkula ng ibang account: Ang aking kilos na ito, ba ay magiging huling kawayan na magdudulot ng pagbagsak ng TikTok sa isang panahon na hindi ko kayang kontrolin?

Ang nakaraang tala ay ang pambayad na tala. Ang sumusunod na tala ay ang tala ng pagkakaroon.

Anumang magandang talaan ng pondo, hindi ito mas malaki kaysa sa talaan ng pagkakaroon ng buhay.

Hindi naman siguradong tama si Zhang Yiming. Baka sa loob ng ilang taon, tingnan natin na nawala ang isang mahalagang window dahil sa desisyon na ito. Baka ang kanilang pagpapadali ay hindi nagdulot ng inaasahang pulitikal na alon. Hindi nagpapakita ang kasaysayan na laging mananalo ang mga mapagbantay.

Ngunit pinapahalagahan ko ang pagtigil na isipin mabuti bago gumawa.

Sa isang industriya kung saan lahat ay sumisigaw, "Mabilis, mabilis, mabilis," may isang kumpanya na handang tumigil at magtanong sa sarili: Maaari ko ba talagang harapin ang shortcut na ito?

Isulat sa huli

Sa huli, ang distilasyon ay isang teknikal na termino lamang.

Ngunit ang desisyon ni Zhang Yiming ay nasa labas na ng sakop ng teknolohiya. Ito ay isang pagtantiya ng panganib mula sa isang kumpanya na nasa pagitan ng China at Estados Unidos. Ito ay isang pagpapahayag ng isang tagapagtatag na nagbibigay-prioridad sa "pagmumula nang matagal" kaysa sa "pagmamadali".

Ang iba ay nagpapabilis dahil kayang gawin nila. Ang Byte ay naglalakad ng malayong daan dahil hindi kayang gawin nito.

Naiintindihan mo na ang antas na ito, at malalaman mo: ang "pagiging mabagal" ni Zhang Yiming ay hindi problema sa kakayahan, kundi problema sa pagiging malinaw.

At maging malinaw, sa industriyang ito na puno ng kaguluhan, ay isang kakaibang luho na.

Mabagal man o mabilis, may mga utang na kailangang bayaran. Si Zhang Yiming ay pumili na bayaran ito nang maaga.

Source ng citation

• Ang Impormasyon, "Hindi Gamitin ni Zhang Yiming ng ByteDance ang Distillation upang Palakasin ang mga AI Model" (Agosto 2026)
• Cryptopolitan, "Tinanggol ng tagapagtatag ng ByteDance ang distilasyon habang tinutukoy ng US ang mga Chinese lab" (Agosto 2026)
• Cryptobriefing, "Bawal ng ByteDance ang distillation sa kanilang AI playbook, nagtatalaga ng lahat sa kanilang sariling data" (Agosto 5, 2026)
• American Bazaar, "Sabi ng tagapagtatag ng ByteDance, Zhang Yiming, hindi magkakaroon ng pananatili sa AI distillation ang kumpanya" (5 Agosto 2026)
• TechFlow Post, "Tinikang ng tagapagtatag ng ByteDance ang paggamit ng teknolohiya ng distilasyon para sa mga modelo ng AI" (5 Agosto 2026)
• AI Weekly, "Ipinagbawal ni Zhang Yiming ng ByteDance ang Distillation para sa mga AI Model" (Agosto 2026)