source avatarDeltaSignal

I-share

Gamitin ang custom AI model. Nagpassa ako ng ilang linggo sa pagsubok ng 8B–30B coding models sa Azure A100s. Ang model na nagbago sa aming arkitektura? 137M parameters-na-train sa 3 minuto at 35 segundo sa isang M2 Pro Mac mini. Ang Microsoft’s FastContext ay nagreveal ng bottleneck: ang repository exploration ay maaaring magconsume ng 46.5% ng mga token ng isang coding agent. Ang kanilang napanukalang eksperimento ay nakabawas ng hanggang 60.3% sa paggamit ng pangunahing agent. Ipinagpatuloy ko ang ideyang ito sa DeltaCode: → Ang Go ay nag-eenumerate ng legal na repository context → Ang aming custom 137M ranker ay nag-aangkop ng karaniwang pagpili → Ang FastContext 4B ay nagtatrabaho lamang sa ambigyuos na READ/GLOB/GREP exploration → Ang custom Qwen3 4B ay nagpapagawa ng coding preflight → Ang mga mahal na model ay natatanggap ng compressed evidence—hindi buong repository → Ang mga compiler at test ay nananatiling may huling awtoridad Ang aming custom ranker ay nakamit: • 57.97% sealed Recall@5 • +5.80 puntos kumpara sa stock model • +14.49 puntos sa Recall@1 • 73.33% Recall@5 sa routed external cases • 0 execution authority Ang pagkakaiba sa efficiency ay napakalaking: • 96.6% mas kaunting parameters kaysa sa isang 4B explorer • 99.5% mas kaunting parameters kaysa sa isang 27B–30B model • Tanging 0.3225% ng kanilang parameters ang na-train • Kaya 99.68% ng base ay nanatiling frozen • 100% ng gastos sa A100 ay nalabasan para sa adapter na ito • Inaasahang 35–55% pagbawas sa cloud-context tokens kapag ang cascade ay nakakahandle ng karaniwang repository searches lokal* Hindi nagkamali ang mas malalaking model dahil kulang sila sa intelehensya. Nagkamali sila dahil hiniling namin sa isang model na mag-explore, mag-isip, mag-format, mag-code, mag-operate ng mga tool, at mag-verify mismo. Manalo ang mas maliit na model dahil bawat isa ay may isang measurable na trabaho. Ginamit ko ang mga mahal na A100 experiments upang matutunan kung paano hindi kailangan ang mahal na compute sa production. Ang hinaharap ng coding agents ay maaaring hindi isang napakalaking LLM. Maaari itong isang koponan ng maliit na espesyalista—bawat isa ay tinuruan para sa isang gawain, bawat isa ay hiwalay na sinusukat, at walang pinagkakatiwalaan ng huling awtoridad.

No.0 picture
Disclaimer: Ang information sa page na ito ay maaaring nakuha mula sa mga third party at hindi necessary na nagre-reflect sa mga pananaw o opinyon ng KuCoin. Ibinigay ang content na ito para sa mga pangkalahatang informational purpose lang, nang walang anumang representation o warranty ng anumang uri, at hindi rin ito dapat ipakahulugan bilang financial o investment advice. Hindi mananagot ang KuCoin para sa anumang error o omission, o para sa anumang outcome na magreresulta mula sa paggamit ng information na ito. Maaaring maging risky ang mga investment sa mga digital asset. Pakisuri nang maigi ang mga risk ng isang produkto at ang risk tolerance mo batay sa iyong sariling kalagayang pinansyal. Para sa higit pang information, mag-refer sa aming Terms ng Paggamit at Disclosure ng Risk.