Mga Post
avatar

Walang nagtatapon ng VRAM sa ekonomiyang ito. Ngunit ang isang ginamit na local-AI rig ay maaari pa ring maging tunay na bargain. Ang pagkakataon ay karaniwang nasa mga lumang server platform at matiyagang paghahanap, hindi sa isang magic GPU na natagpuan sa basurahan. Ang VRAM ang nagpapakita kung ano ang maaaring magsuot. Ang memory bandwidth, CPU, storage, power, cooling, PCIe lanes, at software support ang nagpapasya kung gaano kagamit ang sistema. Ang DDR4 ay maaari pa ring magiging makabuluhan. Ang DDR5 ay dapat na mas mabilis. Para sa ilang MoE workloads, ang isang mahina CPU ay maaaring sirain ang apparenth na GPU bargain. Isang builder ay nagsalaysay na nag-ayos ng Z440, 12-core/24-thread Xeon, 128GB DDR4, at mixed storage para sa halos €250 sa loob ng ilang buwan. Magandang lead, hindi universal na build recipe. Piliin muna ang model at speed na kayang tanggapin mo. Pagkatapos ay bumili ng bottleneck. Ang mixed GPUs at 150 t/s ay mga tanong na specific sa stack, hindi mga pangako na maaaring sagutin ng isang pile ng mga parte.

Ang content na ito ay para sa mga layuning pang-impormasyon at pang-edukasyon lang. Maaaring may mga kasama itong third-party insight, sponsored content, o promotional material kung saan maaaring maka-receive ng compensation ang creator. Wala sa feed na ito ang nagko-constitute ng investment advice o nagga-guarantee ng returns. Ikaw lang ang responsible para sa mga sarili mong desisyon sa investment. Laging magsagawa ng sarili mong research at mag-ingat bago mag-trade. Hindi namin gina-guarantee ang accuracy ng impormasyon na mula sa third-party at hindi kami mananagot para sa anumang loss na na-incur. Ang nakaraang performance ay hindi indicative ng mga resulta sa hinaharap. Sumangguni sa aming Mga Tuntunin ng Community at Pahayag sa Disclosure ng Risk para sa mga detalye.

avatarI-post ang reply mo

Mag-comment