
В этой экономике никто не выбрасывает VRAM. Но б/у система для локального ИИ всё ещё может быть настоящей выгодой. Возможность обычно заключается в старых серверных платформах и терпеливом поиске, а не в волшебной видеокарте, найденной в мусорном баке. Объём VRAM показывает, что может подойти. Пропускная способность памяти, CPU, хранилище, питание, охлаждение, PCIe-каналы и поддержка программного обеспечения решают, будет ли система действительно удобной в использовании. DDR4 всё ещё может иметь смысл. DDR5 должна быть быстрее. Для некоторых рабочих нагрузок MoE слабый CPU может свести на нет кажущуюся выгоду от GPU. Один сборщик сообщил, что собрал систему на базе Z440 с Xeon 12-ядерным/24-поточным, 128 ГБ DDR4 и смешанным хранилищем за примерно 250 евро в течение нескольких месяцев. Полезная подсказка, но не универсальный рецепт сборки. Сначала выберите модель и скорость, которые вы можете терпеть. Затем покупайте узкое место. Смешанные GPU и 150 т/с — это вопросы, специфичные для стека, а не обещания, которые может выполнить просто набор компонентов.
