
Không ai đang vứt bỏ VRAM trong nền kinh tế này. Nhưng một hệ thống AI cục bộ đã qua sử dụng vẫn có thể là một món hời thực sự. Cơ hội thường nằm ở các nền tảng máy chủ cũ và việc tìm kiếm kiên nhẫn, chứ không phải một GPU kỳ diệu tìm thấy trong thùng rác. VRAM cho bạn biết những gì có thể phù hợp. Băng thông bộ nhớ, CPU, lưu trữ, công suất, làm mát, các kênh PCIe và hỗ trợ phần mềm mới quyết định liệu hệ thống có cảm thấy hữu dụng hay không. DDR4 vẫn có thể hợp lý. DDR5 nên nhanh hơn. Đối với một số tác vụ MoE, CPU yếu có thể phá hỏng món hời GPU rõ ràng. Một người xây dựng báo cáo đã lắp ráp một hệ thống Z440, Xeon 12-core/24-thread, 128GB DDR4 và lưu trữ hỗn hợp với chi phí khoảng 250 euro trong vài tháng. Đó là một gợi ý hữu ích, không phải công thức xây dựng phổ quát. Hãy chọn mô hình và tốc độ mà bạn có thể chấp nhận trước. Sau đó mua thành phần gây nghẽn. Các GPU hỗn hợp và 150 t/s là những câu hỏi liên quan đến cụm, không phải lời hứa mà một đống linh kiện có thể đáp ứng.
