Bài đăng
avatar

Để trả lời câu hỏi về các cửa sổ ngữ cảnh lớn hơn cho LLMs: “có, trên các GPU có dung lượng bộ nhớ phù hợp. Lưu ý rằng kể từ M1 Max, GPU của Apple đã có dung lượng VRAM khổng lồ từ 64 - 192 GB dành cho cả tải công việc huấn luyện và suy luận. Các bài kiểm tra để huấn luyện các công cụ AI tạo sinh của riêng chúng tôi cho nghệ sĩ cần 64 GB VRAM, dù chậm hơn, nhưng ít nhất vẫn hoạt động được trên Apple Silicon. Ngay cả GPU RTX 6000 Ada cao cấp nhất cũng chỉ đạt tối đa 48 GB, nên chỉ có A100 hoặc H100 80 GB là lựa chọn duy nhất của NVIDIA, và những card này không phải là dòng desktop mà chúng ta thường gặp phổ biến ngoài kia” @JulesUrbach 28.07.23 $RENDER

Nội dung này chỉ nhằm mục đích thông tin và giáo dục. Nội dung có thể bao gồm thông tin từ bên thứ ba, nội dung được tài trợ hoặc tài liệu quảng cáo mà nhà sáng tạo nội dung có thể nhận được thù lao. Không có nội dung nào trong nguồn cấp dữ liệu này cấu thành lời khuyên đầu tư hoặc đảm bảo lợi nhuận. Bạn hoàn toàn chịu trách nhiệm về các quyết định đầu tư của mình. Luôn luôn tự nghiên cứu và thận trọng trước khi giao dịch. Chúng tôi không đảm bảo tính chính xác của thông tin từ bên thứ ba và không chịu trách nhiệm cho bất kỳ tổn thất nào có thể phát sinh. Hiệu suất trong quá khứ không phải là chỉ báo cho kết quả trong tương lai. Vui lòng tham khảo Điều khoản Cộng đồng và Tuyên bố Tiết lộ Rủi ro của chúng tôi để biết thêm chi tiết.

avatarĐăng câu trả lời của bạn

Bình luận