Ba thiết bị, giảm thời gian thực hiện năm tác vụ con của Agent từ 18 phút xuống còn 8 phút 48 giây. Đây là công cụ mã nguồn mở mới do NVIDIA phát hành, gọi là PAIR. Nó thường bị hiểu nhầm là “ghép nhiều GPU thành một”. Thực tế, nó không gộp bộ nhớ GPU, cũng không chia nhỏ mô hình đơn lẻ. Nó chỉ đảm nhiệm việc phân bổ các yêu cầu khác nhau đến các máy tính rảnh trong mạng cục bộ. Theo đánh giá của tôi: PAIR giải quyết vấn đề xử lý đồng thời nhiều Agent, chứ không phải do thiếu bộ nhớ GPU. Người dùng có nhiều máy tính tại nhà sẽ thấy rất hữu ích; nếu chỉ chạy một mô hình lớn, tốc độ sẽ không tự động tăng lên. GitHub: https://t.co/bPjzZdjEeN