Các mô hình nguồn mở của bạn giờ đây có thể chạy trên máy tính cá nhân mà không cần gửi bất kỳ dữ liệu nào lên đám mây. @TPN_Labs (Bittensor SN65) nén các mô hình thông qua tối ưu hóa cạnh tranh. Các thợ mỏ thu nhỏ chúng dưới các giới hạn phần cứng thực tế và ngưỡng hiệu năng. Các người xác thực chạy lại các bài kiểm tra. Mô hình nhỏ nhất vẫn vượt qua ngưỡng sẽ chiến thắng. @Gratis_AI sau đó lấy những mô hình đó (hoặc bất kỳ mô hình nào từ @huggingface) và chạy chúng cục bộ trong trình duyệt hoặc ứng dụng máy tính để bàn. Tuy nhiên, điểm cần lưu ý là việc suy luận cục bộ vẫn phụ thuộc vào phần cứng của bạn. Điều đáng chú ý: • Các mô hình được tối ưu hóa trên chuỗi. Cuộc thi gần đây đã giảm kích thước mô hình từ khoảng 17GB xuống còn 7,71GB, đồng thời cải thiện điểm hiệu năng từ 66,57% lên 74,93%. • Gratis không yêu cầu thiết lập. Chọn một mô hình hoặc tải một mô hình từ Hugging Face – nó sẽ tải về một lần và chạy trên thiết bị của bạn. • Quyền riêng tư là mặc định. Mọi lời nhắc đều giữ lại trên máy tính của bạn. Hoạt động ngoại tuyến sau khi tải về ban đầu. • Không có phí API, không cần tài khoản. Ví dụ nhanh: Một mô hình trước đây cần GPU cao cấp giờ có thể được nén đủ nhỏ để chạy trên laptop thông thường, sau đó sử dụng qua Gratis mà không bao giờ rời khỏi thiết bị của bạn. TPN xây dựng các mô hình nhỏ nhưng mạnh mẽ. Gratis chạy chúng. #Bittensor #Subnet65 #TPN