Một tuần lớn dành cho @TPN_Labs, Gratis vừa chính thức ra mắt và đúng là thứ mà mọi người từng nói rằng các subnet sẽ không bao giờ ra mắt. Đó là một ứng dụng miễn phí chạy các mô hình mã nguồn mở ngay trong tab trình duyệt hoặc trên máy tính để bàn, không cần tài khoản, không cần cài đặt, và bất kỳ thứ gì bạn nhập đều không bao giờ rời khỏi thiết bị của bạn. Điều khiến tôi ấn tượng nhất là kỹ thuật đằng sau nó. Thông thường, trình duyệt giới hạn một tab ở 4GB bộ nhớ, thấp xa so với yêu cầu thực tế của một mô hình. Nhóm đã fork runtime suy luận sang định dạng 64 bit và nâng giới hạn lên 16GB. Đó là lý do tại sao một mô hình có kích thước thực sự có thể chạy trong một tab. Nó cũng tải các mô hình từ hơn 900.000 lựa chọn mã nguồn mở trên Hugging Face, miễn phí và không giới hạn số lần sử dụng, vì nó chạy trên phần cứng mà bạn đã sở hữu. Lợi thế dành cho những người ở đây rất đơn giản: Lần tới khi ai đó hỏi subnet thực sự tạo ra gì, bạn chỉ cần gửi một liên kết và họ có thể chạy một mô hình ngay trong khoảng một phút. Xin chúc mừng đội ngũ, đây mới chính là cách biến AI cục bộ thành thứ bất kỳ ai cũng có thể tiếp cận. Chi tiết đầy đủ về các con số đằng sau nó sẽ được chia sẻ vào ngày mai. 1/2