Bài đăng
avatar

SN46 @instantsubnet có thể là một trong những cách tiếp cận thú vị nhất cho việc suy luận phi tập trung. Thay vì cố gắng giải quyết toàn bộ vấn đề “chúng ta có thể tin tưởng phần cứng của thợ mỏ không” bằng TEE, họ đã đảo ngược lại: các thợ mỏ cung cấp khả năng tính toán thô, trong khi Instant chạy mã của riêng mình bên trong cấu hình thợ mỏ thông qua một môi trường thực thi mạng ảo. Và tốc độ cũng khá đáng kinh ngạc, từ 300 đến 500 token/giây trên các mô hình mở trọng số như GPT-OSS 20B. Nhanh hơn nhiều so với những gì bạn thường nhận được từ các nhà cung cấp API như OpenRouter. Và dường như đây mới chỉ là bước đầu tiên, mục tiêu dài hạn là tiến vào các kiến trúc chip tương tự, nơi trọng số mô hình được tích hợp trực tiếp vào phần cứng. Nếu họ thực hiện được điều đó, suy luận phi tập trung trên $TAO có thể trở nên cực kỳ nhanh chóng.

Nội dung này chỉ nhằm mục đích thông tin và giáo dục. Nội dung có thể bao gồm thông tin từ bên thứ ba, nội dung được tài trợ hoặc tài liệu quảng cáo mà nhà sáng tạo nội dung có thể nhận được thù lao. Không có nội dung nào trong nguồn cấp dữ liệu này cấu thành lời khuyên đầu tư hoặc đảm bảo lợi nhuận. Bạn hoàn toàn chịu trách nhiệm về các quyết định đầu tư của mình. Luôn luôn tự nghiên cứu và thận trọng trước khi giao dịch. Chúng tôi không đảm bảo tính chính xác của thông tin từ bên thứ ba và không chịu trách nhiệm cho bất kỳ tổn thất nào có thể phát sinh. Hiệu suất trong quá khứ không phải là chỉ báo cho kết quả trong tương lai. Vui lòng tham khảo Điều khoản Cộng đồng và Tuyên bố Tiết lộ Rủi ro của chúng tôi để biết thêm chi tiết.

avatarĐăng câu trả lời của bạn

Bình luận