
您的開源模型現在可以在您的設備上運行,無需將任何數據發送到雲端。 @TPN_Labs(Bittensor SN65)透過競爭性優化壓縮模型。礦工在真實硬體限制和基準門檻下縮小模型體積,驗證者重新執行測試。符合標準的最小模型將勝出。@Gratis_AI 隨後將這些模型(或來自 @huggingface 的任何模型)在瀏覽器或桌面應用程式中本地運行。 但需要注意的是,本地推理仍取決於您的硬體。 值得注意的特點: • 模型在鏈上進行優化。最近一場競賽將模型從約 17GB 壓縮至 7.71GB,同時將基準分數從 66.57% 提升至 74.93%。 • Gratis 無需設置。選擇一個模型或從 Hugging Face 加載模型——僅下載一次,即可在您的設備上運行。 • 隱私為默認設定。每個提示都留在您的設備上,初始下載後可離線使用。 • 無 API 費用,無需帳戶。 快速示例:過去需要高端 GPU 的模型,現在可被壓縮至足以在普通筆記型電腦上運行,並透過 Gratis 在不離開您設備的情況下使用。 TPN 建造小巧且功能強大的模型。Gratis 執行它們。 #Bittensor #Subnet65 #TPN







