Tether 推出用於智慧型手機模型訓練的 AI 框架

Tether 發布了一個新的 AI 訓練框架，於週二讓大型語言模型能在消費級硬體上運行和微調。該系統是公司 QVAC 平台的一部分，支援智慧型手機以及多種非 Nvidia 處理器。工程師設計此框架以降低記憶體需求，從而降低建構和測試語言模型的門檻。

此次發佈正值加密貨幣基礎設施公司進一步深入人工智慧開發與運算市場。作為市值最大的穩定幣發行方，Tether 將此發布定位為試圖去中心化機器學習能力。該公司認為，讓模型在廣泛可用的硬體上進行訓練，可減少對集中式雲端供應商的依賴。

Tether 推出了基於 BitNet 的訓練系統

Tether 的公告將此框架描述為基於微軟 BitNet 架構構建的訓練環境。該設計採用了一位元神經網路結構與 LoRA 微調方法，使開發者能在保持低計算需求的情況下調整模型。

公司工程師表示，該系統能在兩小時內於智慧型手機上訓練參數高達十億的語言模型。據報導，透過相同方法進行優化後，較小的模型可在數分鐘內完成訓練。公司還表示，該平台支援在行動裝置上運行參數達一百三十億的模型。

工程師設計該系統以運行於多個硬體生態中，而非依賴 Nvidia 芯片。該框架支援 AMD 處理器、Intel 架構、Apple Silicon 系統，以及 Qualcomm 和 Apple 的行動圖形處理器。這種相容性擴大了機器學習實驗的訪問範圍，超越了傳統的高效能運算叢集。

技術設計也降低了與標準模型相比的圖形記憶體需求。內部工程結果顯示，BitNet 架構與相當的 16 位系統相比，可將 VRAM 使用量減少高達 77.8%。

Tether 表示，該架構可在 Nvidia 生態系統之外的硬體上進行 LoRA 微調。開發人員歷史上一直依賴 Nvidia 圖形處理器來處理訓練工作負載，因為這些晶片能高效地執行大型張量運算。Tether 的工程師嘗試透過在其他處理器上支援低比特訓練方法，來消除這一限制。

該公司表示，該架構也提升了移動工作負載的推理速度。測試顯示，移動圖形處理器處理 BitNet 模型的速度比標準中央處理器快數倍。這一差異使模型能夠在手持設備上本地運行，而無需依賴遠端雲端基礎設施。

開發者還在系統內探索了分散式機器學習方法。Tether 描述了聯邦學習模型在獨立設備網絡中更新的潛在用途。在該架構下，模型從本地數據中學習，同時將資訊保留在各設備上，而非上傳至中心化伺服器。

公司表示，這種方法可支援注重隱私的訓練環境。資料保持在本地，僅傳輸模型更新。該架構反映了去中心化計算系統和分佈式加密網路的趨勢。

數位資產領域的市場活動顯示，對人工智慧基礎設施的投資不斷上升。加密貨幣公司越來越多地將原本為區塊鏈運營建設的計算能力重新用於機器學習工作負載。

公開文件顯示，科技公司已建立合作關係，以確保與人工智慧需求相關的計算能力。一項於九月宣布的交易，使 Google 在 Cipher Mining 中取得少數股權，作為一項價值 30 億美元的十年協議的一部分。此安排將資料中心容量與人工智慧處理需求掛鉤。

公司後續公告指出，比特幣礦業公司也將資金轉向機器學習服務。12 月，礦企 IREN 詳述了籌集約 36 億美元以擴展人工智慧運營基礎設施的計劃。

年初的企業財報強化了相同的趨勢。HIVE Digital Technologies 在擴展其高性能計算服務後，報告收入為 $93.1 百萬。在同一時期，Core Scientific 從摩根士丹利獲得了 $5 億的貸款融資，以支持其計算基礎設施的增長。

開發者還嘗試將自主人工智慧代理與區塊鏈基礎設施相整合。Coinbase 推出了錢包工具，允許軟體代理直接在鏈上執行交易。Alchemy 引入了服務，使代理能夠存取區塊鏈資料，同時透過穩定幣基礎設施結算付款。

身份網絡也探討了人工智慧系統與數位驗證之間的聯繫。由OpenAI首席Sam Altman共同創立的身份網絡World，於本週早些時候釋出了AgentKit。該工具包允許軟體代理透過World ID系統驗證其與獨特人類身份的聯繫。

Tether 的最新框架進入了計算資源、機器學習和區塊鏈系統交匯的同一個擴張領域。

公司表示，開發者可以將這些訓練工具整合到分散式應用程式和本地設備中，而無需依賴中心化伺服器。

Tether 的人工智能框架下一個發展將取決於開發者採用率和裝置層級的效能測試。工程師可能會在即將發布的版本中監控 QVAC 平台如何在分散式消費者硬體上處理大型模型。