投稿
avatar

オープンソースのモデルを、クラウドに何も送ることなく、ご自身のマシン上で実行できるようになりました。 @TPN_Labs(Bittensor SN65)は、競争的な最適化を通じてモデルを圧縮します。マイナーは実際のハードウェア制限とベンチマークの下限の中でモデルを縮小し、バリデーターが再びテストを実行します。基準をクリアする最小のモデルが勝者となります。@Gratis_AIは、そのようなモデル(または@huggingfaceからの任意のモデル)をブラウザやデスクトップアプリでローカルで実行します。 ただし、ローカル推論は依然としてご自身のハードウェアに依存します。 注目すべき点: • モデルはオンチェーンで最適化されます。最近のコンペティションでは、モデルサイズが約17GBから7.71GBに縮小され、ベンチマークスコアは66.57%から74.93%に向上しました。 • Gratisはセットアップ不要です。モデルを選択するか、Hugging Faceから読み込むだけで、一度ダウンロードすればデバイス上で実行できます。 • プライバシーはデフォルトで確保されます。すべてのプロンプトはご自身のマシン内に留まります。初期ダウンロード後はオフラインでも動作します。 • API料金は不要で、口座登録も必要ありません。 簡単な例:以前はハイエンドGPUが必要だったモデルが、今では通常のノートパソコンでも十分に圧縮され、Gratisを通じてデバイス内だけで利用可能になります。 TPNは小型で高性能なモデルを構築します。Gratisがそれらを実行します。 #Bittensor #Subnet65 #TPN

このコンテンツは情報提供および教育目的のみに使用されます。第三者の見解、スポンサー付きコンテンツ、または作成者が報酬を受け取る可能性のあるプロモーション資料が含まれる場合があります。このフィードの内容は投資助言や収益の保証を構成するものではありません。投資判断はすべてご自身の責任で行ってください。取引を行う前に必ずご自身で調査を行い、慎重に行ってください。当社は第三者情報の正確性を保証するものではなく、発生した損失について一切責任を負いません。過去の実績は将来の結果を示すものではありません。詳細は、当社のコミュニティ利用規約およびリスク開示声明をご覧ください。

avatar返信を投稿する

コメント