source avatarCyrilXBT

共有

あなたのAIエージェントは1つのモデル上で動いているわけではありません。 5つから6つのモデル上で動いており、おそらくそれらすべてに別々に料金を支払っているでしょう。 1つはドキュメントを埋め込むため、 1つは検索結果をリランクするため、 1つはPDFをテキストに変換するため、 1つは不適切なコンテンツをチェックするため、 1つは実際に思考し、ツールを呼び出すため。 5つのAPI。5つの請求書。5つのダウンする可能性のあるポイント。 Superlinkedは、SIEをオープンソースとしてリリースしました。1台のサーバーで、あなたのハードウェアまたはクラウド上でこれらすべてを実行できます。 1つのAPIの背後には85以上のモデルが存在します。 私が最も気に入っている点:モデルは呼び出されたときにのみロードされ、使用が停止されるとメモリから削除されるため、誰も使っていないモデルを監視するためにGPUを払い続ける必要がありません。 さらに、本番環境用のスタックも同梱されています。負荷分散、ゼロまで自動スケーリング、Grafanaダッシュボード、GKEおよびEKS用のTerraform。 Apache 2.0ライセンス。無料。 すべてを一度に移行する必要はありません。埋め込みから始めましょう。エンドポイントはOpenAIと互換性があるため、1行の変更でほぼ置き換えられます。その後、安定したら次のモデルを移行してください。 移行するモデル1つごとに、請求書が1つ減ります。 リポジトリは返信にあります。この投稿をお気に入りに保存してください。 @cyrilXBT をフォローしてください。

免責事項: 本ページの情報はサードパーティからのものであり、必ずしもKuCoinの見解や意見を反映しているわけではありません。この内容は一般的な情報提供のみを目的として提供されており、いかなる種類の表明や保証もなく、金融または投資助言として解釈されるものでもありません。KuCoinは誤記や脱落、またはこの情報の使用に起因するいかなる結果に対しても責任を負いません。 デジタル資産への投資にはリスクが伴います。商品のリスクとリスク許容度をご自身の財務状況に基づいて慎重に評価してください。詳しくは利用規約およびリスク開示を参照してください。