あなたのAIエージェントは1つのモデル上で動いているわけではありません。 5つから6つのモデル上で動いており、おそらくそれらすべてに別々に料金を支払っているでしょう。 1つはドキュメントを埋め込むため、 1つは検索結果をリランクするため、 1つはPDFをテキストに変換するため、 1つは不適切なコンテンツをチェックするため、 1つは実際に思考し、ツールを呼び出すため。 5つのAPI。5つの請求書。5つのダウンする可能性のあるポイント。 Superlinkedは、SIEをオープンソースとしてリリースしました。1台のサーバーで、あなたのハードウェアまたはクラウド上でこれらすべてを実行できます。 1つのAPIの背後には85以上のモデルが存在します。 私が最も気に入っている点:モデルは呼び出されたときにのみロードされ、使用が停止されるとメモリから削除されるため、誰も使っていないモデルを監視するためにGPUを払い続ける必要がありません。 さらに、本番環境用のスタックも同梱されています。負荷分散、ゼロまで自動スケーリング、Grafanaダッシュボード、GKEおよびEKS用のTerraform。 Apache 2.0ライセンス。無料。 すべてを一度に移行する必要はありません。埋め込みから始めましょう。エンドポイントはOpenAIと互換性があるため、1行の変更でほぼ置き換えられます。その後、安定したら次のモデルを移行してください。 移行するモデル1つごとに、請求書が1つ減ります。 リポジトリは返信にあります。この投稿をお気に入りに保存してください。 @cyrilXBT をフォローしてください。



