我對「智慧路由」的宣稱一直持謹慎態度,因為選擇最便宜的模型很容易,但要證明其工作品質達標卻相當困難。 我剛註冊了 Router 的 Ramp 封閉測試版,因為它正針對這個更難的問題。 Router 會記錄請求背後的模型、使用量、延遲時間和預估成本,然後在定義的限制下,針對選定的工作負載測試語意模型的契合度。 沒有普適的節省聲明,也沒有「每項請求都適用的正確模型」,只有為願意帶來真實工作負載的開發者提供的實用測試版。
le.hl我對「智慧路由」的宣稱一直持謹慎態度,因為選擇最便宜的模型很容易,但要證明其工作品質達標卻相當困難。 我剛註冊了 Router 的 Ramp 封閉測試版,因為它正針對這個更難的問題。 Router 會記錄請求背後的模型、使用量、延遲時間和預估成本,然後在定義的限制下,針對選定的工作負載測試語意模型的契合度。 沒有普適的節省聲明,也沒有「每項請求都適用的正確模型」,只有為願意帶來真實工作負載的開發者提供的實用測試版。