He sido selectivo con los reclamos de “enrutamiento inteligente”, porque elegir el modelo más barato es fácil, pero demostrar que cumplió con la calidad del trabajo es la parte difícil. Acabo de registrarme para la beta cerrada de Ramp de Router, ya que busca responder esa pregunta más compleja. Router registra el modelo, el uso, la latencia y el costo estimado detrás de las solicitudes, luego prueba la adecuación semántica del modelo en cargas de trabajo seleccionadas bajo restricciones definidas. No hay reclamos universales de ahorros ni “el modelo correcto para cada solicitud”, solo una beta útil para desarrolladores dispuestos a aportar una carga de trabajo real.