J’ai été sélectif face aux affirmations sur le « smart routing », car choisir le modèle le moins cher est facile, mais prouver qu’il répond aux exigences de qualité est bien plus difficile. Je viens de m’inscrire à la bêta fermée de Ramp de Router, car elle s’attaque à cette question plus complexe. Router enregistre le modèle utilisé, l’usage, la latence et le coût estimé derrière chaque requête, puis teste l’adéquation sémantique du modèle sur des charges de travail sélectionnées sous des contraintes définies. Pas de revendication universelle d’économies, ni de « bon modèle pour chaque requête » — juste une bêta utile pour les développeurs prêts à apporter une charge réelle.