
Alcançamos a era da abstração de modelos muito mais cedo, o que significa que a importância e a superioridade de cada modelo de ponta só diminuirão a partir deste ponto. Um conjunto de modelos pequenos pode superar a ponta em eficiência de custo, velocidade e capacidade. Isso implica que as leis de escala e a teoria de agregação já commoditizaram os modelos de ponta. O que parece ser roteadores de modelos rapidamente se transformará em agregadores de modelos que controlam a relação com os usuários finais e possuem os dados do desempenho de cada modelo para determinar qual foi a escolha ótima. Isso é ineficiente atualmente, mas após acumular dados suficientes para indexar o desempenho por modelo, o cache necessário e os tokens utilizados serão otimizados automaticamente por tarefa.
