O próximo gargalo na IA nem sempre é o modelo. Às vezes, é a latência. Imagine que seu agente precise de... ler um documento, chamar um banco de dados, pesquisar na web, executar uma ferramenta, e depois perguntar ao modelo o que fazer a seguir. Se cada etapa aguardar a anterior, uma tarefa simples pode levar segundos ou até minutos. É aí que coisas como chamadas paralelas de ferramentas, streaming, cache e execução assíncrona se tornam importantes. Você não precisa necessariamente de um modelo mais inteligente. Você pode precisar apenas de um sistema melhor ao redor dele. É algo que gosto na engenharia de IA atualmente. Muitos dos problemas difíceis estão começando a parecer muito familiares: sistemas distribuídos, cache, filas, concorrência, observabilidade. A parte de IA é nova. Os problemas de engenharia por trás dela não são.