
a arquitetura do modelo está começando a parecer menos como uma rede neural fixa e mais como um tempo de execução encaminhar entradas diferentes por especialistas diferentes alocar computação dinamicamente alterar profundidade atualizar memória adaptar parâmetros durante a inferência a pergunta interessante já não é mais apenas quão grande é o modelo? mas o que o modelo escolhe executar?
