O CEO da Palantir, Alex Karp, criticou publicamente a tendência recente em Silicon Valley chamada “tokenmaxxing”, argumentando que aumentar continuamente o uso de IA não equivale à criação real de valor de negócios. Em entrevista durante o Palantir AIP Con 10, ele afirmou que o mercado passou da discussão sobre “se a IA é real” para “a IA é realmente eficaz, mas muitos cenários não estão funcionando conforme esperado”.
The controversy points to high-consumption usage
O termo token é a unidade básica de medição usada pelos modelos de linguagem grande para processar texto, e os provedores de IA geralmente cobram com base no consumo de tokens. Nas últimas semanas, alguns profissionais da Silicon Valley começaram a refletir sobre a cultura do “tokenmaxxing”, ou seja, expandir o uso de IA quase sem limites para acompanhar o ritmo de desenvolvimento dos agentes de IA.
A opinião de Karp é que mais tokens geralmente significam apenas mais saídas de baixa qualidade, e não resultados de maior valor. O chefe de tecnologia da Palantir, Shyam Sankar, expressou uma visão semelhante na última reunião de resultados, afirmando que a empresa enfatiza internamente a "no slop zone", opondo-se a tratar chamadas de modelos baratos como valor em si.
Palantir enfatiza sistemas em vez de empilhamento de modelos
Sankar observou na época que apenas ter IA mais barata não traria automaticamente retornos mais altos; as empresas ainda precisam de sistemas como o Palantir AIP para conectar as capacidades dos modelos ao ambiente de negócios real e evitar perdas financeiras causadas por saídas incorretas.
Karp acrescentou na última entrevista que o verdadeiramente difícil não é fazer o modelo gerar um conteúdo genérico, mas sim integrar a IA em processos de negócios em funcionamento contínuo. Por exemplo, redigir um relatório sobre o crescimento do PIB da China é uma tarefa que grandes modelos conseguem realizar bem; porém, em tarefas complexas como extração de petróleo e gás, ajustes na cadeia de suprimentos, fabricação de defesa ou produção automotiva, a IA por si só não pode substituir os processos específicos.
Operações complexas ainda precisam ser executadas continuamente
Ele acredita que esse tipo de problema geralmente envolve simultaneamente custos, conformidade, ética e detalhes de execução, exigindo processos operacionais precisos e contínuos. Modelos grandes podem aprimorar esses processos, mas não podem substituí-los diretamente.
Karp também mencionou que a indústria está gradualmente reconhecendo que a capacidade da IA já foi validada, mas, para as empresas transformarem isso verdadeiramente em resultados comerciais, o ponto-chave não está em aumentar infinitamente a quantidade de chamadas ao modelo, e sim em ter clareza sobre qual problema de negócios deseja resolver e como integrar o modelo a sistemas executáveis.