El CEO de Palantir, Alex Karp, criticó públicamente la tendencia reciente en Silicon Valley llamada “tokenmaxxing”, argumentando que aumentar constantemente el uso de IA no equivale a crear valor empresarial real. Durante una entrevista en el evento Palantir AIP Con 10, señaló que el mercado ha pasado de discutir “si la IA es real” a reconocer que “la IA funciona, pero muchos escenarios no operan como se esperaba”.
The controversy points to high-consumption use
Un token es la unidad básica de medición que los modelos de lenguaje grande utilizan para procesar texto, y los proveedores de IA suelen cobrar según el consumo de tokens. En las últimas semanas, algunos profesionales de Silicon Valley han comenzado a reflexionar sobre la cultura del “tokenmaxxing”, es decir, expandir el uso de IA sin prácticamente límites para mantener el ritmo del desarrollo de los agentes de IA.
La opinión de Karp es que más tokens a menudo solo significan más salidas de baja calidad, no resultados de mayor valor. El director técnico de Palantir, Shyam Sankar, expresó una opinión similar en la llamada de resultados del mes pasado, diciendo que la empresa enfatiza internamente la "zona sin residuos" y se opone a tratar las llamadas a modelos económicos como si fueran valor en sí mismas.
Palantir enfatiza sistemas en lugar de acumular modelos
Sankar indicó en ese momento que solo tener IA más barata no garantiza automáticamente mayores rendimientos; las empresas aún necesitan sistemas como Palantir AIP para conectar la capacidad de los modelos con entornos empresariales reales y evitar pérdidas económicas causadas por salidas erróneas.
Karp también indicó en la última entrevista que lo verdaderamente difícil no es hacer que el modelo genere un contenido general, sino integrar la IA en procesos empresariales en funcionamiento continuo. Por ejemplo, redactar un informe sobre el crecimiento del PIB de China es una tarea que los grandes modelos pueden realizar bien; pero en tareas complejas como la extracción de petróleo y gas, la ajuste de la cadena de suministro, la manufactura de defensa o la producción automotriz, la IA por sí sola no puede reemplazar los procesos específicos.
Las operaciones complejas aún requieren ejecución continua
Él cree que este tipo de problemas a menudo involucran simultáneamente costos, cumplimiento, ética y detalles de ejecución, requiriendo procesos operativos precisos y continuos. Los modelos grandes pueden potenciar estos procesos, pero no pueden reemplazarlos directamente.
Karp también mencionó que la industria está comenzando a reconocer que la capacidad de la IA ya ha sido validada, pero para que las empresas realmente conviertan esto en resultados comerciales, lo crucial no es aumentar ilimitadamente la cantidad de llamadas al modelo, sino tener claridad sobre qué problema de negocio se busca resolver y cómo integrar el modelo en sistemas ejecutables.