Le PDG de Palantir, Alex Karp, a critiqué publiquement la tendance récente à « tokenmaxxing » à硅谷, affirmant que l'augmentation constante de l'utilisation de l'IA ne signifie pas nécessairement la création réelle de valeur commerciale. Lors d'une interview pendant Palantir AIP Con 10, il a déclaré que le débat sur le marché était passé de la question « L'IA existe-t-elle vraiment ? » à « L'IA fonctionne réellement, mais de nombreux scénarios ne fonctionnent pas comme prévu ».
The controversy points to high-consumption usage
Un token est l'unité de base utilisée par les modèles de langage pour traiter le texte ; les fournisseurs d'IA facturent généralement en fonction de la consommation de tokens. Au cours des dernières semaines, certains professionnels de la Silicon Valley ont commencé à remettre en question la culture du « tokenmaxxing », consistant à élargir sans limite l'utilisation de l'IA pour suivre le rythme du développement des agents IA.
Selon Karp, plus de tokens signifient souvent simplement plus de sorties de mauvaise qualité, et non des résultats de plus grande valeur. Shyam Sankar, chef technologue de Palantir, a exprimé un point de vue similaire lors de la conférence téléphonique sur les résultats du mois dernier, affirmant que l'entreprise insiste sur le concept de « no slop zone » et s'oppose à considérer les appels à des modèles bon marché comme une valeur en soi.
Palantir met l'accent sur les systèmes plutôt que sur l'accumulation de modèles
Sankar a alors déclaré que des IA moins chères ne conduiraient pas automatiquement à des rendements plus élevés ; les entreprises ont toujours besoin de systèmes comme Palantir AIP pour relier les capacités des modèles aux environnements commerciaux réels et éviter les pertes économiques causées par des sorties erronées.
Karp a ajouté dans la dernière interview que le véritable défi n'est pas de faire générer au modèle un contenu générique, mais d'intégrer l'IA dans des processus métier en continu. Par exemple, rédiger un rapport sur la croissance du PIB chinois, le grand modèle peut le faire relativement bien ; mais lorsqu'il s'agit de tâches complexes telles que l'exploitation pétrolière et gazière, l'ajustement des chaînes d'approvisionnement, la fabrication militaire ou la production automobile, l'IA ne peut pas remplacer les processus spécifiques.
Les opérations complexes doivent encore être exécutées de manière continue
Il estime que ce type de problème implique souvent simultanément des coûts, la conformité, l'éthique et les détails d'exécution, nécessitant un processus opérationnel précis et continu. Les grands modèles peuvent renforcer ces processus, mais ne peuvent pas les remplacer directement.
Karp a également mentionné que l'industrie commence à réaliser que les capacités de l'IA ont été validées, mais que pour transformer véritablement cette technologie en résultats commerciaux, l'essentiel n'est pas d'augmenter indéfiniment le volume d'appels au modèle, mais de bien comprendre quel problème métier on cherche à résoudre et comment intégrer le modèle dans des systèmes exécutables.