Ang CEO ng Palantir, Alex Karp, ay nagkritika sa nakaraang paboritong ideya ng Silicon Valley na “tokenmaxxing,” na naniniwala na ang pagpapataas ng paggamit ng AI ay hindi katumbas ng tunay na paglikha ng halaga sa negosyo. Sa isang interbyu sa panahon ng Palantir AIP Con 10, sinabi niya na ang merkado ay lumipat mula sa pag-uusap kung “totoo ba ang AI” patungo sa pagkilala na “totoo nga ang AI, ngunit maraming sitwasyon ay hindi gumagana ayon sa inaasahan.”
Ang kontrobersya ay tumutukoy sa paggamit na may mataas na pagkonsumo
Ang token ay ang pangunahing yunit ng pagsukat na ginagamit ng malalaking modelo ng wika sa pagproseso ng teksto, at karaniwang kinokost ng mga provider ng AI batay sa paggamit ng token. Sa nakaraang ilang linggo, ang ilang mga propesyonal sa Silicon Valley ay nagsimulang mag-isip muli tungkol sa kultura ng “tokenmaxxing,” o ang pagpapalawak nang walang limitasyon sa paggamit ng AI upang makasunod sa bilis ng pag-unlad ng AI agent.
Ang pananaw ni Karp ay na ang mas maraming token ay karaniwang nangangahulugan lamang ng mas maraming mababang kalidad na output, hindi ng mas mataas na halagang resulta. Noong nakaraang buwan, ipinahayag rin ni Shyam Sankar, ang Chief Technology Officer ng Palantir, ang katulad na pananaw sa isang teleponong pagpapaliwanag ng mga resulta, kung saan sinabi niya na ang kompanya ay nagbibigay-diin sa "no slop zone" at tumutol sa paggamit ng mga murang model call bilang sariling halaga.
Pinapahalagahan ng Palantir ang sistema kaysa sa pagmamadali ng mga modelo.
Noong panahong iyon, sinabi ni Sankar na ang mas mura na AI ay hindi awtomatikong magdudulot ng mas mataas na return; kailangan pa rin ng mga negosyo ang mga sistema tulad ng Palantir AIP upang i-connect ang kakayahan ng mga modelo sa totoong kaligiran ng negosyo at maiwasan ang mga pagkakamali na magdudulot ng pagkawala sa pera.
Ipinagpatuloy ni Karp sa huling interbyu na ang tunay na hamon ay hindi ang paggawa ng isang pangkalahatang nilalaman ng modelo, kundi ang pagpapaloob ng AI sa mga patuloy na operasyonal na proseso. Halimbawa, ang pagsusulat ng isang ulat tungkol sa paglago ng GDP ng Tsina ay maaaring maayos na tapusin ng malaking modelo; ngunit kapag nasa larangan ng pagmimina ng langis at natural na gas, pagbabago ng supply chain, paggawa ng militar, o paggawa ng kotse, hindi maaaring palitan ng AI ang mga partikular na proseso.
Kailangan pa ring ipatupad ang mga kumplikadong proseso
Naniniwala siya na ang mga tanong na ito ay karaniwang naglalaman ng gastos, pagkakasundo, etika, at mga detalye ng pagpapatupad, at kailangan ng masusing at patuloy na proseso. Ang malalaking modelo ay maaaring palakasin ang mga prosesong ito, ngunit hindi direktang palitan ang mga ito.
Karp ay nagdagdag na ang industriya ay unti-unting nakikita na ang kakayahan ng AI ay napatunayan, ngunit para sa mga negosyo na gustong i-convert ito sa tunay na mga resulta sa negosyo, ang susi ay hindi ang pagpapalawak nang walang hanggan ng paggamit ng modelo, kundi kung malinaw kung ano ang kanilang problema sa negosyo na dapat lutasin, at kung paano i-integrate ang modelo sa mga maaaring gawin na sistema.