Генеральний директор Palantir Алекс Карп відкрито критикував популярну в останній час у Сіліконовій долині ідею «tokenmaxxing», стверджуючи, що постійне збільшення використання ШІ не означає реального створення бізнес-цінності. У ході інтерв’ю під час Palantir AIP Con 10 він зазначив, що ринок перейшов від обговорення «чи існує ШІ взагалі» до розуміння «що ШІ дійсно ефективний, але багато сценаріїв не працюють так, як очікувалося».
Суперечки стосуються інтенсивного використання
Токен — це базова одиниця виміру, яку використовують великі мовні моделі при обробці тексту, і постачальники штучного інтелекту зазвичай стягують плату за спожиті токени. Протягом останніх кількох тижнів деякі фахівці з Сіліконової долини почали переосмислювати культуру «tokenmaxxing» — практику майже безмежного розширення використання ШІ з метою наздогнати розвиток агентів ШІ.
Карп вважає, що більше токенів часто означає лише більше низькоякісного виводу, а не більш цінні результати. Місяць тому на фінансовій телефонній конференції головний технічний офіцер Palantir Шям Санкар висловив подібну думку, сказавши, що компанія в внутрішніх процесах підкреслює «зону без брехні» і протистоїть використанню дешевих викликів моделей як самоцілі.
Palantir підкреслює системи, а не накопичення моделей
Тоді Санкар зазначив, що лише більш дешеві штучні інтелекти не призведуть автоматично до більш високої прибутковості; компаніям все ще потрібні такі системи, як Palantir AIP, щоб зв’язати здібності моделей із реальним бізнес-середовищем і уникнути економічних втрат через помилкові вихідні дані.
Карп у останньому інтерв’ю додав, що справжня складність полягає не у тому, щоб за допомогою моделі генерувати загальний контент, а у вбудовуванні ШІ в безперервні бізнес-процеси. Наприклад, велика модель може добре впоратися з написанням звіту про зростання ВВП Китаю; але при складних завданнях, таких як видобуток нафти й газу, налагодження ланцюжків постачання, військове виробництво чи виробництво автомобілів, ШІ сам по собі не може замінити конкретні процеси.
Складні операції все ще потребують постійного виконання
Він вважає, що такі питання часто одночасно стосуються витрат, відповідності нормам, етики та деталей виконання, вимагаючи точного та постійного операційного процесу. Великі моделі можуть підсилювати ці процеси, але не можуть безпосередньо їх замінювати.
Карп також зазначив, що галузь поступово усвідомлює: здатності ШІ вже підтверджено, але для того, щоб перетворити їх на реальні бізнес-результати, ключовим є не безмежне збільшення кількості запитів до моделей, а зрозуміння того, яку саме бізнес-проблему потрібно вирішити, і як інтегрувати модель у виконавчу систему.