[TL;DR Щоденно] Я скажу тиху річ голосно: коли щомісячний рахунок за штучний інтелект одного інженера починає звучати як серія A, це перестає бути просто історією про інструменти і починає виглядати як економічний експеримент. Отже, що ми справді бачимо — наступну операційну систему програмної інженерії чи дуже дорогу машину для виробництва штучного інтелекту в промислових масштабах? Можливо, те й інше. 🤖💸 🔥 Сценарій: трильйон токенів перетворився на публічну дискусію про витрати 📌 Цифри в заголовках навмисно абсурдні • Засновник OpenClaw Петер Штейнбергер оцінив, що його команда витратила близько $10 млн на токени за один місяць для роботи з ШІ, а потім негайно додав: не вся ця витрата була корисною. • Інший вірусний приклад походить з профілю Лорен Тан у Cursor: за 30 днів було використано близько 1,5 трильйона токенів. • Використовуючи наближений показник $8 за 1 млн токенів, Петер П’єкарчик оцінив це приблизно в $384 тис. на день, ~$11 млн на місяць або $132 млн на рік. • Навіть з 90%-ю корпоративною знижкою оцінка все ще становить близько $1,1 млн на місяць або близько $13 млн на рік. 📌 Чому люди впали в паніку: використання дуже виходить за межі нормальної поведінки розробників • Дані Jellyfish з 12 тис. розробників показують, що медіанний користувач споживає близько 51 млн токенів на місяць. • 90-й перцентиль — близько 380 млн токенів на місяць. • Це робить використання Лорен з 1,5 трлн токенів приблизно в 29 000 разів більшим за медіану, а раніше опубліковані 603 млрд токенів Штейнбергера все ще були приблизно в 12 000 разів більшими. • Коли використання токенів перетворюється на розрахунки зарплат, сюжет швидко змінюється: це вже не «інструмент продуктивності», а виглядає як обчислювальна аристократія. 📌 Реальний рахунок складний, бо не всі токени коштують однаково • Показники токенів Cursor можуть включати стандартний вхід, вихід моделі, запис у кеш і читання з кешу. Вони мають дуже різну ціну. • За ціною Opus 5.5, 1 млн вхідних токенів може коштувати близько $4, вихідних — $20, а читання з кешу — лише близько $0,20. • Один знімок екрана показав, що 73,3 млрд токенів коштували близько $30 тис. загалом, що означає середню ціну приблизно $0,41 за 1 млн токенів, оскільки домінував кешований трафік. • Якщо застосувати цю змішану ставку до 1,5 трлн токенів, щомісячна вартість зменшується до близько $615 тис., а не $11 млн. • У абсолютному нижньому граничному сценарії, де все оплачується за ціною читання з кешу, 1,5 трлн токенів коштували б приблизно $300 тис. на місяць. • П’єкарчик пізніше пом’якшив свою власну оцінку: навіть якщо його початкова оцінка була в 10 разів завищена, щомісячна вартість все ще може становити близько $100 тис. 🔥 Отже, що саме купили цими витратами? 📌 Не «один чат-бот», а цілу органограму агентів • Штейнбергер описав цей стиль роботи як дослідження того, як виглядає програмна інженерія, коли вартість токену більше не є обмеженням. • Його команда з трьох осіб запускала близько 100 екземплярів Codex. • Ці агенти перевіряли PR, сканували історичні записи коммитів на наявність безпекових помилок, об’єднували дублікати GitHub-проблем, писали виправлення, моніторили регресивні зміни продуктивності і навіть приєднувалися до зустрчей для генерації PR з обговорень. • Лорен описала свою систему як команду з 20+ агентами: агент-начальник штабу, агент-продакт-менеджер і понад 20 виконавчих агентів, які працювали автономно. 📌 Суттєва ідея — не генерація, а верифікація • Лорен стверджує, що обмеженням у кодуванні з агентами є не написання коду, а доведення того, що код справді працює. • Її процес передбачає запуск коду агентами, збирає трасування CPU та знімки купи, запускає iOS-емулятори і взаємодіє з додатками так, як це робили б користувачі. • Мета — створити замкнений цикл: якщо агент може перевірити свій вихід, вона може продовжувати ітерації доти, поки завдання не буде виконане. • Якщо ж вона не може перевірити — повертає diff людині і зупиняється — означає, що людина стає найповолішою ланкою системи. • При заявленому масштабі 4 000 PR на місяць навіть 5 хвилин ручного перегляду на PR дасть загалом близько 333 годин — майже повний місяць працю однієї людини. Тож ручний перегляд не може бути шаром верифікації. 📌 Це змінює роль інженера • У цьому моделю інженер починає схожим не на кодера, а на менеджера по інженерним агентам. • Точка Лорен є прямою: якщо ви не можете довіряти виходу одного агента, ви навряд чи зможете масштабуватися до ста. • Її робочий процес pstack упаковує це у структурованi сценарії — стандартизує розумiння, проектування, кодування, перегляд і верифiкацiю мiж кiлькома локальними та хмарними агентами. 🔥 Але ось де історiя стає гострою: вся ця автономнiсть потребувала жорстких обмежень 📌 Кодову базу довелося перебудувати для пiдтримки агентiв • GrokBot, як повiдомляється, почався як швидко написаний програмний код з слабкими архiтектурними обмеженнями і малою кiлькiстю читання людиною коду. • Це робило його легким для агентiв обрати шлях найменшого опору: бiльше коду, розмитi межi, зростаючий ризик продуктивностi. • Щоб це виправити, Лорен сказала, що використала понад 600 PR для рефакторингу системи до внутрiшньої архiтектури пiд назвою Dune. • Правила CI стали надзвичайно суворими: заборонити useEffect, заборонити коментарi та перевiряти графи залежностей так, щоб Electron main і renderer нiколи не перехресно імпортували один одного. • Іншими словами, «розумна» частина полягала не лише у кращих моделях. Вона полягала у перепроектуваннi середовища так, щоб агенти мали менше можливостей бути небрежними. 📌 pstack може бути потужним, але також глибоко непереносним • Її пакет мiстить 23 сценарiї та понад 20 інженерних принципiв. • Це звучить менше як унiверсальний розробницький процес і бiльше як дуже налаштована поведiнкова клiтка для моделей. • І це нормально — поки люди не спробують скопiювати його до звичайних команд з нормальним бюджетом і звичайними застарiлими кодовими базами. Тодi магiя може зникнути. 🔥 Протидiя: це інновацiя чи просто театр обчислень для багатих хлопцiв? 📌 Критики стверджують, що це фабрика штучного інтелекту-смутку, прихована пiд майбутнiм • На Reddit і серед інженерного сполучення багато розробникiв стверджували, що об’єднання тисяч PR за допомогою практично необмежених витрат на токени — це не революцiя у програмнiй інженерiї. • Їхня аргументацiя: це грубо-обчислювальна сила, яка заповнює кодову базу мiкрозмiнами, не враховуючи справжнього обмеження — довгострокової пiдтримки. • Інакше кажучи: генерацiя коду масштабується швидше за судження. А коли судження недостатньо фундується — борг соцiалiзується на того хто успадкує репозиторiй. 📌 Маркетингова цiннiсть може бути вищою за інженерну • Засновник T3 Тео стверджував, що справжня внутрiшня вартiсть може бути ближче до $25–50 тис. на мiсяць. • Його погляд був простим: навiть на такому рiвнi експозицiя варта того. Деякi компанiї витрачають $1 млн на подiї й отримують менше уваги, нiж один вiрусний пост вiд Лорен.• З погляду Cursor, це може бути не стільки історія про одиничну економіку, скільки PR-мастер-клас. • Лорен сама визнала свою привілею: вона працює в лабораторії ШІ з ефективно необмеженими токенами, тому вона не стверджує, що всі повинні копіювати її точний метод. 📌 Глибше питання — економічне, а не лише технічне • Якщо агентний розвиток працює лише тоді, коли цикли перевірки масово субсидуються, то справжній продукт — це не «ШІ-кодування». Це доступ до дешевої перевірки в масштабі. • І якщо це правда, то AgentFi стає більш цікавим контекстом: не те, що можуть робити агенти, а хто може дозволити їм працювати автономно. • Майбутнє може належати не командам з найкращими промптами. Воно може належати командам, які створюють найкращі системи заохочень, межі та ефективні за капіталом цикли перевірки. Моя інтерпретація? Ця історія корисна саме тому, що робить усіх незручно. • Найкращий сценарій: це ранній погляд на новий інженерний стек, де агенти впроваджують, тестують, виправляють та координують між системами програмного забезпечення. • Найгірший сценарій: це спектакль, субсидований обчислювальними ресурсами, який плутає обсяг виводу з якістю продукту. • Найбільш ймовірно: істина лежить посередині. Агентне програмне забезпечення може бути реальним, але без дисциплінованої архітектури та розумної економіки воно може стати лише швидшим способом виробництва технічного боргу. Отже, ось питання, яке я залишаю вам: Якщо агент може писати 4 000 PR на місяць, але лише невелика еліта може дозволити собі плату за перевірку, чи це майбутнє програмного забезпечення — чи просто демонстрація влади?