Не питай, скільки коштує AI: питай, скільки токенів коштує твоя справжня погодинна ставка

Лічильник, який тікає, поки ти спиш

1865 рік. Економіст Вільям Стенлі Джевонс дивиться на нові, ощадливіші парові машини й робить логічний прогноз: коли двигун спалює менше вугілля на ту саму роботу, Британія почне спалювати менше вугілля. Замість цього споживання вибухає вгору. Дешевше паливо означає більше машин, більше фабрик, більше вугілля. Ефективність не вимкнула апетит — вона зняла з нього запобіжник.

Лютий 2025-го. Після того, як DeepSeek показав, що передову модель можна натренувати за частку очікуваного бюджету, Сатья Наделла постить той самий закон майже дослівно: «Коли AI стає ефективнішим і доступнішим, його використання не падає — воно злітає в небо, перетворюючись на товар, якого нам ніколи не досить». Сто шістдесят років між цитатами, а механіка ідентична: ти здешевлюєш юніт — і робиш його в десять разів більше.

Я тримаю цей закон у голові щоразу, коли відкриваю консоль і бачу цифру навпроти одного investigation report: $3.47. Не $35. Не 35 центів. Три долари сорок сім за один звіт — і це число з мого власного продакшну, з дванадцяти кейсів AI Growth Ops (з власного архіву, не верифіковне ззовні). Перша реакція кожного, кому я це показую: «це ж дрібниця». Друга реакція, коли я кажу, що звітів буде не один, а тисяча на місяць: тиша. Бо $3.47 × 1000 — це вже не дрібниця, це стаття бюджету. А Джевонс нахиляється до вуха й тихо нагадує: ти ж не зупинишся на тисячі — ти ж тепер можеш дозволити собі десять.

Ця стаття — розтин одного $3.47. Я розкладу його на токени так, щоб ти міг провести власний аудит свого рахунку сьогодні ввечері. Але спершу — про того, хто ставить лічильник на руку твоєму агенту і йде спати.

Названий антагоніст: тихий цикл Analyzer↔Verifier

Листопад 2025-го. Команда запускає market-research пайплайн: чотири агенти LangChain, що координуються між собою. Аналітик генерує контент. Верифікатор дивиться й каже: «потрібно більше аналізу». Аналітик слухняно догенеровує. Верифікатор знову: «ще». І так — без стелі бюджету на агента, без жодного kill switch, який перехопив би наступний виклик. Двоє ввічливих ботів нескінченно перепрошують один в одного дозволу продовжити — найдорожчий обмін люб'язностями в історії продакшну.

Цикл крутився 11 днів. 264 години. $47,000. Рахунок помітили не на дашборді. Його помітили в інвойсі — коли гроші вже згоріли. Автор розтину сформулював діагноз, який варто вибити на стіні кожного, хто будує агентів: «Відстежувати, скільки ти витратив — це не те саме, що контролювати, скільки ти витратиш далі».

Ось обличчя антагоніста цієї статті. Це не зла модель. Це слухняний бюрократ, якому ніхто не сказав «стоп», і власник, що дивився на дашборд замість того, щоб тримати руку на рубильнику. Алерт спрацьовує після того, як гроші пішли. Enforcement перехоплює перед наступним викликом. Між цими двома прийменниками — «після» і «перед» — лежить рівно $47,000.

І перш ніж ти подумаєш «у мене такого нема» — познайомся з його тихим двійником, який не вибухає, а просто крапає.

Дзеркало: Wizard, що перечитує власний звіт

PostHog — компанія аналітики — має install-агента на ім'я Wizard, що допомагає користувачам підключити продукт. Інженер сідає подивитися, скільки коштує один запуск, і знаходить цифру: $6.67 за один прогін на користувача. Розкид між найдорожчим і найдешевшим запуском — до 150%. Назву розтину я залишу як є, бо точніше не скажеш: «Як ми зловили нашого AI-агента на розкраданні токенів».

Розтин виявив три вади, і кожна — ідеальне дзеркало корпоративного марнотратства, тільки в токенах:

Вада перша — бюрократія Wizard. На фінальному кроці conclude агент перечитував увесь кодбейс, щоб «підтвердити» файл, який сам щойно записав хвилину тому. Подвоєння вартості цілої фази заради ритуалу «а раптом я собі збрехав». Якщо ти колись бачив співробітника, що тричі роздруковує той самий звіт «для певності» — ти бачив цю ваду в людській формі, тільки той співробітник хоч не виставляв тобі рахунок за папір.

Вада друга — амнезія компакції. Після стиснення контексту агент забував, що вже читав файли, і перечитував їх — а це запускало запис у кеш, який коштує в 12 разів дорожче за читання з кешу. Він платив преміум-тариф за те, щоб згадати власну ж думку.

Вада третя — субагенти-втікачі. В одному екстремальному випадку Wizard породив 5 субагентів, простояв 5 хвилин в очікуванні, а потім убив процес, бо двоє з п'яти не повернулися. П'ятнадцять хвилин і пачка токенів — на парад, з якого половина оркестру не дійшла до кінця вулиці, а заплатив ти за всіх.

Фундаментальне правило, яке PostHog вивели кров'ю: розбивати запит на субагентів вигідно лише тоді, коли ти економиш у 12 разів більше токенів, ніж дублюєш. Інакше «паралелізм» — це просто дорожчий спосіб зробити те саме. Виправлення одного лише кроку conclude врізало вартість цієї фази приблизно на 70%.

І ось чому це дзеркало болюче: антагоніст із $47,000 — рідкісна катастрофа, її помічаєш. А Wizard за $6.67 — це твій вівторок. Він прибуткóвий, він працює, він «нормальний». Саме тому ти в нього не дивишся.

Чому один звіт коштує $3.47, а не 35 центів

Тепер — математика. Базова ціна Claude Opus (рівень 4.5/4.8): $5 за мільйон вхідних токенів і $25 за мільйон вихідних. Читання з кешу — 0.1× від входу, тобто $0.50 за мільйон. Запис у 5-хвилинний кеш — 1.25× ($6.25/MTok), у годинний — 2× ($10/MTok). Запам'ятай головну асиметрію: output коштує в 5 разів дорожче за input. Це означає, що балакучість агента — не стилістична вада. Це податок, який він стягує з тебе за кожне зайве слово, а інвойс приходить у кінці місяця однією цифрою, де вже не видно, за які саме слова ти переплатив.

В офіційній документації є зразковий приклад: година роботи з 50k вхідних і 15k вихідних токенів = $0.625. А якщо 40k входу подати з кешу — $0.525. Тримай цей орієнтир. Тепер реконструюю свій $3.47 з тих самих верифікованих ставок — рядок за рядком, щоб ти міг перевірити арифметику (структура мого продакшн-звіту, цифри сходяться до ставок Anthropic):

Рядок витрати	Обсяг	Ставка	Вартість
Вхід (свіжий контекст, інструкції)	120 000 ток	$5 / MTok	$0.600
Вхід із кешу (повторювані системні блоки)	380 000 ток	$0.50 / MTok	$0.190
Запис у кеш (5-хв, перший прохід)	60 000 ток	$6.25 / MTok	$0.375
Вихід (генерація звіту — тут живе рахунок)	78 000 ток	$25 / MTok	$1.950
Web search (line item)	~35 запитів	$10 / 1000	$0.350
Разом за один investigation report			$3.47

Дивися, куди втекли гроші. $1.95 з $3.47 — це вихід. Понад половину рахунку з'їла генерація тексту, бо вихід дорожчий уп'ятеро. Кеш-читання за $0.19 — це твій друг; кеш-запис за $0.375 — це той самий механізм, на якому погорів Wizard, коли через амнезію переписував кеш заново. Один і той самий рядок може бути економією або штрафом — залежно від того, ти читаєш кеш чи його переписуєш.

Але це лише ціна одного, чесного проходу. Справжній жах починається, коли агент зациклюється — і тут вступає алгоритмічна складність.

Алгоритмічна складність як гаманець: O(N²)

Stateless API не пам'ятає нічого. Кожен наступний крок агента ти оплачуєш разом з усією попередньою історією — заново, повністю. Уяви таксі в заторі: машина не зрушила ні на метр, а цифри на лічильнику клацають угору, бо ти платиш за час, а не за дорогу. Stateless-агент — це таксі, що стоїть на місці й вголос перечитує вже проїхані вулиці, нараховуючи тобі за кожну так, ніби щойно її проїхав.

Математика безжальна. Наївний цикл на 20 кроків, що видає по 1000 токенів на крок, дає не 20 000 вхідних токенів, як підказує лінійна інтуїція, а близько 210 000 кумулятивних — бо на 20-му кроці модель тягне за собою всі 19 попередніх. Це O(N²): вартість росте як квадрат кількості кроків. Reflexion-подібний цикл на 10 ітерацій спалює до 50× токенів одного лінійного проходу.

Тепер головна теза цього розділу одним реченням: investigation report дорогий не тому, що модель дорога — він дорогий тому, що модель перечитує власний щоденник на кожній сторінці. Wizard перечитував кодбейс. Тихий цикл Analyzer↔Verifier перечитував увесь діалог 264 години поспіль. Це не різні хвороби — це одна хвороба в різних масштабах. O(N²) — її формула.

Архітектура б'є модель: важіль, про який мовчать

Інстинкт, коли рахунок болить: «куплю розумнішу модель, вона зробить чистіше». Це те саме, що найняти геніальнішого бухгалтера в надії, що він швидше перепише той самий рахунок 264 години поспіль. Проблема не в IQ виконавця — проблема в тому, що йому ніхто не сказав зупинитися. Дані кажуть однозначно: справжній важіль — архітектура, а не цінник моделі.

Академічний доказ. Система BudgetMLAgent зрізала середню вартість прогону більш ніж на 94% — фінальна цифра $0.054 за задачу проти базової близько $0.93 у single-agent GPT-4 — і зробила це не дорожчою моделлю, а навпаки: дешева/безкоштовна модель тягне більшість агентних викликів, а ескалація до дорогої вмикається лише на провалі. Cheap-model-first, escalate-on-failure. Спорідненим методом (AgentDiet, скорочення траєкторії) знижують і кодові бейзлайни: $1.277 → $0.933 на Claude 4 Sonnet і $0.701 → $0.449 на Gemini 2.5 Pro. Не геній моделі — дисципліна маршрутизації.

І контекст, чому це не теорія. Сам Opus 4.5 під час релізу впав у ціні на 67% ($15/$75 → $5/$25) і водночас почав робити ту саму роботу меншою кількістю токенів: там, де Sonnet 4.5 видавав ~500 вихідних токенів, Opus 4.5 часто вкладався у ~120 (звідси «76% менше токенів»), плюс ~50% менше викликів інструментів — а з Tool Search економія компаундилась аж до 85%. Подвійна знижка: дешевше за токен і токенів менше. Реальна вартість задачі впала значно глибше за заголовкові 67%.

Подивися на спред реальних продакшн-бенчмарків з бази ZenML на 1200+ розгортань — і поклади поруч свій $3.47. Бо рахунок ти зрештою помітиш не на дашборді, а саме тут, у рядку «вартість юніта»:

Кейс	Вартість юніта	Що зробили
Riskspan (обробка угод private-credit)	< $50 / угода	90× падіння, тижні → дні
PGA Tour (генерація статей)	$0.25 / стаття	−95% вартості, 800 статей/тиждень
Care Access	−86% витрат	редизайн prompt-caching
BudgetMLAgent (академічний)	$0.054 / задача	−94%, cheap-first + ескалація
GetOnStack (контрприклад)	$127 → $47 000	непомічений infinite loop, 11 днів
Мій investigation report	$3.47 / звіт	повний контекст + web search, без агресивної маршрутизації

Shopify в тій самій базі зафіксував окремо: виводи інструментів з'їдають у 100 разів більше токенів, ніж повідомлення користувача. Тобто не твій промпт роздуває рахунок — його роздуває те, що інструменти повертають назад у контекст. А той самий звіт, прогнаний через різні моделі (наприклад GPT-4o з його $2.50/$10 за мільйон проти Opus), гойдає $/звіт у 5–10 разів ще до жодної архітектурної зміни. Маршрутизація — перший важіль. Кеш — другий.

Контртиск: коли архітектурна оптимізація — марна трата часу

Не кожна команда, яка платить $3.47 за звіт, робить це через наївність. Якщо твій пайплайн обробляє 20 звітів на місяць, а не 20 тисяч, то архітектурна оптимізація — це ти витрачаєш 40 годин інженерного часу, щоб заощадити $62 на рік. Cognitive overhead cheap-first маршрутизації (два тирпи моделей, логіка ескалації, окреме тестування кожного шляху) реальний: BudgetMLAgent з'явився в академічній лабораторії, де дешева модель — це GPT-3.5, а ескалація прописана вручну під конкретний домен. Перенести це в продакшн без інфраструктури — не «просто змінити рядок у конфігу».

Але ось що це не пояснює: O(N²) росте незалежно від обсягу. Цикл Analyzer↔Verifier за $47,000 стартував як невеликий пайплайн — і саме тому його не помітили. Архітектурна дисципліна при низьких обсягах — не про економію центів. Це про те, що той самий патерн, який «нормально працює» при 20 звітах, при 2,000 не просто коштуватиме дорожче: він коштуватиме нелінійно дорожче, бо контекстне вікно буде більшим, ітерацій більше, а kill switch все ще не буде. Питання не «чи варто оптимізувати зараз» — питання «чи знаєш ти, де твій ріст зламає твій рахунок».

Спостережуваність ≠ контроль (і чому Джевонс завжди виграє)

Anthropic залишає на столі важіль, який більшість команд не піднімає: Batch API дає рівно −50% і на вхід, і на вихід (Opus 4.5 у батчі = $2.50/$12.50), і ці знижки складаються з prompt caching. Той самий мій $3.47-звіт, прогнаний не синхронно, а як нечутливий до часу батч-джоб із теплим кешем, коштував би помітно дешевше. Чому ж дефолт — синхронний дорогий виклик? Бо так звично. Бо «треба зараз». Бо ніхто не сів і не порахував — а лінь рахувати теж має тариф, просто його виставляють тобі в кінці місяця.

І тут замикається коло з Джевонсом. Контрприклад GetOnStack — це сцена з 90-х: родина дивиться, як диск електролічильника крутиться, поки в порожній кімнаті гуде забутий обігрівач. Ніхто не бачить витрати, доки не прийде платіжка: $127 за перший тиждень, $47,000 за четвертий. Обігрівач (infinite loop) гудів у кімнаті, куди ніхто не заходив. Дашборд показував цифру. Зупинити мав execution-шар — рубильник, а не людина, що читає сповіщення вранці з кавою. Рахунок такі люди завжди помічають не на дашборді.

А ось і чорний фінал Джевонсового закону для тебе особисто. Припустимо, ти зробив усе правильно: кеш теплий, маршрутизація розумна, батч увімкнений, і $3.47 перетворився на $0.40. Перемога? Ні. Бо тепер запуск звіту настільки дешевий, що ти запускаєш його не коли треба, а коли захотілось. Кожна оптимізація — це не економія. Це індульгенція: дозвіл собі ще раз не думати перед тим, як натиснути «run». Ціна юніта падає; рахунок росте. Джевонс не помилявся на вугіллі й не помиляється на токенах.

Інструмент: чек-лист аудиту твого $/report сьогодні ввечері

Досить дзеркала. Ось рубильник. Вісім питань до свого найдорожчого агента — пройдися по них не завтра, сьогодні. Сім із них рятують центи. Восьме рятує компанію — і саме його всі лишають наостанок:

#	Питання до свого агента	Червоний прапор → дія
1	Який % рахунку — це вихід, а не вхід?	>50% → ріж багатослівність, проси коротші відповіді в системному промпті
2	Скільки кумулятивних input-токенів на N кроків?	Росте як O(N²) → постав ліміт кроків і компакцію без перечитування
3	Чи перечитує агент те, що сам щойно записав?	Так → вирізай крок «confirm» (PostHog: −70% фази)
4	Кеш у тебе читається чи переписується?	Записи частіші за читання → лагоди амнезію компакції (запис 12× дорожчий)
5	Субагент економить ≥12× токенів проти дублювання?	Ні → не спліть запит, це дорожче
6	Дешева модель тягне рутину, дорога — лише ескалацію?	Ні → впровадь cheap-first (BudgetMLAgent: −94%)
7	Це синхронний виклик чи батч із теплим кешем?	Синхронний без потреби → батч (−50% вхід і вихід)
8	Є per-agent бюджет і pre-call kill switch?	Нема → це твій майбутній $47,000; став enforcement, не алерт

Питання №8 — найважливіше. Усі решта економлять центи. Восьме рятує від інвойсу, який помічають через 11 днів — коли гроші вже згоріли, а не на дашборді.

Жорсткий фінал

Перш ніж списувати $3.47 на власну неуважність — подивися, як сконструйований продукт. API-ціноутворення Anthropic і OpenAI не має рядкового розбивання за замовчуванням: ти бачиш одну цифру в кінці місяця, а не «$1.95 за output, $0.375 за cache write». Batch API, який дає −50% на вхід і вихід, захований у документації далеко від дефолтного quick-start. Output коштує в 5 разів дорожче за input — не тому, що генерація складніша в 5 разів, а тому що так влаштована цінова модель, яка нагороджує балакучих агентів і карає тих, хто не рахує. Компанія, що продає токени, прямо зацікавлена в тому, щоб ти купував більше токенів. Це не конспірологія — це просто бізнес-модель, яку варто тримати в голові, коли читаєш документацію.

Є й інший розподіл: FinOps-команди великих корпорацій мають виділених людей, інструменти моніторингу й бюджетні цикли для цієї роботи. Соло-фаундер або невелика команда платить подвійну ціну — і за неоптимізовані токени, і за відсутність системи, яка б цей аудит автоматизувала. Структурна перевага тут не в розумі, а в ресурсах на спостережуваність.

Тому $3.47 за звіт — це не ціна «неуважності». Це ціна системи, спроєктованої без рядкового рахунку за замовчуванням. Половина суми — балакучість, яку ти не попросив скоротити (і яку ніхто не показав тобі як окремий рядок). Чверть — кеш, який переписується, бо агент забув, що думав хвилину тому. Решта — інструменти, що повертають у сто разів більше, ніж ти спитав. Кожен з цих механізмів є в документації. Але документація написана після того, як ти вже запустив агента.

І ось остання сцена. Фільм «In Time», 2011-й: у кожного на правому передпліччі вживлений зелений лічильник, і коли він добігає нуля, людина просто падає мертвою посеред вулиці. Час — валюта: за каву платять хвилинами, за автобус — годинами. У твого агента на «руці» теж біжить лічильник — тільки в токенах. І поки тихий цикл Analyzer↔Verifier перепрошує сам у себе дозволу на «ще аналізу», цей лічильник тікає. 11 днів. $47,000. Рахунок ти помітиш не на дашборді — ти помітиш його в інвойсі, коли вже нíчого зупиняти.

Питання не в тому, скільки коштує один investigation report. Питання в тому, чи стоїть хтось біля рубильника — чи ти, як той власник, дивишся на дашборд і чекаєш, поки прийде платіжка. Лічильник тікає прямо зараз. Поки ти дочитував це речення — він клацнув ще раз. І за цей клац теж заплатиш ти.