Стоимость токенов — это одна строка из семи в совокупной стоимости владения LLM-функцией. Полный расчёт включает входные и выходные токены, повторные попытки, поиск и эмбеддинги, слой оценки, мониторинг, человеческий надзор и инфраструктуру. Опубликованная цена API обычно объясняет менее половины того, во что функция реально обходится в продакшене, — именно поэтому традиционная валовая маржа SaaS в 80–90% сжимается до 50–60%, как только вызовы модели входят в продукт. Правильный вопрос — не сколько стоит миллион токенов, а сколько стоит одна единица работы, за которую клиент готов платить.
Семь строк затрат функции, работающей на модели
Большинство команд назначают цену ИИ-функции прямо по прайс-листу поставщика: столько-то долларов за миллион входных токенов, столько-то за выходные. Это одна строка. Продакшен добавляет ещё шесть, и несколько из них фиксированные, а не привязанные к объёму, — а значит, тяжелее всего они весят в самом начале.
| Строка затрат | Что в неё входит | Поведение |
|---|---|---|
| Входные и выходные токены | Промпт, извлечённый контекст и ответ модели | Переменная, растёт линейно с объёмом |
| Повторные попытки и сбои | Таймауты, лимиты запросов, отклонённый валидацией вывод и повторная отправка | Переменная, резко растёт под нагрузкой |
| Поиск и эмбеддинги | Генерация эмбеддингов, векторное хранилище, поисковые запросы, переиндексация | Смешанная: индексация фиксированная, запросы переменные |
| Слой оценки | Тестовые наборы, прогоны оценки перед каждым изменением промпта или модели | Фиксированная на цикл разработки |
| Мониторинг и логирование | Захват входа и выхода, метрики качества, оповещения, хранение | Фиксированная с объёмной составляющей |
| Человеческий надзор | Выборочная проверка, обработка эскалаций, разметка пограничных случаев | Переменная в человеко-часах |
| Инфраструктура и интеграция | Слой абстракции над провайдерами, очереди, кэширование, безопасность и права доступа | Фиксированная, пропорционально уменьшается по мере роста |
Почему опубликованная цена токенов вводит в заблуждение
Прайс-лист от счёта отделяют три системных разрыва.
Выход намного дороже входа. У большинства провайдеров выходной токен стоит в пять–восемь раз дороже входного. Функция, генерирующая длинные ответы, платит за эту длину дважды, — поэтому ограничение длины вывода остаётся самой дешёвой экономией, доступной в любой день.
Контекст растёт незаметно. Как только в картину входит поиск, каждый вызов несёт фрагменты документов, историю диалога и системные инструкции. Промпт, который в коде выглядит как три строки, в полёте составляет несколько тысяч токенов, и эта разница умножается на каждый вызов.
Повторные попытки никогда не попадают в план. Вызов, не прошедший валидацию, форматирование или таймаут, отправляется снова и оплачивается дважды. Под реальной нагрузкой именно доля повторов обычно и составляет разницу между прогнозом и счётом.
Формула: стоимость единицы работы
Вместо отслеживания общего расхода токенов определите одну единицу работы с бизнес-смыслом: решённое обращение, реферированный документ, обогащённый лид, классифицированная строка. Тогда арифметика выглядит так:
| Компонент | Как посчитать | Примечание |
|---|---|---|
| Средняя стоимость вызова | (входные токены × цена входа) + (выходные токены × цена выхода) | Измеряйте, а не прикидывайте |
| Вызовов на единицу | Включая шаги поиска, маршрутизации, классификации и проверки | Типичный агент делает 3–8 вызовов на единицу |
| Множитель повторов | 1, делённая на долю успеха с первой попытки | 85% успеха дают множитель 1,18 |
| Стоимость человеческого надзора | Доля эскалаций × полная стоимость часа × время обработки | Обычно самая тяжёлая строка |
| Распределение фиксированных затрат | Общие фиксированные затраты, делённые на число единиц в месяц | Снижается по мере роста объёма |
Бенчмарки, опубликованные к 2026 году в клиентской поддержке, оценивают обращение, решённое ИИ, примерно в полдоллара–два доллара на уровне единицы против шести–двенадцати долларов за контакт, обработанный человеком. Разрыв выглядит решающим, но заметно сужается, как только обратно добавляются надзор, оценка и инфраструктура, — а часть опубликованных оценок помещает полную загруженную стоимость автоматического решения ближе к пяти долларам. Расстояние между этими двумя показаниями — это ровно расстояние между стоимостью токенов и стоимостью владения.
Три рычага, которые действительно меняют счёт
Прежде чем менять архитектуру, есть три скидки, которые провайдеры уже предлагают и которыми большинство команд не пользуется в полной мере.
| Рычаг | Порядок величины | Когда подходит |
|---|---|---|
| Кэширование промптов | Чтение из кэша стоит около десятой доли обычной цены входа | Стабильные системные инструкции, повторяющиеся базовые документы |
| Пакетная обработка | Примерно вдвое дешевле | Всё, что не требует ответа в реальном времени |
| Выбор модели под задачу | Разница между уровнями моделей — в десятки раз | Классификация, извлечение и маршрутизация не требуют передовой модели |
Что это делает с отчётом о прибылях и убытках
Традиционный софт живёт при валовой марже 80–90%, потому что стоимость обслуживания ещё одного пользователя стремится к нулю. Функция на базе модели ломает это допущение: каждое использование несёт реальную стоимость вычислений. Публикации к 2026 году помещают валовую маржу таких функций в диапазон 50–60%.
Практический вывод не в том, что функция не стоит усилий, а в том, что вместе с ней должна двигаться и ценовая модель. Ценообразование за место, нечувствительное к использованию, превращает активных пользователей в тихий убыток: когда пять процентов пользователей генерируют большую часть вычислительных затрат, плоская цена просто субсидирует их. Отдельно мы разбираем это в статье о ценообразовании продукта на базе модели, а связь между стоимостью единицы и общей прибыльностью — в юнит-экономике цифрового бизнеса.
Как измерять это на практике
- Помечайте каждый вызов API идентификатором той единицы работы, которой он служит, а не только ID пользователя. Без этого восстановить стоимость единицы задним числом невозможно.
- Храните входные токены, выходные токены и число попыток раздельно. Единая сумма затрат скрывает всё, что можно было бы исправить.
- Считайте долю успеха с первой попытки продуктовой метрикой, а не инфраструктурной. Она напрямую умножает стоимость.
- Распределяйте фиксированные затраты по единицам каждый месяц, иначе растущая функция будет выглядеть хуже, чем она есть.
- Задайте потолок стоимости единицы как критерий релиза — наравне с критерием качества. Функция, пробившая потолок, не выходит.
Последний пункт связан с более широким вопросом: как вообще определять условия приёмки для системы, вывод которой вероятностен. Мы излагаем это в статье о критериях приёмки ИИ-функции, а более широкая коммерческая сторона входит в наши направления экспертизы.
Часто задаваемые вопросы
Какую долю совокупной стоимости владения составляет счёт за API?
Единого числа нет, но во внедрениях с человеческим надзором, слоем оценки и мониторингом строка API обычно составляет меньшинство общих затрат. Чем автоматичнее и менее контролируем продукт, тем больше становится её доля. Именно поэтому семь строк нужно считать, а не выводить из прайс-листа.
Как оценить стоимость до того, как появился продакшен?
Прогоните репрезентативную выборку из нескольких сотен реальных единиц работы через весь конвейер и измерьте токены, вызовы и повторы так, как они происходят на самом деле. Оценка по одному только промпту почти всегда занижает результат, потому что игнорирует извлечённый контекст и сбои.
Меньшая модель всегда дешевле?
Нет. Дешёвая модель, которая чаще ошибается, порождает повторы, более длинные ответы и эскалации к людям, — и всё это стоит дороже, чем разрыв в цене токенов. Корректное сравнение — стоимость успешно завершённой единицы работы, а не цена за миллион токенов.
Когда имеет смысл переходить на собственную модель?
Когда нагрузка узкая, повторяющаяся и высокообъёмная, и когда стоимость или задержка API стали связывающим ограничением. При малом объёме или на широкой задаче инженерная стоимость и поддержка собственной модели обычно превышают экономию.
Если отслеживать только одну метрику — какую?
Стоимость успешно завершённой единицы работы, с ежемесячным пересмотром. Она вбирает в себя цену токенов, долю сбоев, эскалации и эффективность поиска и остаётся единственной величиной, напрямую сопоставимой с вашим ценообразованием и со стоимостью человеческой альтернативы.