Запуск ИИ-агентов на собственном оборудовании окупается финансово только по сравнению с дорогими фронтир-моделями и только при объёме примерно от 5 миллионов токенов в день. По сравнению с API моделей с открытыми весами, которые стоят около 0,14–0,50 доллара за миллион токенов, точка безубыточности отодвигается к миллиардам токенов в месяц, и большинство организаций её никогда не достигнет. Вывод простой: если единственный критерий — стоимость, ответ обычно отрицательный. Работают три других аргумента: суверенитет данных, фиксация версии и задержка — и их нужно оценивать честно.
Вопрос, который задаёт большинство организаций, — неправильный вопрос
Обсуждение почти всегда начинается с того, сколько мы сэкономим, если будем запускать это сами. Такой вопрос можно посчитать, и от этого он кажется безопасным — но он почти никогда не является настоящей причиной, по которой организация запускает модель у себя.
Убедительных аргументов три, и ни один из них не про прямую экономию. Первый — суверенитет данных: когда информация, попадающая в промпт, не может покинуть организацию, экономический вопрос вторичен по отношению к вопросу о допустимости. Второй — фиксация версии: поставщик, обновивший модель, меняет поведение агента, откалиброванного под предыдущую версию, а модель на собственном оборудовании не меняется, пока вы сами этого не решите. Третий — стабильная задержка при высоком объёме, особенно для задач классификации и извлечения данных, которые выполняются сотни раз в минуту.
Если ни один из этих трёх случаев к вам не относится, приведённая ниже арифметика почти всегда вернёт вас к API.
Арифметика без магии
По состоянию на середину 2026 года аренда одной H100 стоит примерно от 2 долларов в час у специализированных GPU-провайдеров до примерно 14 долларов в час у гиперскейлеров, а доступ по требованию в среднем около 3 долларов в час. Покупка карты обходится в 30 000–40 000 долларов и выше. Возьмём зарезервированную цену в 2 доллара в час — около 1460 долларов в месяц за карту, работающую непрерывно.
| С чем вы сравниваете | Цена за миллион токенов | Месячный объём в точке безубыточности | Эквивалент в день |
|---|---|---|---|
| Дорогая фронтир-модель | 10 $ | ~146 миллионов | ~5 миллионов |
| Более дешёвая фронтир-модель | 2,50 $ | ~584 миллиона | ~19 миллионов |
| API модели с открытыми весами | 0,25 $ | ~5,8 миллиарда | ~195 миллионов |
Таблица считается напрямую: 1460 долларов в месяц делятся на цену за миллион токенов. Третья строка — та, что закрывает обсуждение в большинстве организаций: 195 миллионов токенов в день — это объём масштабного продукта, а не внутреннего агента.
Обратите внимание, что этот расчёт щедр к стороне оборудования. Он предполагает зарезервированную цену, одну карту и нулевые операционные расходы. Все три допущения рушатся в продакшене.
Загрузка решает всё
API берёт плату за токен. Карта берёт плату за час, включая часы, когда ей никто ничего не отправляет. Именно из-за этой разницы большинство расчётов окупаемости собственного хостинга оказываются неверными.
Квантованная модель класса 70 миллиардов параметров на одной H100 с эффективным батчингом выдаёт порядка 3000 токенов в секунду. При цене 2 доллара в час это переводится так.
| Средняя загрузка | Фактическая стоимость за миллион токенов | По сравнению с API открытых весов |
|---|---|---|
| 100% | ~0,19 $ | Конкурентоспособно |
| 50% | ~0,37 $ | Столько же или дороже |
| 25% | ~0,74 $ | Втрое дороже |
| 10% | ~1,85 $ | В семь раз дороже |
Загрузки в 100% в реальном мире не бывает. Бизнес-нагрузка циклична — рабочие часы, будние дни, конец месяца — поэтому средняя загрузка в 50–60 процентов считается очень хорошей для внутренней нагрузки. Ниже этого уровня собственный хостинг проигрывает и API с открытыми весами, и части фронтира.
Отсюда простое практическое правило: если вы не можете указать на постоянную нагрузку, которая занимает карту хотя бы половину времени, вы платите за воздух.
Что расчёт оставляет за скобками
Цена карты — единственная составляющая, которую легко посчитать, и поэтому единственная, которую считают. Полная стоимость собственного хостинга в продакшене обычно оказывается в три–пять раз выше.
- Резервирование. Одна карта — единственная точка отказа. Агенту, обслуживающему клиентов, нужны как минимум две карты или запасной маршрут к API.
- Эксплуатация. Сервер инференса, мониторинг, управление очередями, обновления драйверов и переквантование при каждом обновлении модели.
- Дежурство. Кто-то должен ответить, когда GPU падает в два часа ночи. У API есть SLA; у вашей карты есть только вы.
- Тестовая инфраструктура. Каждая смена модели или изменение квантования требует полного прогона тестового набора, как описано в руководстве по оценке агентов.
- Упущенная выгода. Модель, которую вы зафиксировали год назад, остаётся на месте, пока фронтир уходит вперёд.
Архитектура, которая действительно работает: маршрутизация по задачам
Выбор не бинарный. Типичный бизнес-агент выполняет набор задач, резко различающихся по характеру, и экономическая логика для каждой из них своя.
| Тип задачи | Характеристики | Где выполнять |
|---|---|---|
| Классификация, разметка, извлечение полей | Высокий объём, короткий вывод, нужна стабильность | Небольшая модель на своём оборудовании |
| Резюмирование и переписывание | Средний объём, достаточно среднего качества | API модели с открытыми весами |
| Планирование, рассуждение, решения | Низкий объём, высокая чувствительность к качеству | Фронтир-модель через API |
| Чувствительные данные, которые нельзя выпускать | Регуляторное ограничение | Собственное оборудование независимо от объёма |
Такая маршрутизация даёт большую часть экономии без большей части риска: высокообъёмные задачи, которые одновременно и самые простые, спускаются на дешёвую локальную модель, а сложные решения остаются за лучшей доступной моделью. Дополнительные приёмы снижения затрат на уровне API разобраны в руководстве по снижению стоимости инференса, а последнюю строку таблицы следует выводить из вашей классификации корпоративных данных.
Шесть вопросов перед покупкой карты
- Каков ваш сегодняшний дневной объём токенов — измеренный, а не оценённый на глаз, и какова скорость его роста.
- С какой альтернативной ценой вы сравниваете — с фронтиром или с открытыми весами. Два ответа ведут в противоположные стороны.
- Какую загрузку вы ожидаете в течение суток и недели, включая часы без трафика.
- Кто в команде поддерживает сервер инференса и что происходит, когда этот человек в отпуске.
- Есть ли запасной маршрут к API при отказе оборудования и кто принимает решение о переключении.
- Есть ли аргумент, не связанный со стоимостью. Если нет, решение почти всегда остаётся за API.
Это решение выглядит как инфраструктурное, но по сути оно архитектурное. Оно определяет, какие части агента могут меняться, а какие зафиксированы, поэтому принимать его нужно с опорой на полную карту компонентов, описанную в материале Анатомия бизнес-агента на ИИ.
Часто задаваемые вопросы
Дешевле ли запускать модель ИИ на собственном сервере?
Только при определённых условиях. По сравнению с фронтир-моделью примерно за 10 долларов за миллион токенов точка безубыточности зарезервированной H100 находится около 5 миллионов токенов в день. По сравнению с API модели с открытыми весами примерно за 0,25 доллара за миллион безубыточность подскакивает до примерно 195 миллионов токенов в день — объёма, которого большинство организаций никогда не достигает.
Где точка безубыточности между собственным хостингом и API?
Она следует из простого деления: месячная стоимость оборудования делится на альтернативную цену за миллион токенов. Карта стоимостью около 1460 долларов в месяц против API по 10 долларов за миллион выходит в ноль примерно на 146 миллионах токенов в месяц. Умножьте результат на три–пять, чтобы отразить полную операционную стоимость.
Почему загрузка GPU так важна?
Потому что API берёт плату за токен, а карта — за час, включая часы простоя. Циклическая бизнес-нагрузка даёт в лучшем случае среднюю загрузку в 50–60 процентов, поэтому фактическая стоимость миллиона токенов почти всегда как минимум вдвое выше теоретического расчёта.
Какие есть неэкономические аргументы в пользу собственного хостинга?
Три основных: суверенитет данных, когда информация не может покинуть организацию; фиксация версии модели, чтобы откалиброванный агент не сместился из-за выпущенного поставщиком обновления; и стабильная задержка на высокообъёмных задачах. Когда действует один из них, экономический вопрос вторичен.
Можно ли комбинировать оба подхода?
Обычно это и есть правильная архитектура. Высокообъёмные классификация и извлечение работают на небольшой локальной модели, резюмирование — на API с открытыми весами, а решения и рассуждения — на фронтир-модели. Такая маршрутизация убирает большую часть затрат, не жертвуя качеством там, где оно определяет результат.