Видео-версия: ролик целиком собрали ИИ-агенты, голос — мой клон в ElevenLabs.
Раньше я думал так: чем сложнее система, тем дороже она в эксплуатации. Оказалось, что это верно только если всё время держать за рулём самую умную модель. Схема, которая работает у нас сейчас: Opus один раз проектирует систему, а дальше её крутят скрипты и Haiku 5.5. Умная модель нужна на этапе постройки, а не на каждом запуске.
Сколько это стоит на самом деле
Цены за миллион токенов (вход / выход):
| Модель | Вход | Выход |
|---|---|---|
| Haiku 5.5 | $0.10 | $0.50 |
| Sonnet 5.5 | $2 | $10 |
| Opus 5.5 | $4 | $20 |
Разница с Sonnet — в 20 раз, с Opus — в 40. На типичном вызове крона (короткий вход, короткий JSON на выходе) это выходит $0.002–0.005 за запуск. Все рутинные кроны на трёх наших серверах теперь идут на Haiku 5.5. При такой цене за запуск общий счёт за рутину — копейки.
На собственном наборе задач (логика, JSON из расшифровок, шаблонные тексты, протоколы) Haiku 5.5 с уровнем рассуждения high решил всё, кроме точного подсчёта в длинном логе. Набор целиком стоил $0.048, Sonnet — $1.12, Opus — $1.02. Режим max брать не стоит: он в 10 раз больше жжёт токенов и на длинном контексте зависал.
Рычажок: подписка или API
Чтобы не переписывать кроны каждый раз, когда меняется расклад, я сделал переключатель llm-mode. Он одной командой меняет, откуда берётся Haiku:
sub— подписка;api— ключ Anthropic;auto— API, пока есть кредиты и не выбран дневной лимит, потом подписка;openrouter— вызовы через OpenRouter (только для того, что не трогает клиентские данные).
Про кредиты важно не ошибиться: API-кредиты сейчас дают только на тарифах Claude Max 5x ($100 в месяц) и Max 20x ($200 в месяц). На остальных тарифах, включая Pro, кредитов пока нет, и API там оплачивается отдельно по токенам.
Если API отвечает ошибкой кредитов или авторизации, тот же вызов повторяется на подписке, а событие пишется в лог. Клиентские проекты исключены из внешних провайдеров по пути запуска: там только Anthropic.
Пример: видеоконвейер
Видеоконвейер одного из моих проектов я не запускаю руками. Opus один раз спроектировал его: стадии, формат данных между ними, проверки. Теперь каждый день его гоняют скрипты, а Haiku подключается там, где нужно прочитать текст и вернуть структуру. Дорогая модель потратила токены один раз, на архитектуру.
Где дешёвая модель не годится
Это самая важная часть. У нас есть верификатор заказов: он проверяет, можно ли пропустить заказ дальше или нужно остановить. Я прогнал теневой тест на 451 реальном случае, Haiku против Sonnet:
| Haiku 5.5 | Sonnet 5.5 | |
|---|---|---|
| Стоимость на случай | $0.0043 | $0.065 |
| Совпадение со Sonnet | 82.7% | — |
| Пропущено из 112 подтверждённых остановок | 2 | — |
Экономия в 15 раз выглядит заманчиво. Но два пропущенных «стопа» из 112 — это два заказа, которые прошли бы, хотя не должны были. Цена такой ошибки выше всей экономии. Поэтому верификатор остался на Sonnet. Дешёвое не значит «везде».
Второе открытие неожиданнее: Sonnet совпадает сам с собой при повторном прогоне только в 62.5% случаев. То есть «эталоном» он быть не может. Теперь мы делаем разметку человеком: на ней можно честно сравнивать любые модели, включая саму себя.
Сжатие контекста: дешевле в 3.7 раза
Отдельный тест — длинная агентная задача, которая перерастает 100 тысяч токенов. Haiku 5.5 high, три прогона на режим:
| Режим | Пик контекста | Стоимость | Тесты |
|---|---|---|---|
| Без сжатия | 331K | $0.508 | 100% |
| Сжатие на 100K | 72K | $0.131 | 100% |
| Сжатие, но сырой транскрипт недоступен | 64K | $0.112 | 0% |
Со сжатием выходит в 3.7 раза дешевле при том же качестве на этом тесте, но работает оно в 2–2.4 раза дольше. Условие жёсткое: агент должен иметь возможность заглянуть в сырую историю. Без неё Haiku после повторных сжатий теряет исходную спецификацию. Sonnet в тех же условиях ничего не терял. Реальные сессии с базовым контекстом 80–110K мы так ещё не проверяли.
Как не обмануться со счётом
Claude CLI и SDK неверно считают стоимость Haiku 5.5: на одном тесте показали около $0.99, а реально он стоил центы. Они не знают новых цен. Поэтому считаем сами: оболочка claude-run пишет токены в журнал и умножает их на нашу таблицу цен. Если считаете расходы по цифре из CLI, вы переоцените дешёвую модель в десятки раз.
Ещё одна ловушка: настройка автосжатия, рассчитанная на окно в миллион токенов, наследуется дочерними запусками и роняет Haiku на ~38 тысячах. Кроны надо запускать без неё.
Что забрать себе
- Проектируйте систему умной моделью, исполняйте дешёвой и скриптами.
- Рутина (классификация, извлечение JSON, шаблонные тексты, поллинг) — Haiku 5.5, уровень high, не max.
- Там, где ошибка стоит денег, не экономьте вслепую: прогоните теневой тест на своих данных.
- Не доверяйте стоимости из CLI — считайте по токенам.
- Не принимайте одну модель за эталон. Нужна человеческая разметка.
Итог: почти бесплатная работа возможна, но «почти» — это ровно те два пропущенных стопа из 112.
Если интересны такие системы на агентах и дешёвых моделях, пишу о них в Telegram-канале: Рамас. Лаборатория.
