Цены AI API проще планировать, если отделять опубликованный тариф модели от рабочей нагрузки, которая ее использует. Тестовый запрос и производственная партия могут иметь различное количество токенов, размеры выходных данных, параметры генерации и требования к маршрутизации. Проверьте актуальную карточку модели, затем рассчитайте стоимость в той единице, по которой эта модель фактически тарифицируется.
OdiRouter's pricing page рекомендует пользователям сравнивать реальные цены моделей перед отправкой запроса. Также в нем говорится, что бесплатные кредиты можно использовать для тестирования конфигурации, а запросы можно маршрутизировать из одной учетной записи OdiRouter с учетом стоимости, скорости и доступности. Это дает команде разумную отправную точку.
Сначала проверьте актуальный тариф модели
Не планируйте производственный бюджет на основе скриншота или старой таблицы. Откройте актуальный OdiRouter pricing page, определите модель и единицу тарификации, а также зафиксируйте тариф и дату проверки.
Единица тарификации зависит от модели. Языковая модель может взимать плату за входные и выходные токены. Модель для изображений или видео может использовать собственную единицу генерации. Ваша оценка должна основываться на единице, указанной для выбранной модели, а не на общем правиле.
Используйте model catalog, чтобы сузить категорию. OdiRouter перечисляет категории рекомендуемых, бесплатных, LLM-, графических, видео- и аудиомоделей. После выбора подходящего варианта подтвердите его актуальную карточку, прежде чем планировать рабочую нагрузку.
Преобразуйте тариф в оценку рабочей нагрузки
Для запроса с тарификацией по токенам используйте такую формулу планирования:
estimated request cost =
(input tokens / 1,000,000 × current input rate) +
(output tokens / 1,000,000 × current output rate)Для модели поколения замените термины токенов на единицу измерения, указанную в её описании. Расчет может зависеть от количества поколений, продолжительности, разрешения или другого показателя, специфичного для данной модели. Если хранить тариф вне формулы, его можно обновлять без пересборки прогноза.
Затем примените результат к заданию:
estimated workflow cost = estimated request cost × expected request countПредусмотрите отдельный резерв на повторные попытки, вызовы для проверки и эксперименты. Это ваш резерв на планирование, а не комиссия платформы. Отделение этого фактора от расчетов модели позволяет легче определить, связано ли отклонение с ценообразованием или с отправкой большего объема работы.
Зафиксируйте факторы, которые могут изменить расходы
Прежде чем сравнивать маршруты или утверждать бюджет, зафиксируйте переменные, способные изменить оплачиваемую единицу.
Объём входных и выходных данных. Для моделей с тарификацией по токенам измеряйте репрезентативные промпты и ответы, а не один короткий запрос.
Настройки генерации. Для работы с изображениями, видео или аудио используйте настройки, с которыми вы планируете работать. Черновые и финальные настройки могут тарифицироваться по-разному.
Количество запросов и параллелизм. Один и тот же средний запрос обходится дороже, когда в течение расчётного периода вы отправляете больше таких запросов.
Повторные попытки и проверки. Ошибки валидации, доработки промптов и вызовы для оценки следует включать в прогноз.
Критерии маршрутизации. В рекомендациях по ценообразованию OdiRouter названы стоимость, скорость и доступность. Фиксируйте компромисс, на который вы соглашаетесь, вместо того чтобы считать единственным вариантом самую низкую указанную ставку.
Тестируйте перед масштабированием
OdiRouter сообщает, что бесплатные кредиты можно использовать для тестирования конфигурации. Используйте ограниченный тест, чтобы собрать исходные данные для оценки.
Выберите одну модель и репрезентативный запрос.
Зафиксируйте её текущую оплачиваемую единицу и цену на официальной странице с тарифами.
Запустите небольшой пример, отражающий подсказки, целевые параметры вывода или настройки генерации, которые вы планируете использовать.
Сравните наблюдаемое использование с количеством запросов в вашем плане.
Перед увеличением размера партии или переводом рабочего процесса в производственную среду выполните перерасчет.
Результат не гарантирует фиксированной суммы. Это текущая оценка, основанная на указанных предположениях, что упрощает ее обновление при изменении рабочей нагрузки.
Ведите отдельную таблицу для каждой нагрузки
Для каждой нагрузки укажите выбранную модель, время проверки цены, единицу тарификации, размер репрезентативного запроса, ожидаемое количество запросов, резерв на повторные попытки и критерии маршрутизации. Разделяйте экспериментальные и производственные оценки. Тест, помогающий выбрать модель, не является прогнозом для запланированной нагрузки.
Если несколько команд используют одну учётную запись, назначьте для каждого рабочего процесса владельца и отдельные допущения. Позже сравните фактическое количество запросов или размер единицы с оценкой, прежде чем делать вывод, что ставка изменилась.
Продолжить с OdiRouter
OdiRouter объединяет поиск моделей, сравнение актуальных цен и вопросы маршрутизации в одной платформе для разработчиков. Вы можете review current model prices, browse models, ознакомиться с getting-started documentation или создать учётную запись OdiRouter, чтобы протестировать конфигурацию.
Часто задаваемые вопросы
Используется ли в ценообразовании AI API единая универсальная ставка?
Нет. Ставка и единица тарификации зависят от модели. Проверьте актуальный OdiRouter перечень цен для модели, которую планируете использовать.
Может ли тест улучшить оценку?
Да. OdiRouter указывает, что бесплатные кредиты можно использовать для тестирования конфигурации. Ограниченный тест даёт репрезентативные данные об использовании модели и настроек, предусмотренных вашим планом.
Должен ли всегда побеждать самый дешёвый маршрут?
Не обязательно. OdiRouter определяет стоимость, скорость и доступность как факторы маршрутизации. Выберите критерии, соответствующие нагрузке, и зафиксируйте решение в оценке.