Людям, ищущим API GPT OSS 120B, обычно нужны две вещи: понятное описание обозначения модели и способ выполнить запрос, не полагаясь на устаревшие сведения о цене или доступности. Перед отправкой запроса используйте OdiRouter's model catalog в качестве источника данных для выбора идентификаторов моделей и информации о наличии товара.
Что указано на странице с описанием модели
На предоставленной справочной странице модели gpt-oss-120b описывается как языковая модель Mixture-of-Experts с открытыми весами, 117 млрд параметров и 5.1 млрд активных параметров на один прямой проход. Модель описывается как подходящая для рассуждений, агентной работы и общего использования в производственной среде. Это описания из исходной страницы, а не обещание относительно конкретного маршрута или развёртывания OdiRouter.
На этой странице также указаны цены токенов и контекстное утверждение. Цена OdiRouter также не указана. Перед тем как приложение начнёт зависеть от фиксированного значения, проверьте актуальный models page для идентификатора модели и pricing page для текущих вариантов.
Проверьте запрос перед интеграцией
Перед добавлением модели в приложение проверьте актуальный каталог и документацию:
Точный идентификатор модели, который можно выбрать сегодня.
Текущая цена, поддерживаемые возможности и ограничения на запросы указаны для данной модели.
Ограничения контекста и вывода, применимые к данной нагрузке.
Требования к обработке данных и политике конфиденциальности.
Небольшой тестовый запрос, похожий на реальную задачу, а не типовая проверка «hello world».
Это позволяет не копировать идентификатор модели, цену или ограничение контекста со сторонней страницы. Это также даёт проверяющим понятное место для проверки при изменении конфигурации.
Настройте клиент OpenAI SDK для OdiRouter
OdiRouter OpenAI SDK documentation использует базовый URL API https://api.odirouter.ai/v1. Храните ключ в переменной окружения. Затем замените приведённый ниже заполнитель идентификатором модели, который сейчас указан в каталоге OdiRouter.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["ODIROUTER_API_KEY"],
base_url="https://api.odirouter.ai/v1",
)
response = client.chat.completions.create(
model="MODEL_ID_FROM_ODIROUTER_CATALOG",
messages=[
{"role": "user", "content": "Summarize this request in two sentences."}
],
)
print(response.choices[0].message.content)В примере не зашит конкретный идентификатор модели. Справочное обозначение модели, метка в каталоге и идентификатор маршрутизации могут различаться. Используйте текущий идентификатор каталога, чтобы запрос соответствовал каталогу при развертывании.
Протестируйте интеграцию, используя входные данные, максимально приближенные к производственным.
Начните с небольшого задания, которое напоминает задачу, которую вам нужно выполнить. Записывайте в собственной телеметрии идентификатор модели, настройки запроса, статус ответа, использование токенов и задержку. Затем протестируйте длинный ввод, ограниченный формат вывода, повторные попытки и ответ о недоступности модели. Это упрощает различение проблемы конфигурации SDK и решения, связанного с выбором модели или её доступной мощностью.
Не помещайте API-ключ в систему контроля версий или клиентское приложение. Используйте переменную окружения, предоставляемую системой развёртывания, и смените ключ, если он был раскрыт.
Выберите следующий шаг OdiRouter
Проверьте OdiRouter model catalog, чтобы узнать доступный идентификатор, изучите current pricing и используйте OpenAI SDK setup guide для полного пути интеграции. Если в каталоге нет нужной модели, протестируйте доступную модель на той же нагрузке и по тем же критериям приемки, прежде чем выбирать её.