API Qwen3-235B-A22B позволяет команде использовать эту большую модель, объединяющую экспертов разных уровней, без необходимости размещения весов на собственном сервере. Одно только название по-прежнему мало что говорит о действующем маршруте. Перед запуском в продакшене проверьте вызываемый ID модели, поддерживаемые функции, политику контекста, лимит вывода и актуальную цену. OdiRouter предоставляет для этих проверок конечные точки каталога и ценообразования.
Что такое Qwen3-235B-A22B
Qwen описывает Qwen3-235B-A22B как каузальную языковую модель с 235 миллиардами общих параметров и 22 миллиардами активируемых параметров. Она имеет 94 слоёв, 128 экспертов и 8 активных экспертов. В её конфигурации внимания с группированными запросами используются 64 голов запросов и 4 голов ключей-значений.
Различие между общими и активными параметрами является ключевым для этой архитектуры. Модель не задействует каждого эксперта для каждого токена. Это различие важно при сравнении размера моделей, потребностей в памяти и поведения при инференсе.
Модель опубликована по лицензии Apache 2.0. В её официальной карточке модели указано 32,768 tokens нативного контекста и до 131,072 tokens с YaRN. Размещённый маршрут может устанавливать иной практический лимит, поэтому доверяйте ответу активного каталога, а не наибольшему значению из исходного источника.
Режимы с рассуждениями и без рассуждений
Шаблон Qwen поддерживает enable_thinking=True и enable_thinking=False. В опубликованном примере режим рассуждений включён по умолчанию. В режиме мышления модель может создавать содержимое рассуждений перед окончательным ответом. Режим без мышления предназначен для более прямых ответов.
Qwen также документирует /think и /no_think как элементы управления промптом при включённой поддержке мышления. Размещённый API может предоставлять эти элементы управления иначе. Протестируйте маршрут, прежде чем полагаться на поле рассуждений, переключатель режима или определённый формат ответа.
Где находится данная модель
Qwen представляет модель для программирования, математики, логического мышления, задач агента, выполнения инструкций и многоязычной работы. Рассматривайте это как области оценки, а не как гарантию того, что модель подойдет для каждого применения.
Создайте набор тестовых данных, используя собственные подсказки, инструменты, схемы вывода, языки программирования и целевые значения задержки. Сравните поведение в режимах мышления и без мышления. Если маршрут заявляет поддержку структурированного вывода или вызова инструментов, протестируйте оба варианта с точной структурой запроса, которую планируете внедрить. Также зафиксируйте фактический лимит контекста и длину завершения. Количество параметров — полезный контекст, но не результат.
Проверьте маршрут в OdiRouter
Каталоги моделей меняются. Не предполагайте, что исходное имя Qwen/Qwen3-235B-A22B также является вызываемым идентификатором OdiRouter. Запросите аутентифицированный каталог и используйте возвращённый id.
curl --location "https://api.odirouter.ai/v1/models/catalog?keyword=qwen3-235b-a22b&category=llm&provider=Qwen&page=1&page_size=20" \
--header "Authorization: Bearer ${ODIROUTER_API_KEY}"Прочитайте возвращённый объект модели перед написанием кода интеграции. Проверьте его идентификатор, поставщика, входные и выходные модальности, список функций, длину контекста и максимальное число выходных токенов. Если подходящего маршрута нет, выберите модель, которая указана в списке на данный момент, или проверьте снова позже. Отправка идентификатора, которого каталог не вернул, — это ненужное гадание.
Получив действительный ID, запросите его актуальную стоимость. Ответ о ценах разделяет позиции биллинга и единицы измерения, поэтому можно различать входные токены, выходные токены, кэшированные токены, секунды, изображения или запросы.
export ODIROUTER_MODEL_ID="the-id-returned-by-the-catalog"
curl --location "https://api.odirouter.ai/v1/models/catalog/${ODIROUTER_MODEL_ID}/pricing" \
--header "Authorization: Bearer ${ODIROUTER_API_KEY}"Отправьте проверенный запрос Chat Completions
OdiRouter документирует https://api.odirouter.ai/v1 как базовый URL LLM и использует аутентификацию Bearer. После того, как каталог подтвердит совместимый маршрут LLM, передайте его возвращенный ID в функцию завершения чата.
curl --location "https://api.odirouter.ai/v1/chat/completions" \
--header "Authorization: Bearer ${ODIROUTER_API_KEY}" \
--header "Content-Type: application/json" \
--data '{
"model": "'"${ODIROUTER_MODEL_ID}"'",
"messages": [
{
"role": "user",
"content": "Explain the tradeoff between native context and extended context."
}
],
"temperature": 0.3
}'OpenAI SDK может использовать тот же базовый URL. Сохраните ключ и идентификатор модели в переменных среды. Это позволяет менять учетные данные и маршруты без редактирования кода приложения.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["ODIROUTER_API_KEY"],
base_url="https://api.odirouter.ai/v1",
)
response = client.chat.completions.create(
model=os.environ["ODIROUTER_MODEL_ID"],
messages=[
{
"role": "user",
"content": "Write a concise checklist for reviewing a pull request.",
}
],
)
print(response.choices[0].message.content)Проверки производства перед запуском
Подтверждайте ID модели при развёртывании, а не только в день, когда инженер пишет первый тест. Сохраните соответствующие поля каталога вместе с подтверждением выпуска.
Установите для приложения бюджет токенов ниже заявленных маршрутом лимитов контекста и вывода. Расширенный контекст может сопровождаться иными компромиссами в качестве, задержке или конфигурации.
Целенаправленно тестируйте поведение в режиме мышления. Зафиксируйте, относятся ли элементы управления к промпту, параметрам запроса или конфигурации маршрута. Не предполагаете, что сервис вернёт внутренние рассуждения.
Проверьте структурированный вывод, вызов инструментов, потоковую передачу и другие заявленные функции реальным запросом. Маршруты одного семейства моделей могут предоставлять разные возможности.
Получите актуальные цены перед выпуском, чувствительным к затратам. Включите в оценку каждую тарифицируемую позицию и добавьте резервный маршрут, если для продукта важны доступность или задержка.
Используйте OdiRouter в качестве уровня проверки
OdiRouter предоставляет один API-ключ, документированный базовый URL LLM, доступный для поиска каталог моделей и конечную точку с ценами для конкретной модели. Разумный рабочий процесс Qwen3-235B-A22B состоит в том, чтобы проверить маршрут, ознакомиться с его текущими лимитами и ценой, провести собственную оценку, а затем подключить производственный трафик.
Просматривайте текущие модели в https://odirouter.ai/models и сравнивайте цены маршрутов в https://odirouter.ai/pricing. Руководство по быстрому началу работы находится по адресу https://odirouter.ai/docs/get-started/quick-start.
Официальные источники
Карточка модели Qwen: https://huggingface.co/Qwen/Qwen3-235B-A22B
Публикация о запуске Qwen3: https://qwenlm.github.io/blog/qwen3/
API каталога моделей OdiRouter: https://odirouter.ai/docs/api-reference/models/model-list
API цен на модели OdiRouter: https://odirouter.ai/docs/api-reference/pricing-balance/model-pricing
Руководство по Chat Completions OdiRouter: https://odirouter.ai/docs/model-api/llm/chat