LlamaIndex

LlamaIndex может использовать OdiRouter через OpenAI-совместимые LLM-клиенты. Укажите API key, API base и ID модели OdiRouter.

Требования

Требование	Значение
Python	3.10+
Пакет	LlamaIndex OpenAI LLM integration
API base	https://www.odirouter.ai/v1
API Key	API key OdiRouter
Model	ID LLM-модели в OdiRouter

Установите

pip install llama-index llama-index-llms-openai

Настройте LLM

import os

from llama_index.llms.openai import OpenAI

llm = OpenAI(
    model="gpt-5.5",
    api_key=os.environ["ODIROUTER_API_KEY"],
    api_base="https://www.odirouter.ai/v1",
)

Завершение текста

response = llm.complete("Reply with a one-line LlamaIndex integration test.")

print(response.text)

Используйте Settings

from llama_index.core import Settings

Settings.llm = llm

Для RAG настройте embeddings отдельно, если выбранная модель OdiRouter и интеграция LlamaIndex явно не поддерживают embeddings.

Диагностика

Симптом	Исправление
Запросы уходят в OpenAI	Проверьте api_base
Ответ 401	Установите ODIROUTER_API_KEY в серверном окружении
Model not found	Используйте точный ID модели из /models
RAG-приложение падает на embedding	Настройте embeddings отдельно от LLM-клиента OdiRouter