Решение Google AI API обычно оказывается лучше, когда команда начинает с задачи, а не с названия новейшей модели. Определите входные данные, необходимый результат, требования к качеству, приемлемую задержку и бюджет. Затем проверьте актуальный OdiRouter model catalogue, чтобы узнать текущий идентификатор модели и поддерживаемый API, прежде чем создавать интеграцию.
Начните с задачи, которую нужно выполнить
Новости о релизах помогут вам заметить модель, но не скажут, подходит ли она для вашего приложения. Ассистенту поддержки, процессу работы с изображениями и процессу работы с видео нужны разные тесты. Запишите, какие данные принимает приложение, что оно должно возвращать и какой результат будет считаться полезным.
Для задач с текстом соберите несколько реалистичных запросов и укажите, что должен содержать хороший ответ. Для мультимодального процесса укажите типы входных файлов, ожидаемый формат вывода и проверки, важные для продукта. Начните с малого. Первый набор тестов должен выявить компромиссы, а не пытаться воспроизвести каждый запрос, который вы когда-либо получите.
Перед началом кодирования проверьте актуальный каталог.
Доступность, поддерживаемые интерфейсы и цены могут меняться. Откройте OdiRouter models catalogue, прежде чем подключать модель к приложению. Ознакомьтесь с текущей страницей модели и подтвердите идентификатор модели, соответствующий интерфейс API и сведения, необходимые для вашего сценария использования.
Далее, обратите внимание на current model pricing. Тестируйте каждого кандидата на одних и тех же репрезентативных входных данных. Сохраните идентификатор модели, версию запроса, качество результата, время отклика и стоимость, отображаемую перед запросом. Эта запись даст вам полезную основу для повторения теста при изменении каталога.
Отправьте один целевой запрос
OdiRouter getting-started guide охватывает ключи API, авторизацию, идентификаторы моделей, первые запросы и настройку SDK. Следуйте ему, чтобы получить актуальные сведения по настройке. Этот пример показывает структуру запроса. Замените заполнитель идентификатором модели, который вы проверили в актуальном каталоге, и храните ключ в переменной окружения, а не в исходном коде.
curl --location "https://api.odirouter.ai/v1/chat/completions" \
--header "Authorization: Bearer $ODIROUTER_API_KEY" \
--header "Content-Type: application/json" \
--data '{
"model": "YOUR_ODIROUTER_MODEL_ID",
"messages": [
{
"role": "user",
"content": "Summarize this release note in three sentences."
}
]
}'Этот запрос не выбирает модель за вас. Запустите его на репрезентативном наборе тестов, сохраните входные данные и результаты и внимательно изучите случаи ошибок. Если результат не соответствует ожиданиям, определите, что требует доработки: запрос, возможности модели, формат вывода или правило оценки.
Ведите простой оценочный дневник.
Краткая таблица надежнее запоминающейся демонстрации, когда нескольким людям нужно сравнить кандидатов.
Проверить | Что записать |
|---|---|
Соответствие задаче | Соответствует ли результат письменной приемочной проверке |
Качество | Примеры успешных и неудачных работ |
Задержка | Время отклика для одних и тех же репрезентативных входных данных |
Стоимость | Текущая отображаемая стоимость и размер запроса, использованный в тесте |
Интеграция | Используемые идентификатор модели, конечная точка и API-интерфейс |
Храните эту запись вместе с тестовыми запросами. Когда вы вернетесь к выбору, снова проверьте каталог и страницу цен, а не предполагайте, что предыдущий результат по-прежнему актуален.
Внедрите протестированный вариант в приложение
Когда кандидат пройдет небольшую оценку, поместите его идентификатор модели и настройки запроса в конфигурацию. Добавьте проверку входных данных, обработку ошибок, ограничения использования и средства наблюдаемости, соответствующие приложению. Изменение модели требует новой оценки, даже если формат запроса кажется знакомым.
Посетите OdiRouter, проверьте актуальные сведения о модели и используйте официальную документацию для следующего шага интеграции.