Модели рассуждений OpenAI легко спутать, поскольку информация о них становилась доступной общественности по частям. Q* и Strawberry появились в сообщениях Reuters о внутренней работе. GPT-4o и o1-preview появились позднее в качестве официальных релизов OpenAI. Это разные виды доказательств, и отношение к каждому названию как к готовому продукту приводит к неверным техническим решениям.
Полезный вопрос заключается не в том, какое кодовое название звучало наиболее значимо. Он заключается в том, что OpenAI действительно выпустила, что осталось неподтверждённым и какой тип модели подходит для реальной рабочей нагрузки. Затем OdiRouter поможет вам проверить актуальный маршрут, идентификатор модели, конечную точку и цену, вместо того чтобы полагаться на сведения, застывшие в старой статье.
Q* был сообщением, а не спецификацией
Reuters сообщило о названии Q* в ноябре 22 года, 2023. В статье говорилось, что OpenAI подтвердило наличие внутреннего сообщения для сотрудников, в котором упоминались Q* и освещение в прессе письма совету директоров. OpenAI не подтвердило возможности, описанные Reuters. Reuters также сообщило, что не смогло независимо проверить утверждения о том, что проект решил некоторые математические задачи.
Это оставляет лишь узкий набор фактов. Q* обсуждался внутри OpenAI и освещался публично. Не существовало ни публичной карточки модели, ни стабильного идентификатора модели API, ни официальной архитектуры, которую разработчики могли бы изучить. Утверждения о том, что Q* использовал Q-обучение с конкретным методом поиска, выходят за рамки доказательств, представленных в отчёте.
Strawberry оставался упоминаемым кодовым названием.
Reuters описал Strawberry в июле 12, 2024 как продолжающееся исследование в области рассуждений. Во внутренних документах, изученных новостной организацией, предположительно обсуждались планирование, долгосрочные задачи и исследования с использованием доступа к интернету. Reuters также сообщил, что ранее эта работа была известна как Q*.
OpenAI дал общий ответ о том, что отрасль продолжает улучшать способности моделей к рассуждению. Компания не опубликовала проект Strawberry и не назвала дату его выпуска. Таким образом, Project Strawberry — полезное обозначение для освещения в СМИ, а не спецификация публичного API.
Указанные даты свидетельствуют о смежных исследованиях, но не доказывают, что каждая последующая модель рассуждений представляла собой один и тот же проект под новым названием. Официальная страница o1, использованная для этой статьи, не идентифицирует o1-preview как Q* или Strawberry.
o1 превратил рассуждения в официальный релиз.
OpenAI опубликовал Learning to reason with LLMs в сентябре 12, 2024 и выпустил o1-preview. Компания описала крупномасштабный метод обучения с подкреплением, который научил модель тратить больше времени на решение задачи, прежде чем дать ответ. В отчете OpenAI сообщается о повышении эффективности обучения как за счет дополнительных вычислительных ресурсов, так и за счет более тщательного обдумывания результатов во время тестирования.
Этот релиз предоставил то, чего не хватало историям о кодовых названиях. Разработчики получили публичное название модели, объяснение направления обучения, опубликованные оценки и доступность с момента запуска.
Собственная оценка OpenAI также показала, почему выбор модели по-прежнему важен. o1-preview превзошёл GPT-4o во многих задачах, требующих интенсивных рассуждений, но эксперты-оценщики предпочли GPT-4o для некоторых задач обработки естественного языка. Более глубокие рассуждения полезны, когда этого требует задача. Для обычных запросов они могут быть излишними.
GPT-4o решала другую задачу
OpenAI объявила о GPT-4o в мае 13 года, 2024. o означает omni. OpenAI описала модель, обученную на текстовых, визуальных и аудиоданных, принимающую комбинации текста, аудио, изображений и видео. Возможности вывода выпускались поэтапно.
OpenAI назвала модель GPT-4o. На её странице запуска GPT-4o Large не используется в качестве названия продукта. Сторонние статьи могут неформально использовать эту фразу, но при интеграции всегда следует использовать точный идентификатор модели, возвращаемый каталогом или API, к которому она обращается.
На момент запуска GPT-4o и o1 подчёркивали разные сильные стороны. GPT-4o была ориентирована на мультимодальное взаимодействие и ответы в диалоговом формате. o1 затрачивала больше вычислительных ресурсов на сложные рассуждения. Это разграничение не является постоянным, но оно служит лучшей отправной точкой, чем предположение, что оба названия описывают один и тот же тип модели.
Выбирайте модель исходя из рабочей нагрузки
Начните с той части задачи, в которой наиболее вероятна ошибка.
Попробуйте модель для рассуждений при решении многошаговых математических задач, сложном анализе кода, планировании в условиях ограничений или в работе, где одна ранняя ошибка может исказить весь остальной ответ.
Если продукту требуется понимание изображений, взаимодействие со звуком, работа с широким спектром языков или более быстрый цикл диалога, попробуйте использовать мультимодальную или универсальную модель.
Разделение смешанных рабочих нагрузок. В чат-приложении для обработки стандартных запросов может использоваться быстрый общий алгоритм, а для меньшего числа сложных запросов может быть зарезервирован алгоритм с обоснованием.
Проверьте список кандидатов на собственных данных. Измеряйте качество ответов и задержку. Проверьте использование токенов, структурированный вывод, поведение инструмента и стоимость повторных попыток. Публичные бенчмарки помогают сузить круг вариантов, но не могут воспроизвести ваш производственный трафик.
Проверяйте актуальные модели через OdiRouter
Статьи о моделях быстро устаревают. Названия меняются, маршруты исчезают, а новые версии заменяют старые. OdiRouter публикует актуальный каталог моделей и документацию API, где разработчики могут проверить текущий идентификатор модели, конечную точку, поля возможностей и цену до написания интеграции.
Документированный базовый URL LLM — https://api.odirouter.ai/v1. В запросах используется API-ключ Bearer. OpenAI SDK также принимает этот базовый URL. Храните реальные ключи в переменных окружения или в утверждённом хранилище секретов, а в примерах используйте заполнители.
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://api.odirouter.ai/v1",
)
response = client.chat.completions.create(
model="MODEL_ID",
messages=[
{"role": "user", "content": "Explain the tradeoff for this workload."}
],
)Перед развёртыванием ознакомьтесь с актуальным списком моделей и справочными данными о ценах. Зафиксируйте протестированный идентификатор модели, конечную точку, обязательные параметры и резервный маршрут. Не копируйте историческую цену или идентификатор модели в логику приложения, предполагая, что они останутся актуальными.
Используйте этот контрольный список для проверки
Проверьте, получено ли название из официального релиза или из сторонних источников.
Откройте актуальный каталог моделей OdiRouter и подтвердите точный идентификатор модели.
Проверьте конечную точку, модальности, ограничения контекста, инструменты и поддержку структурированного вывода.
Ознакомьтесь с актуальными полями цен для предполагаемого маршрута.
Запустите небольшой набор оценок с обычными входными данными и известными случаями сбоев.
Прежде чем выбрать вариант по умолчанию, сравните качество, задержку и стоимость повторных попыток.
Этот процесс не требует разрешения всех исторических кодовых названий. Он позволяет выбрать актуальную модель, которую ваша команда сможет протестировать и задокументировать.
Источники
OpenAI, Learning to reason with LLMs, сентябрь 12, 2024: https://openai.com/index/learning-to-reason-with-llms/
OpenAI, Hello GPT-4o, май 13, 2024: https://openai.com/index/hello-gpt-4o/
Отчёт Reuters о Q*, ноябрь 22, 2023: https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/
Отчёт Reuters о Strawberry, июль 12, 2024: https://www.reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12/
Настройка LLM OdiRouter: https://odirouter.ai/docs/model-api/llm/setup
Интеграция OdiRouter OpenAI SDK: https://odirouter.ai/docs/integrations/sdks-frameworks/openai-sdk
API списка моделей OdiRouter: https://odirouter.ai/docs/api-reference/models/model-list
API цен на модели OdiRouter: https://odirouter.ai/docs/api-reference/pricing-balance/model-pricing
Справочная страница, рассмотренная в качестве материала для исследования конкурентов: https://www.cometapi.com/exploring-openais-breakthroughs-strawberry-q-star-and-gpt-4o-large/