Перейти к содержанию

OpenAI Chat Completions

POST /openai/api/v1/chat/completions создает ответ по истории сообщений с помощью генеративной модели, в том числе через конвертацию. Поля запроса описаны в документации OpenAI Create chat completion, совместимые модели — в каталоге.

curl https://hub.coreinfra.ai/openai/api/v1/chat/completions \
-H "Authorization: Bearer $COREINFRA_API_KEY" \
-H 'Content-Type: application/json' \
-d '{"model":"gpt-6-luna","messages":[{"role":"user","content":"2 + 2"}]}'

Ожидаемый текст — 4. Фрагмент ответа:

{"choices":[{"message":{"role":"assistant","content":"4"}}]}

Отличия от API OpenAI​

Поле inference_geo игнорируется для всех моделей. Остальные игнорируемые клиентские поля и настройки зависят от провайдера модели (при вызове без конвертации):

Провайдер моделиОсобенности обработки полей
OpenAIОтключено сохранение (store: false), игнорируется safety_identifier. Из service_tier поддерживаются auto, default, priority и fast (fast тарифицируется как приоритетный режим); flex и остальные значения игнорируются
DeepSeek и Z.aiИгнорируется user_id; поддерживаются max_completion_tokens и max_tokens (с приоритетом max_completion_tokens)
Moonshot AIИгнорируются safety_identifier и prompt_cache_options
xAIИгнорируются user, safety_identifier и service_tier

Режим service_tier, для которого у выбранной модели нет тарифа, отклоняется со статус-кодом 400.

Параметр deferred: true отклоняется со статус-кодом 400. Также отклоняются со статус-кодом 400 встроенные инструменты провайдера (code_interpreter, code_execution, file_search, collections_search, x_search, web_search, retrieval и builtin_function). Для вызова инструментов на стороне клиента используйте function.

В image_url.url принимаются только данные в кодировке base64 (data:image/...;base64,...). У файлов запрещены непустой file_id и ссылки на внешние ресурсы в file_data (возвращается ошибка со статус-кодом 400). Размер тела ограничен общими лимитами.

При конвертации​

Когда выбранная модель не поддерживает Chat Completions напрямую, хаб конвертирует запрос и возвращает ответ в формате Chat Completions:

  • max_completion_tokens имеет приоритет над max_tokens; при конвертации в Responses не конвертируются stop и seed, а лимит выхода ниже 16 повышается до 16.
  • Всегда формируется один вариант ответа (choices[0]); не конвертируются n (отличное от 1), logit_bias, logprobs, top_logprobs, tool_stream, textVerbosity, modalities, audio, prediction, web_search_options, устаревшие functions и function_call, deferred, prompt_cache_options, usage, provider, request_id и stream_options.include_obfuscation.
  • Конвертируются только пользовательские инструменты function. У сообщений не конвертируются name, а у истории ассистента — audio, function_call и model_id. Аудиовход не конвертируется.
  • При конвертации в Anthropic Messages без заданного лимита выхода используется max_tokens: 16000 (при stream: true — 64000), и не конвертируются metadata, seed, frequency_penalty, presence_penalty, store, prompt_cache_key и image_url.detail. У JSON Schema сохраняется schema (без name, description и strict).
  • При конвертации в Google Interactions не конвертируются parallel_tool_calls, metadata, frequency_penalty, presence_penalty, prompt_cache_key и image_url.detail; уровень рассуждений none сопоставляется с minimal, а xhigh и max — с high.
  • Настройка рассуждений игнорируется, если модель не поддерживает рассуждения. Структурно неполный запрос отклоняется со статус-кодом 400.

Резерв и списание​

До отправки резервируется сумма по оценке входа и выхода, а после завершения списывается фактическая стоимость по полученному usage и тарифу модели. Подробности — на странице «Стоимость генеративных моделей».

Когда в ответе модели (например, у моделей Grok без конвертации) присутствуют данные о стоимости и сумма списания рассчитана, хаб возвращает стоимость запроса в рублях в поле usage.cost_rub.

Ошибки​

  • 400 — запрещенные вложения, инструменты или режим, неподдерживаемый уровень обслуживания либо невозможность конвертации.
  • 502 — ошибка на стороне провайдера модели при выполнении запроса. Ошибка внутри SSE передается событием потока без завершающего [DONE].

Формат ошибок приведен в разделе OpenAI API; общие ошибки авторизации, баланса и лимитов расходов описаны в общем справочнике.