Перейти к содержанию

POST chat/completions — xAI

POST /xai/api/v1/chat/completions создает Chat Completion для текстовой модели хаба, включая модели других провайдеров через конвертацию. Поля описаны в документации xAI Chat Completions.

curl https://hub.coreinfra.ai/xai/api/v1/chat/completions \
-H "Authorization: Bearer $COREINFRA_API_KEY" \
-H 'Content-Type: application/json' \
-d '{"model":"grok-build-0.1","messages":[{"role":"user","content":"2 + 2"}]}'

Ожидаемый текст — 4. Фрагмент ответа:

{"choices":[{"message":{"role":"assistant","content":"4"}}]}

Отличия от API xAI​

Поддерживаемые возможности​

Поле inference_geo и заголовок x-grok-model-override игнорируются: модель определяется полем model. При вызове моделей xAI игнорируются user, safety_identifier и service_tier. Для моделей других провайдеров без конвертации действуют те же правила обработки полей, что и на основном адресе OpenAI Chat Completions: у OpenAI отключено сохранение (store: false), игнорируется safety_identifier, а из service_tier поддерживаются auto, default, priority и fast; у DeepSeek и Z.ai игнорируется user_id и поддерживаются max_completion_tokens и max_tokens; у Moonshot AI игнорируются safety_identifier и prompt_cache_options. Если выбранный service_tier не поддерживается тарифом модели, возвращается ошибка со статус-кодом 400.

Параметр deferred: true отклоняется со статус-кодом 400. Также отклоняются со статус-кодом 400 инструменты с type: code_interpreter, code_execution, file_search, collections_search, x_search, web_search, retrieval, builtin_function. Пользовательские функции этим запретом не затрагиваются.

Изображения принимаются только в кодировке base64 (data:image/...;base64,...). Ссылки на внешние ресурсы, file.file_id и HTTP(S)-адреса в file.file_data отклоняются со статус-кодом 400.

Когда в ответе модели Grok присутствуют данные о стоимости и сумма списания рассчитана, хаб возвращает стоимость запроса в рублях в поле usage.cost_rub.

При конвертации​

Действуют те же правила конвертации OpenAI Chat Completions, что и на основном адресе OpenAI API: формируется один вариант ответа (choices[0]), а logit_bias, logprobs, top_logprobs и другие специфичные параметры без эквивалента в протоколе модели не конвертируются.

Оплата​

Перед отправкой хаб резервирует средства по оценке запроса, после ответа рассчитывает стоимость по usage модели. При конвертации учитывается работа в протоколе модели. Правила расчета, кэша и завершения прерванных запросов — на странице «Стоимость генеративных моделей», цены — на «Тарифах».

Ошибки​

  • 400 — запрещенный отложенный вызов, встроенный инструмент провайдера, недопустимое вложение или невозможность преобразовать структуру запроса.
  • 502 — ошибка на стороне провайдера модели при выполнении запроса. Ошибка внутри SSE передается в самом потоке.

Формат ошибок приведен в разделе xAI API; общие ошибки ключа, выбора модели и баланса описаны в общем справочнике, ограничения — в разделе «Лимиты и ограничения».