Перейти к содержанию

OpenAI Embeddings

POST /openai/api/v1/embeddings возвращает векторы для моделей text-embedding-3-small, text-embedding-3-large и text-embedding-ada-002. Поля описаны в документации OpenAI Create embeddings.

curl https://hub.coreinfra.ai/openai/api/v1/embeddings \
-H "Authorization: Bearer $COREINFRA_API_KEY" \
-H 'Content-Type: application/json' \
-d '{"model":"text-embedding-3-small","input":"2 + 2"}'

Фрагмент ответа без самого вектора и счетчиков токенов:

{"object":"list","model":"text-embedding-3-small","data":[{"object":"embedding","index":0}]}

Отличия от API OpenAI​

Поле user игнорируется. Конвертация между протоколами и потоковый ответ не поддерживаются.

До создания резерва хаб проверяет суммарный вход: максимум 300 000 токенов и 2048 элементов. Для token id считается длина массивов; для строк — суммарное число байтов UTF-8, деленное на четыре с округлением вниз. Сначала проверяется токенный лимит. Это проверка размера запроса, а не итоговый счетчик usage. Дополнительно действует общий лимит HTTP-тела.

Резервируется оцененная стоимость входных токенов, выходные токены не резервируются. Итоговое списание определяется входным usage.prompt_tokens по тарифу модели; подробности — на странице «Стоимость эмбеддингов».

Ошибки​

Статус-кодУсловиеПоля ошибки
400Более 300 000 токенов во входеerror.type: max_tokens_per_request, error.code: max_tokens_per_request
400Более 2048 элементов в inputerror.type: invalid_request_error, error.code: null
400Отсутствующая или неподдерживаемая модельerror.type: invalid_request_error
502Ошибка на стороне провайдера модели при выполнении запросаerror.type: server_error

Формат ошибок приведен в разделе OpenAI API; общие ошибки авторизации, баланса и лимитов расходов описаны в общем справочнике.