OpenAI Embeddings
POST /openai/api/v1/embeddings возвращает векторы для моделей text-embedding-3-small, text-embedding-3-large и text-embedding-ada-002. Поля описаны в документации OpenAI Create embeddings.
curl https://hub.coreinfra.ai/openai/api/v1/embeddings \
-H "Authorization: Bearer $COREINFRA_API_KEY" \
-H 'Content-Type: application/json' \
-d '{"model":"text-embedding-3-small","input":"2 + 2"}'
Фрагмент ответа без самого вектора и счетчиков токенов:
{"object":"list","model":"text-embedding-3-small","data":[{"object":"embedding","index":0}]}
Отличия от API OpenAI
Поле user игнорируется. Конвертация между протоколами и потоковый ответ не поддерживаются.
До создания резерва хаб проверяет суммарный вход: максимум 300 000 токенов и 2048 элементов. Для token id считается длина массивов; для строк — суммарное число байтов UTF-8, деленное на четыре с округлением вниз. Сначала проверяется токенный лимит. Это проверка размера запроса, а не итоговый счетчик usage. Дополнительно действует общий лимит HTTP-тела.
Резервируется оцененная стоимость входных токенов, выходные токены не резервируются. Итоговое списание определяется входным usage.prompt_tokens по тарифу модели; подробности — на странице «Стоимость эмбеддингов».
Ошибки
| Статус-код | Условие | Поля ошибки |
|---|---|---|
400 | Более 300 000 токенов во входе | error.type: max_tokens_per_request, error.code: max_tokens_per_request |
400 | Более 2048 элементов в input | error.type: invalid_request_error, error.code: null |
400 | Отсутствующая или неподдерживаемая модель | error.type: invalid_request_error |
502 | Ошибка на стороне провайдера модели при выполнении запроса | error.type: server_error |
Формат ошибок приведен в разделе OpenAI API; общие ошибки авторизации, баланса и лимитов расходов описаны в общем справочнике.
