Обзор эмбеддингов
Преобразуйте текст в числовые векторы для семантического поиска, поиска документов, кластеризации и RAG. Обе модели используют совместимый с OpenAI эндпоинт POST /v1/embeddings. Ответ содержит векторы, а не сгенерированный текст.
Преобразуйте текст в числовые векторы для семантического поиска, поиска документов, кластеризации и RAG. Обе модели используют совместимый с OpenAI эндпоинт POST /v1/embeddings. Ответ содержит векторы, а не сгенерированный текст.
Выбор модели
| Модель | Размерность по умолчанию | Руководство |
|---|---|---|
text-embedding-3-small |
1536 | text-embedding-3-small |
bge-m3 |
1024 | BGE-M3 |
Модель эмбеддингов OpenAI с размерностью 1536 по умолчанию. Подходит для семантического поиска и индексации базы знаний. В APIMaster также проверено получение 512 измерений через параметр dimensions.
Многоязычная модель эмбеддингов BAAI с размерностью 1024 для поиска документов на разных языках. Этот API возвращает плотные векторы без разреженных весов и векторов ColBERT. Специальный префикс инструкции для запроса не требуется.
Параметры и ограничения
POST https://apimaster.ai/v1/embeddings
Передавайте в input непустую строку или массив непустых строк. encoding_format: float возвращает числовой массив. Не передавайте messages, max_tokens или stream. Указанный для моделей предел — 8192 токена на текст; делите длинные документы и ограничивайте размер пакетов. Лимиты и токенизация могут зависеть от маршрута.
Семантический поиск и RAG
Разбейте документы на фрагменты, создайте и сохраните их векторы. Преобразуйте запрос той же моделью с той же размерностью, отсортируйте фрагменты по косинусному сходству и передайте найденный текст отдельной чат-модели. Не смешивайте разные модели и размерности в одном индексе; при смене модели перестройте индекс.