Przegląd embeddingów
Zamieniaj tekst na wektory liczbowe do wyszukiwania semantycznego, wyszukiwania dokumentów, grupowania i RAG. Oba modele używają zgodnego z OpenAI endpointu POST /v1/embeddings. Odpowiedź zawiera wektory zamiast wygenerowanego tekstu.
Zamieniaj tekst na wektory liczbowe do wyszukiwania semantycznego, wyszukiwania dokumentów, grupowania i RAG. Oba modele używają zgodnego z OpenAI endpointu POST /v1/embeddings. Odpowiedź zawiera wektory zamiast wygenerowanego tekstu.
Wybór modelu
| Model | Domyślne wymiary | Poradnik |
|---|---|---|
text-embedding-3-small |
1536 | text-embedding-3-small |
bge-m3 |
1024 | BGE-M3 |
Model embeddingów OpenAI z domyślnie 1536 wymiarami do wyszukiwania semantycznego i indeksowania baz wiedzy. W APIMaster przetestowano również 512 wymiarów przez dimensions.
Wielojęzyczny model BAAI z 1024 wymiarami do wyszukiwania dokumentów. API zwraca gęste wektory, bez rzadkich wag ani wektorów ColBERT. Specjalny prefiks instrukcji dla zapytań nie jest potrzebny.
Parametry i limity
POST https://apimaster.ai/v1/embeddings
input powinien zawierać niepusty tekst lub tablicę niepustych tekstów. encoding_format: float zwraca tablicę liczb. Nie wysyłaj messages, max_tokens ani stream. Referencyjny limit modelu to 8192 tokeny na tekst; dziel długie dokumenty i stosuj małe partie. Limity i tokenizacja mogą zależeć od trasy.
Wyszukiwanie semantyczne i RAG
Podziel dokumenty na fragmenty, wygeneruj i zapisz ich wektory. Osadź zapytanie tym samym modelem i wymiarem, uporządkuj wyniki według podobieństwa kosinusowego i przekaż tekst oddzielnemu modelowi czatu. Nie mieszaj modeli ani wymiarów w jednym indeksie; przebuduj indeks po zmianie modelu.