임베딩 개요
텍스트를 수치 벡터로 변환하여 의미 검색, 문서 검색, 군집화 및 RAG에 사용합니다. 두 모델 모두 OpenAI 호환 POST /v1/embeddings를 사용하며, 생성된 답변 대신 벡터를 반환합니다.
텍스트를 수치 벡터로 변환하여 의미 검색, 문서 검색, 군집화 및 RAG에 사용합니다. 두 모델 모두 OpenAI 호환 POST /v1/embeddings를 사용하며, 생성된 답변 대신 벡터를 반환합니다.
모델 선택
| 모델 | 기본 차원 | 사용 안내 |
|---|---|---|
text-embedding-3-small |
1536 | text-embedding-3-small |
bge-m3 |
1024 | BGE-M3 |
기본 1536차원 벡터를 반환하는 OpenAI 임베딩 모델로, 의미 검색과 지식베이스 인덱싱에 적합합니다. APIMaster에서 dimensions를 통한 512차원 출력도 테스트했습니다.
다국어 문서 검색에 적합한 BAAI의 1024차원 임베딩 모델입니다. 이 API는 밀집 벡터를 반환하며 희소 가중치나 ColBERT 벡터는 제공하지 않습니다. 검색 질의에 별도 지시문 접두사는 필요하지 않습니다.
매개변수와 제한
POST https://apimaster.ai/v1/embeddings
input에는 비어 있지 않은 문자열 또는 문자열 배열을 넣습니다. encoding_format: float를 사용하면 숫자 배열을 얻습니다. messages, max_tokens, stream은 보내지 않습니다. 모델 참고 한도는 텍스트당 8192 tokens입니다. 긴 문서는 나누고 배치 크기는 작게 유지하세요. 한도와 토큰화는 경로에 따라 다를 수 있습니다.
의미 검색과 RAG
문서를 조각으로 나누어 벡터를 생성하고 저장합니다. 같은 모델과 차원으로 질의를 벡터화한 뒤 코사인 유사도로 정렬하고 검색된 텍스트를 별도의 채팅 모델에 전달합니다. 다른 모델이나 차원의 벡터를 같은 인덱스에 혼합하지 마세요. 모델 변경 시 인덱스를 다시 생성해야 합니다.