LiteLLM + APIMaster.ai

LiteLLM Python SDK 또는 LiteLLM Proxy를 통해 APIMaster.ai OpenAI 호환 API에 연결합니다.

LiteLLM 은 통합 LLM SDK와 로컬 Proxy 서버를 제공합니다. APIMaster.ai는 OpenAI 호환 API를 제공합니다. openai/<모델 ID> 형식을 사용하고 api_base를 설정하세요.

먼저 API Key를 받으세요. 마켓플레이스에서 정확한 모델 id를 복사하세요.

Base URL:

https://apimaster.ai/v1

LiteLLM 모델 이름 형식:

openai/<APIMaster 모델 id>

예시: openai/claude-sonnet-4-6.

사전 준비 사항

Python 3.10+ (3.11+ 권장).
콘솔에서 발급받은 APIMaster API Key.
마켓플레이스에서 선택한 대상 모델 id.

1단계 — LiteLLM 설치

SDK만 설치:

pip install litellm

Proxy 지원 포함 설치:

pip install "litellm[proxy]"

2단계 — 최소 Python SDK 테스트

minimal_apimaster_test.py 파일 생성:

import litellm

API_KEY = "your APIMaster key"

response = litellm.completion(
    model="openai/claude-sonnet-4-6",
    api_base="https://apimaster.ai/v1",
    api_key=API_KEY,
    messages=[
        {"role": "user", "content": "Say hi in one short sentence."},
    ],
    max_tokens=64,
)

print(response.choices[0].message.content)

또는 샘플 스크립트 다운로드.

python minimal_apimaster_test.py

3단계 — LiteLLM Proxy 설정

config.apimaster.yaml 파일 생성:

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

또는 샘플 설정 파일 다운로드.

키	용도
`APIMASTER_API_KEY`	실제 APIMaster 키 — LiteLLM이 업스트림에서 사용
`master_key`	로컬 Proxy 접근 키 — 클라이언트가 사용

4단계 — LiteLLM Proxy 시작

export APIMASTER_API_KEY="your APIMaster key"
litellm --config config.apimaster.yaml --port 4000

litellm이 PATH에 없는 경우:

python -m litellm --config config.apimaster.yaml --port 4000

5단계 — 로컬 Proxy 테스트

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-local-test" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apimaster-claude-sonnet",
    "messages": [{"role": "user", "content": "Say hi in one short sentence."}],
    "max_tokens": 64
  }'

6단계 — 여러 모델 사용

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

  - model_name: apimaster-gpt
    litellm_params:
      model: openai/gpt-5.4
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

클라이언트는 openai/gpt-5.4가 아닌 apimaster-gpt를 호출합니다.

문제 해결

401 잘못된 토큰

키가 잘못되었거나 비활성화되었습니다. 확인:

curl https://apimaster.ai/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

모델을 찾을 수 없음

openai/ 접두사를 사용하여 마켓플레이스 모델 id를 사용하세요:

model: openai/claude-sonnet-4-6

잘못된 api_base

/v1을 포함해야 합니다:

api_base: https://apimaster.ai/v1