LiteLLM + APIMaster.ai

Połącz się z API APIMaster.ai kompatybilnym z OpenAI za pomocą LiteLLM Python SDK lub LiteLLM Proxy.

LiteLLM zapewnia ujednolicone SDK LLM oraz lokalny serwer Proxy. APIMaster.ai udostępnia API kompatybilne z OpenAI — użyj formatu openai/<model id> i ustaw api_base.

Najpierw uzyskaj klucz API. Skopiuj dokładny identyfikator modelu z marketplace.

Adres bazowy:

https://apimaster.ai/v1

Format nazwy modelu w LiteLLM:

openai/<identyfikator modelu APIMaster>

Przykład: openai/claude-sonnet-4-6.

Wymagania wstępne

Python 3.10+ (zalecany 3.11+).
Klucz API APIMaster z konsoli.
Docelowy identyfikator modelu z marketplace.

Krok 1 — Instalacja LiteLLM

Tylko SDK:

pip install litellm

Z obsługą Proxy:

pip install "litellm[proxy]"

Krok 2 — Minimalny test Python SDK

Utwórz minimal_apimaster_test.py:

import litellm

API_KEY = "your APIMaster key"

response = litellm.completion(
    model="openai/claude-sonnet-4-6",
    api_base="https://apimaster.ai/v1",
    api_key=API_KEY,
    messages=[
        {"role": "user", "content": "Say hi in one short sentence."},
    ],
    max_tokens=64,
)

print(response.choices[0].message.content)

Lub pobierz przykładowy skrypt.

python minimal_apimaster_test.py

Krok 3 — Konfiguracja LiteLLM Proxy

Utwórz config.apimaster.yaml:

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Lub pobierz przykładową konfigurację.

Klucz	Przeznaczenie
`APIMASTER_API_KEY`	Prawdziwy klucz APIMaster — LiteLLM używa go do komunikacji z upstream
`master_key`	Klucz dostępu do lokalnego Proxy — używany przez klientów

Krok 4 — Uruchomienie LiteLLM Proxy

export APIMASTER_API_KEY="your APIMaster key"
litellm --config config.apimaster.yaml --port 4000

Jeśli litellm nie znajduje się w PATH:

python -m litellm --config config.apimaster.yaml --port 4000

Krok 5 — Test lokalnego Proxy

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-local-test" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apimaster-claude-sonnet",
    "messages": [{"role": "user", "content": "Say hi in one short sentence."}],
    "max_tokens": 64
  }'

Krok 6 — Wiele modeli

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

  - model_name: apimaster-gpt
    litellm_params:
      model: openai/gpt-5.4
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Klienci wywołują apimaster-gpt, a nie openai/gpt-5.4.

Rozwiązywanie problemów

401 Nieprawidłowy token

Klucz jest błędny lub wyłączony. Sprawdź:

curl https://apimaster.ai/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Model nie znaleziony

Użyj identyfikatora modelu z marketplace z prefiksem openai/:

model: openai/claude-sonnet-4-6

Nieprawidłowe api_base

Musi zawierać /v1:

api_base: https://apimaster.ai/v1