LiteLLM + APIMaster.ai
Verbinden Sie die OpenAI-kompatible API von APIMaster.ai über das LiteLLM Python SDK oder den LiteLLM Proxy.
LiteLLM bietet ein einheitliches LLM-SDK und einen lokalen Proxy-Server. APIMaster.ai stellt eine OpenAI-kompatible API bereit – verwenden Sie das Format openai/<Modell-ID> und setzen Sie api_base.
Holen Sie sich zuerst einen API-Key. Kopieren Sie die genaue Modell-ID aus dem Marketplace.
Basis-URL:
https://apimaster.ai/v1
LiteLLM-Modellnamensformat:
openai/<APIMaster-Modell-ID>
Beispiel: openai/claude-sonnet-4-6.
Voraussetzungen
- Python 3.10+ (3.11+ empfohlen).
- Ein APIMaster-API-Key aus der Konsole.
- Eine Ziel-Modell-ID aus dem Marketplace.
Schritt 1 – LiteLLM installieren
Nur SDK:
pip install litellm
Mit Proxy-Unterstützung:
pip install "litellm[proxy]"
Schritt 2 – Minimaler Python-SDK-Test
Erstellen Sie minimal_apimaster_test.py:
import litellm
API_KEY = "Ihr APIMaster-Key"
response = litellm.completion(
model="openai/claude-sonnet-4-6",
api_base="https://apimaster.ai/v1",
api_key=API_KEY,
messages=[
{"role": "user", "content": "Sag Hallo in einem kurzen Satz."},
],
max_tokens=64,
)
print(response.choices[0].message.content)
Oder laden Sie das Beispielskript herunter.
python minimal_apimaster_test.py
Schritt 3 – LiteLLM-Proxy-Konfiguration
Erstellen Sie config.apimaster.yaml:
model_list:
- model_name: apimaster-claude-sonnet
litellm_params:
model: openai/claude-sonnet-4-6
api_base: https://apimaster.ai/v1
api_key: os.environ/APIMASTER_API_KEY
general_settings:
master_key: sk-local-test
Oder laden Sie die Beispielkonfiguration herunter.
| Schlüssel | Zweck |
|---|---|
APIMASTER_API_KEY |
Echtes APIMaster-Key – LiteLLM verwendet diesen upstream |
master_key |
Lokaler Proxy-Zugangsschlüssel – Clients verwenden diesen |
Schritt 4 – LiteLLM-Proxy starten
export APIMASTER_API_KEY="Ihr APIMaster-Key"
litellm --config config.apimaster.yaml --port 4000
Falls litellm nicht im PATH ist:
python -m litellm --config config.apimaster.yaml --port 4000
Schritt 5 – Lokalen Proxy testen
curl http://localhost:4000/v1/chat/completions \
-H "Authorization: Bearer sk-local-test" \
-H "Content-Type: application/json" \
-d '{
"model": "apimaster-claude-sonnet",
"messages": [{"role": "user", "content": "Sag Hallo in einem kurzen Satz."}],
"max_tokens": 64
}'
Schritt 6 – Mehrere Modelle
model_list:
- model_name: apimaster-claude-sonnet
litellm_params:
model: openai/claude-sonnet-4-6
api_base: https://apimaster.ai/v1
api_key: os.environ/APIMASTER_API_KEY
- model_name: apimaster-gpt
litellm_params:
model: openai/gpt-5.4
api_base: https://apimaster.ai/v1
api_key: os.environ/APIMASTER_API_KEY
general_settings:
master_key: sk-local-test
Clients rufen apimaster-gpt auf, nicht openai/gpt-5.4.
Fehlerbehebung
401 Ungültiger Token
Der Schlüssel ist falsch oder deaktiviert. Überprüfen Sie:
curl https://apimaster.ai/v1/models \
-H "Authorization: Bearer IHR_SCHLÜSSEL"
Modell nicht gefunden
Verwenden Sie die Modell-ID aus dem Marketplace mit dem Präfix openai/:
model: openai/claude-sonnet-4-6
Falsche api_base
Muss /v1 enthalten:
api_base: https://apimaster.ai/v1
Empfohlene Überprüfungsreihenfolge
- Python-SDK-Minimalskript – validiert APIMaster-Key und Modell.
- LiteLLM-Proxy starten.
- Lokalen Proxy mit OpenAI-kompatiblem JSON aufrufen.
Checkliste
-
litellminstalliert (litellm[proxy]für Proxy) - SDK:
openai/<Modell-ID>+api_base=https://apimaster.ai/v1 - Proxy:
APIMASTER_API_KEYvs.master_keyseparat konfiguriert - SDK oder Proxy-Test gibt eine Antwort zurück