LiteLLM + APIMaster.ai

Hubungkan API kompatibel OpenAI dari APIMaster.ai melalui LiteLLM Python SDK atau LiteLLM Proxy.

LiteLLM menyediakan SDK LLM terpadu dan server Proxy lokal. APIMaster.ai menyediakan API yang kompatibel dengan OpenAI — gunakan format openai/<model id> dan atur api_base.

Dapatkan API Key terlebih dahulu. Salin model id yang tepat dari marketplace.

Base URL:

https://apimaster.ai/v1

Format nama model LiteLLM:

openai/<APIMaster model id>

Contoh: openai/claude-sonnet-4-6.

Prasyarat

Python 3.10+ (disarankan 3.11+).
Kunci API APIMaster dari console.
Model id target dari marketplace.

Langkah 1 — Instal LiteLLM

Hanya SDK:

pip install litellm

Dengan dukungan Proxy:

pip install "litellm[proxy]"

Langkah 2 — Uji minimal Python SDK

Buat minimal_apimaster_test.py:

import litellm

API_KEY = "your APIMaster key"

response = litellm.completion(
    model="openai/claude-sonnet-4-6",
    api_base="https://apimaster.ai/v1",
    api_key=API_KEY,
    messages=[
        {"role": "user", "content": "Say hi in one short sentence."},
    ],
    max_tokens=64,
)

print(response.choices[0].message.content)

Atau unduh skrip contoh.

python minimal_apimaster_test.py

Langkah 3 — Konfigurasi LiteLLM Proxy

Buat config.apimaster.yaml:

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Atau unduh konfigurasi contoh.

Kunci	Tujuan
`APIMASTER_API_KEY`	Kunci APIMaster asli — LiteLLM menggunakan ini sebagai upstream
`master_key`	Kunci akses Proxy lokal — klien menggunakan ini

Langkah 4 — Mulai LiteLLM Proxy

export APIMASTER_API_KEY="your APIMaster key"
litellm --config config.apimaster.yaml --port 4000

Jika litellm tidak ada di PATH:

python -m litellm --config config.apimaster.yaml --port 4000

Langkah 5 — Uji Proxy lokal

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-local-test" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apimaster-claude-sonnet",
    "messages": [{"role": "user", "content": "Say hi in one short sentence."}],
    "max_tokens": 64
  }'

Langkah 6 — Beberapa model

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

  - model_name: apimaster-gpt
    litellm_params:
      model: openai/gpt-5.4
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Klien memanggil apimaster-gpt, bukan openai/gpt-5.4.

Pemecahan Masalah

401 Token tidak valid

Kunci salah atau dinonaktifkan. Verifikasi:

curl https://apimaster.ai/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Model tidak ditemukan

Gunakan model id dari marketplace dengan prefiks openai/:

model: openai/claude-sonnet-4-6

api_base salah

Harus menyertakan /v1:

api_base: https://apimaster.ai/v1