LiteLLM + APIMaster.ai

透過 LiteLLM Python SDK 或 LiteLLM Proxy 連接 APIMaster.ai 的 OpenAI 相容 API。

LiteLLM 提供統一的 LLM SDK 和本地 Proxy 伺服器。APIMaster.ai 提供 OpenAI 相容 API — 使用 openai/<model id> 格式，並設定 api_base。

請先取得 API 金鑰。從市集複製確切的 模型 ID。

Base URL：

https://apimaster.ai/v1

LiteLLM 模型名稱格式：

openai/<APIMaster model id>

範例：openai/claude-sonnet-4-6。

前置需求

Python 3.10+（建議 3.11+）。
從控制台取得 APIMaster API 金鑰。
從市集取得目標 模型 ID。

步驟 1 — 安裝 LiteLLM

僅 SDK：

pip install litellm

包含 Proxy 支援：

pip install "litellm[proxy]"

步驟 2 — 簡易 Python SDK 測試

建立 minimal_apimaster_test.py：

import litellm

API_KEY = "your APIMaster key"

response = litellm.completion(
    model="openai/claude-sonnet-4-6",
    api_base="https://apimaster.ai/v1",
    api_key=API_KEY,
    messages=[
        {"role": "user", "content": "Say hi in one short sentence."},
    ],
    max_tokens=64,
)

print(response.choices[0].message.content)

或者下載範例腳本。

python minimal_apimaster_test.py

步驟 3 — LiteLLM Proxy 設定檔

建立 config.apimaster.yaml：

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

或者下載範例設定檔。

鍵值	用途
`APIMASTER_API_KEY`	真實的 APIMaster 金鑰 — LiteLLM 使用此金鑰向上游發送請求
`master_key`	本地 Proxy 存取金鑰 — 客戶端使用此金鑰

步驟 4 — 啟動 LiteLLM Proxy

export APIMASTER_API_KEY="your APIMaster key"
litellm --config config.apimaster.yaml --port 4000

如果 litellm 不在 PATH 中：

python -m litellm --config config.apimaster.yaml --port 4000

步驟 5 — 測試本地 Proxy

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-local-test" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apimaster-claude-sonnet",
    "messages": [{"role": "user", "content": "Say hi in one short sentence."}],
    "max_tokens": 64
  }'

步驟 6 — 多個模型

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

  - model_name: apimaster-gpt
    litellm_params:
      model: openai/gpt-5.4
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

客戶端呼叫 apimaster-gpt，而不是 openai/gpt-5.4。

疑難排解

401 無效的 Token

金鑰錯誤或已停用。請驗證：

curl https://apimaster.ai/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

找不到模型

使用市集中的模型 ID並加上 openai/ 前綴：

model: openai/claude-sonnet-4-6

錯誤的 api_base

必須包含 /v1：

api_base: https://apimaster.ai/v1