APIMaster.ai
Документация APIMaster.ai
Quick startAPIMaster.aiMarketplace

LiteLLM + APIMaster.ai

Подключение OpenAI-совместимого API APIMaster.ai через Python SDK или Proxy LiteLLM.

LiteLLM предоставляет унифицированный SDK для LLM и локальный сервер Proxy. APIMaster.ai предоставляет OpenAI-совместимый API — используйте формат openai/<id модели> и установите api_base.

Получите API-ключ сначала. Скопируйте точный идентификатор модели из маркетплейса.

Базовый URL:

https://apimaster.ai/v1

Формат имени модели LiteLLM:

openai/<идентификатор модели APIMaster>

Пример: openai/claude-sonnet-4-6.

Предварительные требования

  1. Python 3.10+ (рекомендуется 3.11+).
  2. API-ключ APIMaster из консоли.
  3. Целевой идентификатор модели из маркетплейса.

Шаг 1 — Установка LiteLLM

Только SDK:

pip install litellm

С поддержкой Proxy:

pip install "litellm[proxy]"

Шаг 2 — Минимальный тест Python SDK

Создайте minimal_apimaster_test.py:

import litellm

API_KEY = "ваш ключ APIMaster"

response = litellm.completion(
    model="openai/claude-sonnet-4-6",
    api_base="https://apimaster.ai/v1",
    api_key=API_KEY,
    messages=[
        {"role": "user", "content": "Скажи привет одним коротким предложением."},
    ],
    max_tokens=64,
)

print(response.choices[0].message.content)

Или скачайте пример скрипта.

python minimal_apimaster_test.py

Шаг 3 — Конфигурация LiteLLM Proxy

Создайте config.apimaster.yaml:

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Или скачайте пример конфигурации.

Ключ Назначение
APIMASTER_API_KEY Настоящий ключ APIMaster — LiteLLM использует его для обращения к API
master_key Ключ доступа к локальному Proxy — клиенты используют его

Шаг 4 — Запуск LiteLLM Proxy

export APIMASTER_API_KEY="ваш ключ APIMaster"
litellm --config config.apimaster.yaml --port 4000

Если litellm нет в PATH:

python -m litellm --config config.apimaster.yaml --port 4000

Шаг 5 — Тестирование локального Proxy

curl http://localhost:4000/v1/chat/completions \
  -H "Authorization: Bearer sk-local-test" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apimaster-claude-sonnet",
    "messages": [{"role": "user", "content": "Скажи привет одним коротким предложением."}],
    "max_tokens": 64
  }'

Шаг 6 — Несколько моделей

model_list:
  - model_name: apimaster-claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-4-6
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

  - model_name: apimaster-gpt
    litellm_params:
      model: openai/gpt-5.4
      api_base: https://apimaster.ai/v1
      api_key: os.environ/APIMASTER_API_KEY

general_settings:
  master_key: sk-local-test

Клиенты вызывают apimaster-gpt, а не openai/gpt-5.4.

Устранение неполадок

401 Invalid token

Ключ неверный или отключён. Проверьте:

curl https://apimaster.ai/v1/models \
  -H "Authorization: Bearer ВАШ_КЛЮЧ"

Модель не найдена

Используйте идентификатор модели из маркетплейса с префиксом openai/:

model: openai/claude-sonnet-4-6

Неверный api_base

Должен содержать /v1:

api_base: https://apimaster.ai/v1

Рекомендуемый порядок проверки

  1. Минимальный скрипт Python SDK — проверяет ключ APIMaster и модель.
  2. Запустите LiteLLM Proxy.
  3. Вызовите локальный Proxy с помощью JSON, совместимого с OpenAI.

Контрольный список

  • Установлен litellm (litellm[proxy] для Proxy)
  • SDK: openai/<id модели> + api_base=https://apimaster.ai/v1
  • Proxy: APIMASTER_API_KEY и master_key настроены отдельно
  • Тест SDK или Proxy возвращает ответ

Смотрите также