APIMaster.ai
ブログに戻る
APIMaster ブログ

Kimi K3のオープンウェイト：デプロイ、コスト、ホスティング事業者

Kimi K3の2.8Tウェイトが公開されました。セルフホスティングに必要な実際のVRAM計算、Day-0ホスティングが利用可能な事業者、GPUクラスターを回避するAPIルート。

Kimi K3Moonshot AIopen weightsself-hostingAPIMaster

公開 2026-07-28

クイック回答

Moonshot AIは2026年7月27日、Kimi K3のウェイトをHugging Faceで公開しました。 これは2.8兆パラメータのMixture-of-Expertsモデルで、トークンあたり896のエキスパートのうち16がアクティブになり、約104Bのアクティブパラメータを持ちます。コンテキストウィンドウは1,048,576トークン、ネイティブのビジョン機能を備えています。Hugging Faceリポジトリは96個のsafetensorsシャードとして提供され、ディスク上で約1.56TBです。

自分で実行するには、ワークステーションではなく本格的なGPUクラスターが必要です。 vLLMの最小要件は8×NVIDIA B300または8×AMD MI355X。Moonshotの本番推奨は64以上のアクセラレータです。シングルGPUやシングルノードのコンシューマーパスはありません。Mac Studioの512GBユニファイドメモリはVRAM最低要件の約3分の1で、18枚のRTX PRO 6000 Blackwellワークステーションでさえも紙の上ではかろうじてクリアしますが、実行可能なトポロジがありません。

ほぼすべての人にとって、実用的な選択肢はAPIです。 APIMaster.aiはすでにkimi-k3をOpenAI互換のエンドポイントでルーティングしており、Moonshot自身のAPIに加えて外部のクラウドGPUインフラのキャパシティも含まれています。そのため、ほとんどの時間アイドル状態になるクラスターをプロビジョニングしたり費用を支払ったりすることなく、モデルを利用できます。

Moonshotは実際に何をリリースしたのか？

Kimi K3のモデルカードとMoonshot自身の発表によると、アーキテクチャは以下の通りです。

仕様 値
総パラメータ数 2.8T（リポジトリメタデータでは2.7799T）
トークンあたりのアクティブパラメータ数 ~104B（896のルーティングエキスパートのうち16）
レイヤー数 93合計 — 1 dense、69 Kimi Delta Attention (KDA)、24 Gated MLA
コンテキストウィンドウ 1,048,576トークン
ビジョンエンコーダ MoonViT-V2、401Mパラメータ、ネイティブ画像/動画入力
ネイティブ量子化 MXFP4ウェイト、MXFP8アクティベーション（量子化認識トレーニング）
ウェイト形式 Safetensors、96シャード、~1.56TB / ~1.42TiB
ライセンス カスタム「Kimi K3 License」— 商用利用前にライセンスファイルをご確認ください

Moonshotが強調する2つのアーキテクチャ要素——Kimi Delta Attention (KDA) と Attention Residuals (AttnRes)——は、ハイブリッド線形アテンション設計で、この規模で標準的なフルアテンションよりも1Mトークンのコンテキストウィンドウのサービス提供を低コストにすることを目的としています。

公式に推奨されるサービスエンジンはvLLM、SGLang、TokenSpeedです。Ollama、llama.cpp、LM Studioの公式サポートはありません。これはK3のデプロイに関するすべての記事で指摘されている点で、それらのツールはこのモデルのアーキテクチャに適合しないシングルノードのコンシューマーハードウェア推論向けに構築されているためです。

実際にKimi K3をデプロイするには？

ハードウェアがあれば、vLLMのDay-0サポート記事とモデルカードが実際の道筋を示しています。これは「デプロイ方法」の正直なバージョンです——そのほとんどは、すでにマルチGPUノードを持っている場合にのみ適用されます：

最小ハードウェア。 vLLMは少なくとも1つの8×B300（またはGB300 NVL72）ノードを挙げており、16×B200もサポートされています。AMDのROCmパスは8×MI355Xをサポート。Moonshot自身の本番ガイダンスは64以上のアクセラレータからなる「スーパーノード」です。8GPUの最小構成ではモデルが動作しますが、本番スループットでは動作しません。

クイックスタートコマンド（モデルカードよりそのまま）：

pip install vllm
vllm serve "moonshotai/Kimi-K3"

またはSGLang経由：

python -m sglang.launch_server --model-path moonshotai/Kimi-K3

MoonshotはDockerパスも文書化しています：docker model run hf.co/moonshotai/Kimi-K3。

省略できない設定の詳細。 vLLMではK3のプレフィックスキャッシングはデフォルトで無効になっています。フラグを明示的に渡さないと、マルチターンワークロードで1Mトークンコンテキストの利点のほとんどを失います。MoEバックエンドの選択はセットアップに依存します（分離/エキスパート並列ではdeep_gemm_mega_moe、テンソル並列>1ではflashinfer_trtllm）。また、all-to-allバックエンドはインターコネクトに依存します（NVLinkではflashinfer_nvlink_one_sided、RDMAではdeepep_v2）。ビジョンエンコーダはデフォルトでデータ並列が必要です。なぜなら、そのhead_size=12はTP=8で均等にシャーディングできないからです。

実際のスループット。 vLLMはバッチサイズ1で、TP8でユーザーあたり111トークン/秒、TP16で118トークン/秒のベースラインを報告しています。投機的デコード（DSpark）を使用すると、ユーザーあたり331～370トークン/秒に上昇します。これは3.14倍の高速化ですが、すでにプロビジョニングされたクラスター上で投機的デコードパスをチューニングした後のみです。

セルフホスティングの実際のコスト

ここで「デプロイできるか」と「デプロイすべきか」が分かれます。計算は、vLLMのブログと独立したハードウェア/コストの内訳を相互参照しています：

  • VRAM最低要件：約1,680GB。 2.8Tパラメータを4ビットで保持する理論上の最小値は約1.4TBですが、実際のサービングフットプリント（ウェイト+KVキャッシュ+オーバーヘッド）はそれより大きくなります。
  • ストレージ：1.56TBのウェイトなので、チェックポイントとスクラッチスペースを保持するだけで、4TBの高速NVMeを計画してください。ダウンロードには100Gbps回線で約2分から100Mbps接続で約35時間かかります。
  • 最低要件を満たすGPU構成： 8×B300/MI355X（合計2,304GB）、16×H200（2,256GB）、16×B200（2,880GB）、または32×H100（2,560GB）。これより小さいものは動作しません。
  • クラウドレンタル、2026年7月時点の推定： 8×B300ノードはプロバイダーによって約$59～$142/時間で、連続稼働で月額$43,000～$104,000になります。16×H200ノードは月額$46,600～$116,800。
  • 公式APIとの損益分岐点（Moonshotのキャッシュヒット入力$0.30/100万トークン、キャッシュミス入力$3.00/100万トークン、出力$15.00/100万トークンの価格設定）：上記の最も安いノードの推定値は、キャッシュなしで月間約80億トークン、90%キャッシュヒット率で月間125億トークンを超えて初めて元が取れます。

実際の使用量が月間80億トークンに遠く及ばない場合（そしてほとんどの人はそうですが）、レンタルクラスターは月数万ドルを費やしてAPIよりも悪い条件を得る方法です。

すでに稼働している事業者

本稿執筆時点でK3のウェイトは数時間前のものですが、Moonshotが事前に推論ベンダーと調整したため、Day-0サポートは迅速に進みました：

  • vLLMは上記のスループット数値で公式Day-0サポートを出荷し、NVIDIA（HopperおよびBlackwell）とAMD（MI355X）をカバーし、ローンチ時にROCmサポートを提供しました。
  • Fireworks AIはローンチ時にK3をプラットフォームに投入し、セルフマネージドクラスターではなく、所有可能なホスト型推論として位置づけました。
  • BasetenはDay-0 API構築ガイドを公開し、自社のホスティング設定を説明しています。
  • AMDは独自のInstinct GPUデプロイメント記事を公開しました。これは新しいフロンティアオープンウェイトモデルがハードウェアベンダーのDay-0バックアップでローンチする際の通常の慣行です。
  • 複数のインフラブログ——Northflank、Hyperstack——が初日にデプロイメントとコストの内訳を公開しました。これは、その読者のほとんどが実際のクラスターを実行することはないにもかかわらず、ベンダーがセルフホスティングガイダンスにどれだけの需要を見込んでいるかを示しています。

このパターンはすべての大規模なオープンウェイトリリースに当てはまります。少数の推論プラットフォームとハードウェアベンダーがDay-0にサポートを提供し、24～48時間以内にハードウェア/コストに関する記事の波が続き、実際の使用の大部分は依然としてセルフマネージドデプロイメントではなくAPI経由になります。

よりシンプルな方法：APIでKimi K3を使用する

上記のハードウェア最低要件を考慮すると、K3のセルフホスティングが意味を持つのは限られたケースです。すでに大規模でほとんどアイドル状態のGPU群を運用している、持続的な使用量が数十億トークンの損益分岐点をはるかに超えている、またはデータをインフラから出せない特定のコンプライアンス理由がある場合です。これらのケース以外では、上記のクラスター計算はあなたに不利に働きます。

APIMaster.aiはすでにkimi-k3をモデルマーケットプレイスで提供しており、OpenAI互換のAPIでルーティングしています。このルートはMoonshot自身のAPIと、オープンウェイトを実行する外部のクラウドGPUインフラの両方を利用しているため、価格と可用性は同じモデルへの複数のパスを反映しています。プロダクションボリュームを移行する前にライブルートカードを確認してください。チャネルの供給と価格は変動する可能性があります。

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_APIMASTER_KEY",
    base_url="https://apimaster.ai/v1",
)

response = client.chat.completions.create(
    model="kimi-k3",
    reasoning_effort="max",
    messages=[
        {"role": "user", "content": "2.8T MoEモデルをセルフホスティングする際のトレードオフをまとめてください。"}
    ],
)

print(response.choices[0].message.content)

開始するには：

  1. **APIMasterアカウントに登録**します。
  2. 対応する支払い方法でウォレットにクレジットを追加します。
  3. **APIMasterコンソール**からAPIキーを生成します。
  4. 既存のOpenAI SDK統合でmodelを**kimi-k3に、ベースURLをhttps://apimaster.ai/v1**に設定します。

Kimi K3はAPIMasterの現在のDeepSeek、Kimi K3、MiniMax M3、GLM-5.2の40%オフ価格にも含まれており、すべてのルートは本番で依存する前に無料の**AIモデルフィンガープリントテスター**で確認できます。

FAQ

Kimi K3を1つのGPUや通常のワークステーションで実行できますか？

いいえ。現実的なVRAM最低要件は約1,680GBです。18枚のRTX PRO 6000 Blackwellワークステーション（1枚あたり96GB）でも、紙の上ではかろうじてその数をクリアしますが、実際にその方法でモデルを提供する実用的なトポロジはありません。Mac Studioの最大512GBのユニファイドメモリは必要な量の約3分の1です。

Kimi K3を合法的にセルフホスティングする最も安い方法は？

8×B300または8×MI355Xクラウドノードのレンタルがエントリーポイントで、プロバイダーとインスタンス価格に応じて月額約$43,000～$104,000です。月間数十億トークンの使用量を超えて初めて公式APIとコスト競争力を持つようになります。

OllamaやLM StudioはKimi K3をサポートしていますか？

公式にはサポートされていません。Moonshotが推奨するサービスエンジンはvLLM、SGLang、TokenSpeedで、これらはすべてマルチGPUデータセンター向けのデプロイメント用に構築されており、シングルマシンのコンシューマー推論用ではありません。

APIMasterを通じてKimi K3は利用可能ですか？

はい。APIMasterマーケットプレイスでkimi-k3として提供されており、OpenAI互換のエンドポイントを通じて、Moonshot自身のAPIとオープンウェイトを実行する外部クラウドGPUキャパシティの両方を利用しています。

K3のコンテキストウィンドウは、ローカル実行とAPI経由ではどう比較されますか？

1Mトークンウィンドウはどちらの方法でも同一です。これはモデルのプロパティであり、サービングパスではありません。変わるのはプレフィックスキャッシングの動作とコストです。APIMasterのルートとMoonshot自身のAPIは、繰り返される長いプレフィックスに対してキャッシュヒット価格をサポートしていますが、セルフホストのvLLMデプロイメントでは、同じ利点を得るために明示的にプレフィックスキャッシングを有効にする必要があります（K3ではデフォルトでオフです）。

出典

Kimi K3のウェイトは公開されていますが、ほとんどの人にとってモデルを使用する最速の方法は依然としてAPI呼び出しであり、GPUクラスターではありません。**APIMasterに登録**して、ハードウェアをプロビジョニングせずにkimi-k3のOpenAI互換キーを取得してください。

ブログに戻る