Kimi K3 を Day 0 でセルフホスト：vLLM 本番経路 vs Ollama ノート神話

Kimi K3 ハブ： スペック・料金・API ID → /kimi-k3。タイムライン → /kimi-k3-status。Ollama / VRAM の現実 → /blog/34-kimi-k3-vram-ollama-local-requirements。オープンウェイトのカレンダー → /blog/31-kimi-k3-open-weights-july-27。

タイムラインは 「Kimi K3 オープンウェイトが 7 月 27 日」 で賑わっている。Mac Mini のスクショが流れる。謎の GGUF を「ワンクリック Ollama」と貼る人もいる。あなたの仕事はもっと地味だ——うちのチームはこれ、本当にセルフホストできるのか？それともただの盛り上がりか？

短い答え： セルフホストは クラスタ / vLLM の問題 として扱え。ノートのチャットアプリ ではない。製品と API はすでに生きている。フル公開ウェイトは Hugging Face で再確認するカレンダーイベントであって、今夜 ollama pull が通る保証ではない。

このサイトは Moonshot 非公式の独立リソースだ。以下のスペックと日付は 2026 年 7 月 27 日時点の公開ドキュメントとパートナーブログに沿う——鉄を買う前も、怪しいリポジトリを信じる前も、Kimi K3 ブログ、プラットフォーム docs、vLLM の K3 プレビュー を必ず再確認してほしい。

先に結論だけ（ここだけ読めば足りる）

1. 仕事が二つある。
   • 「今日、K3 の品質が欲しい」 → kimi.com、Kimi Code、または platform.kimi.ai の API id kimi-k3。
   • 「ウェイトを 自前 VPC に置きたい」 → Moonshot 公式の HF リポに実ファイルが出るまで待ち、Day-0 サービングスタック（Moonshot とパートナーが準備している公開経路は vLLM）を揃える。
2. 本稿執筆時点、HF moonshotai/Kimi-K3 はまだ Upcoming release ページ（カウントダウン／通知）——safetensors 付きの完成ダウンロードではない。「もうオープン」と書く SNS 投稿は、だいたい約束文を読んでいて Files タブを見ていない。
3. ゲーミング GPU 1 枚の Ollama は、フル 2.8T 級 K3 のメンタルモデルとして間違っている。 公式のサービング言語は スーパーノード／マルチアクセラレータ 前提で、24GB のおもちゃではない。
4. vLLM の 7 月 22 日プレビューが、公開されている「業界がどう出すか」の最良のメモだ：Day-0 モデルパス、KDA 対応の prefix caching、Docker レシピ、NVIDIA ＋初期 AMD——コンシューマ向けワンライナーではない。
5. すでに落とせるオープンな Kimi 系列（例：Hugging Face 上の K2.6 / K2.7 Code）は、K3 ファイル待ちのあいだにセルフホストできる現実の選択肢だ。

一文で言うなら：今週の知能は API か製品で取る。セルフホストは Files タブが本物になってから vLLM＋実ウェイトで——二つの入口を混ぜない。

出典：公式 K3 ローンチメッセージ / Kimi K3 技術ブログ、Moonshot AI、2026 年 7 月 16 日。

このガイドの想定読者（と想定外）

検索が 「kimi k3 ollama」 だけなら、VRAM & Ollama 記事 も読んでほしい——あちらがローカル機材の正直チェック。本ページはセルフホスト／サービング経路だ。

「オープンウェイト Day 0」が実際に意味すること

Moonshot の公開ストーリー（K3 発表）：

• 製品＋API が先（おおよそ 2026 年 7 月 16 日から稼働）：チャット、Work、Code、kimi-k3 API。
• フルモデルウェイトは 2026 年 7 月 27 日まで——ファイルを出すコミットメントであって、「もう全ミラーにある」魔法ではない。
• サービングを変えるアーキテクチャ：Kimi Delta Attention (KDA)、Attention Residuals、スパース MoE（公式の枠組み：トークンごとに有効 896 中 16 エキスパート）、総パラメータ 約 2.8T、コンテキスト 1M、ネイティブ vision。
• KDA 関連の prefix-cache 作業を vLLM コミュニティへ寄与し、モデルと 並んで出す、という明示——KDA は古典的な full-attention KV キャッシュと同じ動きをしないから。

セルフホスト勢にとっての「Day 0」は、実質 二つのドロップ：

1. ウェイト ＋ LICENSE ＋ モデルカード（だいたい Hugging Face の moonshotai/… 配下）。
2. K3 を理解するサービングコード（vLLM プレビューはモデルパス、パーサ、カーネル、Docker、レシピを指している）。

どちらか片方だけでは、半開きのドアだ。

経路 A — 製品＆API（大半の人が今日開くべき入口）

フロンティア級の K3 品質を試すのに、セルフホストは 要らない：

ゴールが「このスプリントで機能を出す」なら API と製品が勝つ。セルフホストは データ所在、エアギャップ、カスタム fine-tune、巨大ボリュームの単位経済用——FOMO 用ではない。

出典：公式 K3 ローンチメディア / Kimi K3 ブログ、2026 年 7 月 16 日。

経路 B — vLLM でセルフホスト（本気の Day-0 経路）

vLLM が公開で約束したこと（2026 年 7 月 22 日）

vLLM チームのプレビュー は、フルオープンソース日前に手元にある、いちばんはっきりした「エコシステム準備」投稿だ。平たく言えば、次を整えている：

• ウェイト公開に向けた Day-0 オープンソースサービング：モデル実装、Docker イメージ、デプロイレシピ、本番検証
• KDA 対応の prefix caching（再帰的な KDA 状態には古典的な paged KV だけでは足りない）
• KDA prefill／decode、Attention Residuals、MoE（リリース枠組み上の MXFP4 経路）、マルチモーダル周りでのカーネル／性能作業
• 最終調整中の NVIDIA レシピ ＋ 初期 AMD 経路

これは インフラの言語だ。「Windows の Ollama に貼ってチャット」ではない。

Day-0 サービングの考え方（チェックリスト。凍結 CLI ではない）

ウェイトが出たら、健全なセルフホストの手順はこうなる——常に公式モデルカードと vLLM docs を、このブログを含むどの記事よりも優先：

1. リポジトリを検証する
   • 組織は moonshotai（または公式ブログから Moonshot がリンクするソース）。
   • 実 Files（シャード）があること。「Upcoming release」のマーケ文言だけではないこと。
   • LICENSE を端から端まで読む（過去の Kimi オープン系列は Modified MIT 系が多いが、ファイルが出るまで K3 を推測しない）。
2. K3 / KDA 対応を謳うサービングビルドをピンする
   • vLLM の投稿 と Day-0 用にタグ付けされるバージョンを追う——nightly／main は動く。
   • 過去の K2 系レシピ同様、ツール呼び出し／推論パーサやマルチモーダル用フラグが Kimi 固有だと想定する。
3. 並列化は MoE 巨大機として計画する
   • 2.8T 級スパース MoE は エキスパート並列＋帯域の話であって、tensor-parallel-size 1 の一夜実験ではない。
   • 公式プロダクト docs は競争力のあるスループットに スーパーノード型マルチアクセラレータを指してきた——データセンタ形として読め。
4. 1M コンテキストには謙虚であれ
   • クラウド API の「1M フラット」と、「初日に --max-model-len 1048576 を立てて飛ぶ」は別物。
   • まず 短い max length から始め、prefill／decode を測ってから伸ばす。
5. 「ディスク上のウェイト」と「本番 SLO」を分ける
   • Day-0 はしばしば 起動する まで。本番は監視、PD 分離、キャッシュヒット率、障害ドメイン——vLLM の投稿もその難しい部分を明示している。

祝福済みであるかのように 偽フラグ付きの vllm serve … を貼ることはしない。間違ったフラグは数時間で腐る。ファイルが着地した日の モデルカード＋ vLLM リリースノートが真実のソースだ。

ハードウェアの現実（偽の GB 表は作らない）

みんな欲しい：「K3 Q4 ＝ 4090 で XX GB」。

その表は発明しない。

握れるのは次だけ：

• 総規模（約 2.8T） と スパース有効化（16/896 の枠組み） は、「ノートに総パラメータが収まる」と同義ではない。保存は巨大なウェイト footprint のままで、トークンごとに 有効化する部分集合だけが小さい。
• コミュニティのダウンロードサイズ感は、量子化ストーリー（MXFP4 vs より高い精度）次第で 数百 GB〜約 1TB 超帯に落ちることが多い——モデルカードがファイルサイズを出すまで非公式として扱え。
• Moonshot 自身の 64 基以上のアクセラレータ／スーパーノード型言語はサービングの 形 であって、趣味の脚注ではない。
• すでにマルチノード GPU クラスタを回していない（またはマネージド推論を買わない）なら、大半のチームでは API かマネージドホストが英雄的週末ビルドに勝つ。

Ollama／GGUF のタイムラインと「ローカルでまだ動くか」は VRAM ガイド に留める。

出典：公式 K3 ローンチメディア / Kimi K3 ブログ、2026 年 7 月 16 日。

経路 C — Ollama／「Mac Mini」神話（丁寧に潰す）

ollama、gguf、local、self host への検索需要は本物だ。誤りは、それらを一つのファンタジーに積むこと：

待ち時間の健全なローカル経路： オフラインのコーディングエージェントにはすでに HF にある K2.6 / K2.7 Code をセルフホストし、難しい仕事は API の K3 に振る。ハイブリッドの方が純粋さコンテストに勝つ。

当日チェックリスト（カレンダーのマスが本当に着地したら）

実際に何かが出たときに使え——「落ちる」リポストを信じたときではない。

ウェイト

• 公式ブログ／X または HF が Upcoming から ダウンロード可能な Files に移った
• リポが moonshotai 配下（または kimi.com/blog/kimi-k3 から明確にリンク）
• LICENSE ＋モデルカード＋掲載されたシャードサイズ
• ランダムな第三者の「Kimi-K3-abliterated」だけに依存しない

サービング

• K3 をドキュメントしている vLLM（または Moonshot が名指しする他エンジン）の バージョン／イメージ
• ツール呼び出し／推論パーサがカードと一致
• 大規模 MoE を回したことがある人が並列化計画をレビュー
• スモーク：ヘルスエンドポイント、短いプロンプト、ツール呼び出し 1 回、長コンテキスト prefill 1 回

ビジネス

• 意思決定ツリー：API 既定 vs セルフホスト・パイロット vs マネージドホスト
• セキュリティ：ウェイトのアクセス制御、幻覚／ツール安全の評価——「オープン＝その夜に本番」ではない

今週やること（意思決定ツリー）

ランチ前に K3 の品質が要る
→ 製品か API。ウェイトにブロックされない。

セルフホストのパイロットを組んでいる
→ vLLM の K3 プレビュー を読み、クラスタ容量を確保し、上のチェックリストを下書きし、K2.6 / K2.7 Code ウェイトでパイプラインを練習して、K3 ファイル着地時に退屈な状態にしておく。

機材がゲーミングノートだけ
→ クラウド製品／API で K3 を楽しむ。ローカルは小さいオープンモデル。「24GB でフル K3」 サムネは無視。

コンプライアンスがオープンウェイトを要求する
→ HF moonshotai/Kimi-K3 と公式ブログをブックマークし、LICENSE とファイルが本物になるまで 本番設計はしない。

注意点（ノイズフィルタ）

1. 約束日 ≠ Files タブ。 7 月 27 日は Moonshot の公開ターゲット；成果物を検証する。
2. SNS 上の 幻覚／独立ベンチスレはバラつく——第三者の % を runbook に「公式」として貼らない。
3. アーキテクチャキーワード（KDA、AttnRes、MXFP4）は本物のエンジニアリングだが、初日にコンシューマ用ランタイムがある証明ではない。
4. このサイトは Moonshot サポートではない。迷ったら公式 docs が勝つ。

次に読む

• ステータスハブ：/kimi-k3-status · 製品ハブ：/kimi-k3
• オープンウェイトのカレンダー：/blog/31-kimi-k3-open-weights-july-27
• ローカル／Ollama の正直さ：/blog/34-kimi-k3-vram-ollama-local-requirements
• 無料のお試し入口：/blog/33-kimi-k3-free-how-to · 使い方：/blog/36-how-to-use-kimi-k3
• 請求の制御：/blog/37-kimi-k3-api-pricing-cost-control
• 公式：Kimi K3 ブログ · vLLM K3 プレビュー · HF moonshotai

締め： Kimi K3 のセルフホストは 本気のサービング案件（vLLM ＋マルチアクセラレータの現実）であって、Ollama の余興ではない。Upcoming ページが Upcoming のあいだはクラウドの入口を使い、Files タブが本物になったら、どのダウンロードも org・ライセンス・スタックを検証してから信じる。