Kimi K3 本地部署:Ollama、显存与 VRAM 现状(2026)
Kimi K3 专题: 规格、价格、API → /zh/kimi-k3。时间线 → /zh/kimi-k3-status。开源权重日历 → 7 月 27 日现实核对。
你搜 kimi k3 ollama、kimi k3 显存 或 kimi k3 下载,多半是因为信息流写「开源了」。打开 Hugging Face 或 Ollama 库——干净安装路径却没有。
这不是你操作错了。差的是 营销口径里的「开源」 和 磁盘上真能 load 的文件。
这篇只答本地问题:现在能不能在自己机器上跑 Kimi K3?要多少显存?Ollama / GGUF 什么时候有?这周先怎么办?
本站独立于月之暗面(Moonshot)。以下事实对齐公开资料,截至 2026 年 7 月 21 日——买卡或信陌生仓库前,请再对一眼 官方 K3 博文 和 Hugging Face 上的 Moonshot。
先看结论(够忙就读这一段)
- 目前没有可靠的公开完整 K3 权重包(写稿时)。产品与 API 已上线;官方称 完整权重不晚于 2026 年 7 月 27 日。在真正的 Moonshot 仓库带文件出现之前,没法诚实地说
ollama pull就能拉到完整 K3。 - 规模大约 2.8 万亿参数,MoE 稀疏激活(官方:激活 896 个专家里的 16 个)。相对稠密 2.8T,这有利于 服务效率——不等于 K3 能塞进 24GB 笔记本当玩具。
- Moonshot 自己的服务说明指向 64+ 加速器的超节点式部署。请读成:数据中心形态,不是「一张游戏卡加梦想」。
- 今天能用的: kimi.com、Kimi Work、Kimi Code,以及 platform.kimi.ai 上的 API 模型 id
kimi-k3。想下已经公开的开源权重,看 K2.6 / K2.7 Code 系列——别和 K3 混标签。
一句话:这周用 API 或产品;本地 K3 当成七月底要再核实的事件,不是今晚就能跑的命令。

来源:社区转发的官方 K3 发布信息;请交叉核对 Kimi K3 技术博文,Moonshot AI,2026 年 7 月 16 日。
搜索意图其实是四件事
搜索引擎会把它们揉成一团。先拆开:
| 你搜的 | 其实想要的 | 今天有吗? |
|---|---|---|
| kimi k3 huggingface / 下载 | 官方权重文件 | 还不是完整公开 checkpoint(临近 7 月 27 日再查) |
| kimi k3 ollama / gguf | 一条命令本地聊 | 还不行——要权重 + 社区/运行时打包 |
| kimi k3 显存 / 本地配置 | 「我的卡够不够?」 | 没有诚实的固定 GB 表——只有规模 + 官方多卡指引 |
| kimi k3 自托管 | 放进你自己的 VPC/集群 | 权重落地 + 栈支持之后(vLLM / 合作方);按集群级铁规划 |
只记一行:下载意图 ≠ Ollama 意图 ≠「我电脑上无限免费」。
开源权重日历(不只硬件)见 7 月 27 日开源权重核对。本页深挖 Ollama / 显存 / 自托管现实。
官方到底说了什么(和本地相关的)
来自官方 Kimi K3 发布(2026 年 7 月 16 日):
| 事实 | 本地人为什么在意 |
|---|---|
| 2.8T 参数,自称首个开源 3T 级 | 「开源大模型」的心理标尺又抬了一档 |
| 100 万 token 上下文,原生视觉 | 长上下文 + 多模态,自托管时内存和 I/O 更疼 |
| MoE:实质 896 里激活 16,外加 Stable LatentMoE 表述 | 稀疏激活帮 算力,不是「总参数突然塞进笔记本」 |
| 量化感知训练:MXFP4 权重 / MXFP8 激活(官方用词) | 说明他们在意高效服务——不是已经发布的消费级量化卡 |
| 完整权重 不晚于 2026 年 7 月 27 日 + 同期技术报告 | 日历事件,不是今天的下载按钮 |
| 与 推理合作方、开源维护者对齐 | 文件出来后,栈(vLLM 等)仍可能滞后 |
| 建议 64+ 加速器 超节点式部署 | 官方最近的硬件气质——不是 4090 安装教程 |
等着的时候,API 公开标价(美元 / 百万 token):缓存命中输入 $0.30,缓存未命中输入 $3.00,输出 $15.00。发布默认思考是 max effort——短提示也可能烧掉不少推理 token。

来源:官方 K3 发布素材 / Kimi K3 博文,2026 年 7 月 16 日。
显存现实(不编假 GB 表)
大家想要一张整洁对照表:「Q4 = XX GB,Q5 = YY GB,需要 2×H100。」
我们不编。
现在编就是不诚实,因为:
- 完整公开的 K3 权重,社区侧 还没确认落盘。
- 官方面向「你这台机器」的量化配方,也不是成品消费页。
- 社区 GGUF / AWQ / EXL2——如果出现——通常会晚于首日权重放出,质量也参差。
- 激活专家数 ≠ 磁盘上的总参数。 MoE 稀疏可以砍 活跃 算力;不自动等于「只存 16 个专家」。
你能当真的现实检查只有这些:
- 总计 2.8T 和「笔记本上能跑的小开源 coder」根本不是一个宇宙。
- Moonshot 的 64+ 加速器 建议,是公司自己面向竞争性吞吐的服务形态——不是爱好者脚注。
- 如果你还没在跑多节点 GPU 集群(或付钱让别人跑),务实路径是 API、产品应用,或以后的托管推理——不是「周末量化一下就当电费不存在」。
权重落地后,有用的工件是:仓库 id、LICENSE、文件体积、官方服务说明、合作方端点、以及 第一批靠谱的量化 README。这些没有之前,任何「5090 上 K3 精确显存」帖子都是同人小说。
Ollama、GGUF 和「本地怎么跑」的时间线
今天(2026 年 7 月 21 日):
- 没有我们敢自信指向的、完整 Kimi K3 的 Ollama 库条目。
- GGUF 包需要基座权重 + 转换流水线 + 有人发布。官方权重包(和社区工具)齐活之前,谈不上「做完了」。
- 更早的 Kimi 开源线(例如 K2.6、K2.7 Code)才是你现在能从 Hugging Face 拉下来接本地栈的——别把它们的 tag 当成 K3。
权重放出之后(盯日历,别提前庆祝):
- 确认 Moonshot 官方(或明确官方)仓库里有真文件——不是占位、不是名字滑稽的镜像。
- 通读该仓库的 LICENSE(此前 Kimi 开源线常见 Modified MIT 风格;K3 以文件落地为准,现在未定)。
- 看 vLLM / SGLang 等 支持说明——Moonshot 已表示生态对齐对 K3 架构很重要(博文里也提到与 KDA 相关的服务工作)。
- 再去找 Ollama / GGUF 社区移植。预期「我机器上能跑」的博客会晚几天到几周;高质量量化更久。
- 重新算账:自托管集群 + 电 + 运维 vs API 的 $3/$15(加缓存命中)。很多团队会继续用 API 扛峰值智力,离线批量交给更小的开源模型。

来源:官方 K3 发布素材 / Kimi K3 博文,2026 年 7 月 16 日。
7 月 27 日核对清单(本地 / 自托管向)
只有真东西出现时再用——不是空日历的派对邀请。
- 官方确认 权重已出(博文 / X / HF),而不只是「即将」「soon」
- Hugging Face(或其他)Moonshot 名下仓库,分片可下
- LICENSE 从头读到尾
- README:服务路径(vLLM / 其他)、已知限制、多模态说明
- 文件体积 / 量化选项由 可信来源 列出(优先官方或大站)
- Ollama / llama.cpp 等 是否有真实、带版本的支持路径
- 你的决策树:默认 API vs 托管 vs 自托管集群
- 预算里留 运维时间——不只是 GPU
高层状态我们会更新在 /zh/kimi-k3-status。信一手源,别信截图。
这周先跑什么
| 你的目标 | 这么做 |
|---|---|
| 硬任务上摸 K3 质量 | 产品 / kimi-k3 API,设好试点预算 |
| 每天要交代码 | Kimi Code + 把 K2.7 Code 路径保温 |
| 现在就要本地 | 自托管 已经开源 的 K2.x 权重(K2.6 / K2.7 Code)——不是 K3 |
| 「免费」产品试水 | 见 诚实免费选项——产品额度 ≠ 免费 API ≠ 免费自托管 |
| 哪个 SKU 干哪活 | K2.6 vs K2.7 vs K3 |
若新注册或会员容量紧张(发布后 Moonshot 公开管过需求峰值),API 和现有入口仍比缺席的本地二进制更重要。
噪音过滤(本地版)
「Ollama 上已经有了。」
未核实的库名和镜像 tag,一律 先当可疑——除非指向真实的 Moonshot(或明确衍生)checkpoint,以及能照着跑通的步骤说明。
「开源权重 = 本机无限免费 K3。」
开源权重去掉了厂商闸门。它 消不掉 物理、电费、多卡运维,或许可证限制。
「MoE 所以我 24GB 卡没问题。」
稀疏帮的是 活跃 算力。总存储、专家路由、长上下文和视觉照样疼。官方服务指引是多加速器。
「HF 上有人叫 kimi-k3 的卡一定是官方。」
查 组织、文件、许可证、公告链接。优先 huggingface.co/moonshotai,别信随手改名。
「我死等本地,一辈子不用 API。」
研究好奇心可以。产品要赶交付就不行。高价值推理用 K3 试点;批量走更便宜/已开源的 SKU。
常见问题
今天能下载 Kimi K3 吗?
完整官方公开权重包,按 2026 年 7 月 21 日规划:还不能。官方承诺:完整权重 不晚于 2026 年 7 月 27 日。再查 Moonshot 组织页和 K3 博文。
今天能在 Ollama 上跑 Kimi K3 吗?
没有任何我们愿推荐的、可信且完整的路径。 没有权重 → 没有诚实的 Ollama 路径。
要多少显存?
精确消费级数未知。 用官方规模 + 64+ 加速器 服务指引做体感:若你本来就不跑集群 GPU,预算留给 API 或托管推理。
K3 是开源还是开源权重?
发布用语强调的是 3T 级开源权重。最终许可证文本随文件发布——到时候再读。标题里的「开源」替代不了 LICENSE。
本地 K2 系列呢?
更早的 Kimi 开源线(如 K2.6、K2.7 Code)才是 今天 务实的自托管选项。别把 K2 的 tag 贴进脚本就当 K3。
本站是官方吗?
不是。花钱或上架硬件前,请交叉核对 kimi.com/blog/kimi-k3 和 platform.kimi.ai。
结语
本地向搜索不是瞎——HF / 下载 / Ollama / 显存 需求真实。缺的是 工件:可核验的公开 K3 权重,以及真能 load 的栈。
落地之前,聪明做法很无聊:
- 试点 K3:在硬任务值得 token 账单的产品或 API 上。
- 自托管已开源的 K2.x:需要离线铁时,先拉这些。
- 无视「今晚笔记本装 K3」却永远不贴真仓库的教程。
- 临近 7 月 27 日再核——用上面的清单,别只靠希望。
延伸阅读:7 月 27 日开源权重 · K3 发布指南 · 免费选项 · 怎么选模型 · 状态总览。