指南
11 分钟 分钟阅读
AI Observer

Kimi K3 本地部署:Ollama、显存与 VRAM 现状(2026)

Kimi K3 专题: 规格、价格、API → /zh/kimi-k3。时间线 → /zh/kimi-k3-status。开源权重日历 → 7 月 27 日现实核对

你搜 kimi k3 ollamakimi k3 显存kimi k3 下载,多半是因为信息流写「开源了」。打开 Hugging Face 或 Ollama 库——干净安装路径却没有。

这不是你操作错了。差的是 营销口径里的「开源」磁盘上真能 load 的文件

这篇只答本地问题:现在能不能在自己机器上跑 Kimi K3?要多少显存?Ollama / GGUF 什么时候有?这周先怎么办?

本站独立于月之暗面(Moonshot)。以下事实对齐公开资料,截至 2026 年 7 月 21 日——买卡或信陌生仓库前,请再对一眼 官方 K3 博文Hugging Face 上的 Moonshot

先看结论(够忙就读这一段)

  1. 目前没有可靠的公开完整 K3 权重包(写稿时)。产品与 API 已上线;官方称 完整权重不晚于 2026 年 7 月 27 日。在真正的 Moonshot 仓库带文件出现之前,没法诚实地说 ollama pull 就能拉到完整 K3。
  2. 规模大约 2.8 万亿参数,MoE 稀疏激活(官方:激活 896 个专家里的 16 个)。相对稠密 2.8T,这有利于 服务效率——不等于 K3 能塞进 24GB 笔记本当玩具。
  3. Moonshot 自己的服务说明指向 64+ 加速器的超节点式部署。请读成:数据中心形态,不是「一张游戏卡加梦想」。
  4. 今天能用的: kimi.comKimi WorkKimi Code,以及 platform.kimi.ai 上的 API 模型 id kimi-k3。想下已经公开的开源权重,看 K2.6 / K2.7 Code 系列——别和 K3 混标签。

一句话:这周用 API 或产品;本地 K3 当成七月底要再核实的事件,不是今晚就能跑的命令。

Kimi K3 开源权重发布卡:2.8T 参数、1M 上下文、权重计划 7 月 27 日

来源:社区转发的官方 K3 发布信息;请交叉核对 Kimi K3 技术博文,Moonshot AI,2026 年 7 月 16 日。

搜索意图其实是四件事

搜索引擎会把它们揉成一团。先拆开:

你搜的其实想要的今天有吗?
kimi k3 huggingface / 下载官方权重文件还不是完整公开 checkpoint(临近 7 月 27 日再查)
kimi k3 ollama / gguf一条命令本地聊还不行——要权重 + 社区/运行时打包
kimi k3 显存 / 本地配置「我的卡够不够?」没有诚实的固定 GB 表——只有规模 + 官方多卡指引
kimi k3 自托管放进你自己的 VPC/集群权重落地 + 栈支持之后(vLLM / 合作方);按集群级铁规划

只记一行:下载意图 ≠ Ollama 意图 ≠「我电脑上无限免费」。

开源权重日历(不只硬件)见 7 月 27 日开源权重核对。本页深挖 Ollama / 显存 / 自托管现实

官方到底说了什么(和本地相关的)

来自官方 Kimi K3 发布(2026 年 7 月 16 日):

事实本地人为什么在意
2.8T 参数,自称首个开源 3T 级「开源大模型」的心理标尺又抬了一档
100 万 token 上下文,原生视觉长上下文 + 多模态,自托管时内存和 I/O 更疼
MoE:实质 896 里激活 16,外加 Stable LatentMoE 表述稀疏激活帮 算力,不是「总参数突然塞进笔记本」
量化感知训练:MXFP4 权重 / MXFP8 激活(官方用词)说明他们在意高效服务——不是已经发布的消费级量化卡
完整权重 不晚于 2026 年 7 月 27 日 + 同期技术报告日历事件,不是今天的下载按钮
推理合作方、开源维护者对齐文件出来后,栈(vLLM 等)仍可能滞后
建议 64+ 加速器 超节点式部署官方最近的硬件气质——不是 4090 安装教程

等着的时候,API 公开标价(美元 / 百万 token):缓存命中输入 $0.30,缓存未命中输入 $3.00,输出 $15.00。发布默认思考是 max effort——短提示也可能烧掉不少推理 token。

Kimi K3 官方编程基准图(max effort)

来源:官方 K3 发布素材 / Kimi K3 博文,2026 年 7 月 16 日。

显存现实(不编假 GB 表)

大家想要一张整洁对照表:「Q4 = XX GB,Q5 = YY GB,需要 2×H100。」

我们不编。

现在编就是不诚实,因为:

  • 完整公开的 K3 权重,社区侧 还没确认落盘
  • 官方面向「你这台机器」的量化配方,也不是成品消费页。
  • 社区 GGUF / AWQ / EXL2——如果出现——通常会晚于首日权重放出,质量也参差。
  • 激活专家数 ≠ 磁盘上的总参数。 MoE 稀疏可以砍 活跃 算力;不自动等于「只存 16 个专家」。

你能当真的现实检查只有这些:

  1. 总计 2.8T 和「笔记本上能跑的小开源 coder」根本不是一个宇宙。
  2. Moonshot 的 64+ 加速器 建议,是公司自己面向竞争性吞吐的服务形态——不是爱好者脚注。
  3. 如果你还没在跑多节点 GPU 集群(或付钱让别人跑),务实路径是 API、产品应用,或以后的托管推理——不是「周末量化一下就当电费不存在」。

权重落地后,有用的工件是:仓库 idLICENSE文件体积官方服务说明合作方端点、以及 第一批靠谱的量化 README。这些没有之前,任何「5090 上 K3 精确显存」帖子都是同人小说。

Ollama、GGUF 和「本地怎么跑」的时间线

今天(2026 年 7 月 21 日):

  • 没有我们敢自信指向的、完整 Kimi K3 的 Ollama 库条目。
  • GGUF 包需要基座权重 + 转换流水线 + 有人发布。官方权重包(和社区工具)齐活之前,谈不上「做完了」。
  • 更早的 Kimi 开源线(例如 K2.6K2.7 Code)才是你现在能从 Hugging Face 拉下来接本地栈的——别把它们的 tag 当成 K3

权重放出之后(盯日历,别提前庆祝):

  1. 确认 Moonshot 官方(或明确官方)仓库里有真文件——不是占位、不是名字滑稽的镜像。
  2. 通读该仓库的 LICENSE(此前 Kimi 开源线常见 Modified MIT 风格;K3 以文件落地为准,现在未定)。
  3. vLLM / SGLang 等 支持说明——Moonshot 已表示生态对齐对 K3 架构很重要(博文里也提到与 KDA 相关的服务工作)。
  4. 去找 Ollama / GGUF 社区移植。预期「我机器上能跑」的博客会晚几天到几周;高质量量化更久。
  5. 重新算账:自托管集群 + 电 + 运维 vs API 的 $3/$15(加缓存命中)。很多团队会继续用 API 扛峰值智力,离线批量交给更小的开源模型。

Kimi K3 官方 agent / 通用能力基准图

来源:官方 K3 发布素材 / Kimi K3 博文,2026 年 7 月 16 日。

7 月 27 日核对清单(本地 / 自托管向)

只有真东西出现时再用——不是空日历的派对邀请。

  • 官方确认 权重已出(博文 / X / HF),而不只是「即将」「soon」
  • Hugging Face(或其他)Moonshot 名下仓库,分片可下
  • LICENSE 从头读到尾
  • README:服务路径(vLLM / 其他)、已知限制、多模态说明
  • 文件体积 / 量化选项由 可信来源 列出(优先官方或大站)
  • Ollama / llama.cpp 等 是否有真实、带版本的支持路径
  • 你的决策树:默认 API vs 托管 vs 自托管集群
  • 预算里留 运维时间——不只是 GPU

高层状态我们会更新在 /zh/kimi-k3-status。信一手源,别信截图。

这周先跑什么

你的目标这么做
硬任务上摸 K3 质量产品 / kimi-k3 API,设好试点预算
每天要交代码Kimi Code + 把 K2.7 Code 路径保温
现在就要本地自托管 已经开源 的 K2.x 权重(K2.6 / K2.7 Code)——不是 K3
「免费」产品试水诚实免费选项——产品额度 ≠ 免费 API ≠ 免费自托管
哪个 SKU 干哪活K2.6 vs K2.7 vs K3

若新注册或会员容量紧张(发布后 Moonshot 公开管过需求峰值),API 和现有入口仍比缺席的本地二进制更重要。

噪音过滤(本地版)

「Ollama 上已经有了。」
未核实的库名和镜像 tag,一律 先当可疑——除非指向真实的 Moonshot(或明确衍生)checkpoint,以及能照着跑通的步骤说明。

「开源权重 = 本机无限免费 K3。」
开源权重去掉了厂商闸门。它 消不掉 物理、电费、多卡运维,或许可证限制。

「MoE 所以我 24GB 卡没问题。」
稀疏帮的是 活跃 算力。总存储、专家路由、长上下文和视觉照样疼。官方服务指引是多加速器。

「HF 上有人叫 kimi-k3 的卡一定是官方。」
组织文件许可证公告链接。优先 huggingface.co/moonshotai,别信随手改名。

「我死等本地,一辈子不用 API。」
研究好奇心可以。产品要赶交付就不行。高价值推理用 K3 试点;批量走更便宜/已开源的 SKU。

常见问题

今天能下载 Kimi K3 吗?
完整官方公开权重包,按 2026 年 7 月 21 日规划:还不能。官方承诺:完整权重 不晚于 2026 年 7 月 27 日。再查 Moonshot 组织页和 K3 博文

今天能在 Ollama 上跑 Kimi K3 吗?
没有任何我们愿推荐的、可信且完整的路径。 没有权重 → 没有诚实的 Ollama 路径。

要多少显存?
精确消费级数未知。 用官方规模 + 64+ 加速器 服务指引做体感:若你本来就不跑集群 GPU,预算留给 API 或托管推理

K3 是开源还是开源权重?
发布用语强调的是 3T 级开源权重。最终许可证文本随文件发布——到时候再读。标题里的「开源」替代不了 LICENSE。

本地 K2 系列呢?
更早的 Kimi 开源线(如 K2.6、K2.7 Code)才是 今天 务实的自托管选项。别把 K2 的 tag 贴进脚本就当 K3。

本站是官方吗?
不是。花钱或上架硬件前,请交叉核对 kimi.com/blog/kimi-k3platform.kimi.ai

结语

本地向搜索不是瞎——HF / 下载 / Ollama / 显存 需求真实。缺的是 工件:可核验的公开 K3 权重,以及真能 load 的栈。

落地之前,聪明做法很无聊:

  • 试点 K3:在硬任务值得 token 账单的产品或 API 上。
  • 自托管已开源的 K2.x:需要离线铁时,先拉这些。
  • 无视「今晚笔记本装 K3」却永远不贴真仓库的教程。
  • 临近 7 月 27 日再核——用上面的清单,别只靠希望。

延伸阅读:7 月 27 日开源权重 · K3 发布指南 · 免费选项 · 怎么选模型 · 状态总览

相关文章

想白嫖试试 Kimi K3?今天免费能做什么、额度在哪卡、邀请领会员权益怎么走、7 月 27 日开源权重又意味着什么——一篇说清。
Kimi K3 和 Claude、GPT 比,重点不是「立刻删掉对方 API」。按标价、写代码信号和真实工作流,判断这周该不该把活迁到 K3,以及 Sonnet / Sol 什么时候该继续留。
时间线在刷「3T 级开源模型」,Hugging Face 上却还是空的。Moonshot 对 7 月 27 日到底承诺了什么,以及这周该跑 API 而不是幻想本机 24GB 显卡。