Kimi K3（2.8T——所需条件）

Kimi K3 是什么、要自托管 2.8 万亿参数实际需要什么，以及在 Clore.ai 上该运行什么来替代

先直接回答：无论采用哪种量化，Kimi K3 都无法放在 Clore.ai 市场上列出的任何服务器上。 社区版中最小的构建是一个 1 位 GGUF，容量为 466GB；而该市场上最大的机器只有 380GB。本页将解释 K3 是什么、真正托管它需要什么，以及在当下可租用的硬件上，哪些模型能提供最多的能力。

Moonshot AI 发布了 Kimi K3 权重于 2026年7月27日 —— 这是首个处于 3 万亿参数级别的开放模型。这是一个真正的里程碑，也很适合作为校准点，来看“开放权重”和“可自托管”已经分化到了多远。

关键规格

属性	数值
参数	总计 2.8T，每个 token 激活 896 个专家中的 16 个
架构	Kimi Delta Attention（KDA）+ Attention Residuals、Stable LatentMoE，69 层 KDA + 24 层门控 MLA
模态	文本、图像、视频输入 → 文本输出
上下文	1,000,000 个 token
许可证	Kimi K3 许可证（定制——年营收约 2000 万美元以上的商业推理需要单独条款）
发布	2026年7月16日上线托管，2026年7月27日发布权重
权重	Q8 1,561GB · Q4_K_XL 1,509GB · Q2_K_XL 861GB · IQ1_S 594GB · Q1_0 466GB

Moonshot 声称大约 比 Kimi K2 高约 2.5 倍的扩展效率 这得益于更稀疏的 MoE 和 KDA 注意力堆栈，以及原生多模态训练，而不是后加的视觉塔。

实际托管它需要什么

构建版本	大小	所需硬件
UD-Q8_K_XL	1,561GB	约 20× H100 80GB
UD-Q4_K_XL	1,509GB	约 20× H100 80GB
UD-Q2_K_XL	861GB	约 11× H100 80GB，或 8× H200
UD-IQ1_S	594GB	约 8× H100 80GB
UD-Q1_0	466GB	约 6× H100 80GB
mgoin/Kimi-K3-pruned75	475GB	约 6× H100 80GB

作为参考，Clore.ai 市场上最大的机器是 4× RTX PRO 6000 Blackwell（380GB）和 11× RTX 5090（341GB）。即使是 1 位构建也超过了它们，而前沿模型的 1 位量化本来也不是严肃的生产目标。

如果你确实需要提供 K3 服务，那将是一场 裸机 讨论——需要专用的 H200 或 B200 节点，按需配置，而不是按分钟租用。先检查许可证：条款将年收入约 2000 万美元以上的商业推理设为门槛。

在 Clore.ai 上改跑什么

如果你想用 K3 来做……	运行这个	可放在
前沿编程与智能体	GLM-5.2 —— MIT 许可证，100 万上下文，开放代码评分顶尖	10× RTX 5090 机器，约 5.00 美元/小时
长上下文多模态	MiniMax M3 —— 100 万上下文，原生视频	8× RTX 5090，约 2.00–3.50 美元/小时
大规模开放推理	Nemotron 3 Ultra —— 550B，OpenMDW 许可证	4× RTX PRO 6000，约 5.00 美元/小时
一张卡跑一个模型	Qwen3.8-27B —— Apache 2.0，视觉，26.2 万上下文	1× RTX 4090，0.14–0.42 美元/小时
每租用 GB 的最佳质量	Mistral Small 4 —— 119B / 6.5B 激活	2× RTX 4090，0.28–0.84 美元/小时

坦率地说：自 2026 年 6 月以来，开放前沿已经分化。像 GLM-5.2 和 Nemotron 3 Ultra 这样的模型，正好卡在大型消费级机器能承载的边缘；而 K3 已经越过去了。它们之间大部分实际差距，可以通过一个好的推理框架和长上下文来弥合，而上面这些模型都能提供这两点。

不托管 K3 也能使用它

Moonshot 通过 Kimi 应用、Kimi Code 以及其 API 提供 K3。如果你在 Clore.ai 上构建，常见做法是把昂贵的前沿调用留给 API，而把高频路径在本地租用的 GPU 上运行——见其中的成本对比 Gemini 3.1 Flash Lite，它会解释什么时候自托管真正更有优势。

下一步

• GLM-5.2 —— 这里现实中能租到的最大模型

• GPU 价格与可用性 —— 目前的上限是什么

• Qwen3.8-27B —— 单卡主力

• Kimi K2.5 —— 上一代，容易驾驭得多

链接

• Hugging Face 上的 Kimi K3 · GGUF 构建版本

• Kimi K3 许可证

• 租用 GPU： 市场 · 裸机