> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-zh/yu-yan-mo-xing/kimi-k3.md).

# Kimi K3（2.8T——所需条件）

Kimi K3 是什么、要自托管 2.8 万亿参数实际需要什么，以及在 Clore.ai 上该运行什么来替代

{% hint style="danger" %}
**先直接回答：无论采用哪种量化，Kimi K3 都无法放在 Clore.ai 市场上列出的任何服务器上。** 社区版中最小的构建是一个 1 位 GGUF，容量为 **466GB**；而该市场上最大的机器只有 380GB。本页将解释 K3 是什么、真正托管它需要什么，以及在当下可租用的硬件上，哪些模型能提供最多的能力。
{% endhint %}

Moonshot AI 发布了 **Kimi K3** 权重于 **2026年7月27日** —— 这是首个处于 3 万亿参数级别的开放模型。这是一个真正的里程碑，也很适合作为校准点，来看“开放权重”和“可自托管”已经分化到了多远。

### 关键规格

| 属性  | 数值                                                                                    |
| --- | ------------------------------------------------------------------------------------- |
| 参数  | 总计 2.8T，每个 token 激活 896 个专家中的 16 个                                                    |
| 架构  | Kimi Delta Attention（KDA）+ Attention Residuals、Stable LatentMoE，69 层 KDA + 24 层门控 MLA |
| 模态  | 文本、图像、视频输入 → 文本输出                                                                     |
| 上下文 | 1,000,000 个 token                                                                     |
| 许可证 | Kimi K3 许可证（定制——年营收约 2000 万美元以上的商业推理需要单独条款）                                           |
| 发布  | 2026年7月16日上线托管，2026年7月27日发布权重                                                         |
| 权重  | Q8 1,561GB · Q4\_K\_XL 1,509GB · Q2\_K\_XL 861GB · IQ1\_S 594GB · Q1\_0 466GB         |

Moonshot 声称大约 **比 Kimi K2 高约 2.5 倍的扩展效率** 这得益于更稀疏的 MoE 和 KDA 注意力堆栈，以及原生多模态训练，而不是后加的视觉塔。

## 实际托管它需要什么

| 构建版本                     | 大小      | 所需硬件                      |
| ------------------------ | ------- | ------------------------- |
| `UD-Q8_K_XL`             | 1,561GB | 约 20× H100 80GB           |
| `UD-Q4_K_XL`             | 1,509GB | 约 20× H100 80GB           |
| `UD-Q2_K_XL`             | 861GB   | 约 11× H100 80GB，或 8× H200 |
| `UD-IQ1_S`               | 594GB   | 约 8× H100 80GB            |
| `UD-Q1_0`                | 466GB   | 约 6× H100 80GB            |
| `mgoin/Kimi-K3-pruned75` | 475GB   | 约 6× H100 80GB            |

作为参考，Clore.ai 市场上最大的机器是 4× RTX PRO 6000 Blackwell（380GB）和 11× RTX 5090（341GB）。即使是 1 位构建也超过了它们，而前沿模型的 1 位量化本来也不是严肃的生产目标。

{% hint style="info" %}
**如果你确实需要提供 K3 服务**，那将是一场 [裸机](https://clore.ai/bare-metal) 讨论——需要专用的 H200 或 B200 节点，按需配置，而不是按分钟租用。先检查许可证：条款将年收入约 2000 万美元以上的商业推理设为门槛。
{% endhint %}

## 在 Clore.ai 上改跑什么

| 如果你想用 K3 来做…… | 运行这个                                                                                            | 可放在                           |
| ------------- | ----------------------------------------------------------------------------------------------- | ----------------------------- |
| 前沿编程与智能体      | [GLM-5.2](/guides/guides_v2-zh/yu-yan-mo-xing/glm-5-2.md) —— MIT 许可证，100 万上下文，开放代码评分顶尖          | 10× RTX 5090 机器，约 5.00 美元/小时  |
| 长上下文多模态       | [MiniMax M3](/guides/guides_v2-zh/yu-yan-mo-xing/minimax-m3.md) —— 100 万上下文，原生视频                | 8× RTX 5090，约 2.00–3.50 美元/小时 |
| 大规模开放推理       | [Nemotron 3 Ultra](/guides/guides_v2-zh/yu-yan-mo-xing/nemotron-3-ultra.md) —— 550B，OpenMDW 许可证 | 4× RTX PRO 6000，约 5.00 美元/小时  |
| 一张卡跑一个模型      | [Qwen3.8-27B](/guides/guides_v2-zh/yu-yan-mo-xing/qwen38-27b.md) —— Apache 2.0，视觉，26.2 万上下文     | 1× RTX 4090，0.14–0.42 美元/小时   |
| 每租用 GB 的最佳质量  | [Mistral Small 4](/guides/guides_v2-zh/yu-yan-mo-xing/mistral-small4.md) —— 119B / 6.5B 激活      | 2× RTX 4090，0.28–0.84 美元/小时   |

坦率地说：自 2026 年 6 月以来，开放前沿已经分化。像 GLM-5.2 和 Nemotron 3 Ultra 这样的模型，正好卡在大型消费级机器能承载的边缘；而 K3 已经越过去了。它们之间大部分实际差距，可以通过一个好的推理框架和长上下文来弥合，而上面这些模型都能提供这两点。

## 不托管 K3 也能使用它

Moonshot 通过 Kimi 应用、Kimi Code 以及其 API 提供 K3。如果你在 Clore.ai 上构建，常见做法是把昂贵的前沿调用留给 API，而把高频路径在本地租用的 GPU 上运行——见其中的成本对比 [Gemini 3.1 Flash Lite](/guides/guides_v2-zh/yu-yan-mo-xing/gemini-3-1-flash-lite.md)，它会解释什么时候自托管真正更有优势。

## 下一步

* [GLM-5.2](/guides/guides_v2-zh/yu-yan-mo-xing/glm-5-2.md) —— 这里现实中能租到的最大模型
* [GPU 价格与可用性](/guides/guides_v2-zh/ru-men-zhi-nan/pricing.md) —— 目前的上限是什么
* [Qwen3.8-27B](/guides/guides_v2-zh/yu-yan-mo-xing/qwen38-27b.md) —— 单卡主力
* [Kimi K2.5](/guides/guides_v2-zh/yu-yan-mo-xing/kimi-k2.md) —— 上一代，容易驾驭得多

### 链接

* [Hugging Face 上的 Kimi K3](https://huggingface.co/moonshotai/Kimi-K3) · [GGUF 构建版本](https://huggingface.co/unsloth/Kimi-K3-GGUF)
* [Kimi K3 许可证](https://huggingface.co/moonshotai/Kimi-K3/blob/main/LICENSE)
* **租用 GPU：** [市场](https://clore.ai/marketplace) · [裸机](https://clore.ai/bare-metal)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-zh/yu-yan-mo-xing/kimi-k3.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.