> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-zh/yu-yan-mo-xing/minimax-m3.md).

# MiniMax M3（428B 多模态）

在 Clore.ai 的多 GPU 机器上部署 MiniMax M3，这是一款原生多模态的 428B MoE，拥有 100 万 token 上下文

{% hint style="info" %}
**状态（2026年8月）：** MiniMax 发布 **M3** 于 **2026年6月1日**，并于6月7日在 Hugging Face 上发布权重： [MiniMaxAI/MiniMax-M3](https://huggingface.co/MiniMaxAI/MiniMax-M3). **总计 428B / 约 23B 激活**, **100万 token 上下文**，原生 **文本 + 图像 + 视频** 输入，采用自定义 **`minimax-community`** 许可证（不是 Apache 或 MIT——在商用发布前请先阅读）。
{% endhint %}

M3 的有趣之处不在于规模，而在于它的注意力机制。 **MiniMax 稀疏注意力（MSA）** 在 100 万上下文长度下，将每个 token 的计算量削减至约 **1/20** 分组查询注意力的，使 MiniMax 据称获得 **预填充快 9 倍、解码快 15 倍** ，相比 M2 在完整上下文下更快。对于长文档和长视频任务，这意味着你能负担得起把窗口填满的模型与负担不起的模型之间的差别。

由于每个 token 仅激活约 23B 参数，量化版的解码速度更接近中型模型，而不是 428B 级模型。

### 关键规格

| 属性    | 数值                                                      |
| ----- | ------------------------------------------------------- |
| 参数    | 总计 428B，约 23B 激活（MoE）                                   |
| 架构    | 60 层，GQA + MiniMax 稀疏注意力，原生视觉编码器                        |
| 模态    | 文本、图像、视频输入 → 文本输出                                       |
| 上下文   | 1,000,000 个 token                                       |
| 许可证   | `minimax-community` （自定义，商业受限）                          |
| 发布日期  | 2026年6月1日                                               |
| 权重    | BF16 854GB · Q2\_K\_XL GGUF 143GB · Q3\_K\_M GGUF 195GB |
| 主要工具链 | vLLM, SGLang, llama.cpp, Transformers                   |

***

## 需求

| 构建           | 大小      | Clore.ai 机架                                 |
| ------------ | ------- | ------------------------------------------- |
| `UD-IQ1_M`   | 128GB   | 6× RTX 5090（186GB）——很宽裕                     |
| `UD-Q2_K_XL` | 143GB   | 6× RTX 5090 或 8× RTX 4090（192GB）            |
| `UD-Q3_K_M`  | 195GB   | 8× RTX 5090（248GB）                          |
| `UD-Q4_K_S`  | 248GB   | 10× RTX 5090（310GB）或 4× RTX PRO 6000（380GB） |
| 官方 MXFP8     | \~430GB | 不在市场上 → [裸机](https://clore.ai/bare-metal)   |
| 官方 BF16      | 854GB   | [裸机](https://clore.ai/bare-metal)           |

在上一快照中有 **72 台服务器拥有 ≥167GB 显存（其中 26 台空闲）** 以及 **54 台拥有 ≥192GB（其中 14 台空闲）** ——足以部署 Q2 或 Q3 版本，但又不至于多到可以想当然地认为随时都有现成可用的。

{% hint style="warning" %}
多模态输入需要在语言模型之外同时加载视觉塔。如果你计划输入图像或视频，请在量化大小之外额外预留几 GB，并优先选择具备充足系统内存、适合视频解码的设备。
{% endhint %}

***

## 使用 llama.cpp 部署

```bash
huggingface-cli download unsloth/MiniMax-M3-GGUF \\
  --include "*UD-Q2_K_XL*" --local-dir /workspace/m3

llama-server -m /workspace/m3/*UD-Q2_K_XL*-00001-of-*.gguf \\
  --host 0.0.0.0 --port 8080 \\
  -ngl 999 --split-mode layer \\
  -c 262144 --flash-attn --no-mmap
```

## 使用 vLLM 部署

```bash
vllm serve MiniMaxAI/MiniMax-M3 \\
  --tensor-parallel-size 8 \\
  --trust-remote-code \\
  --max-model-len 262144 \\
  --gpu-memory-utilization 0.92 \\
  --enable-expert-parallel
```

预量化检查点： [`MiniMaxAI/MiniMax-M3-MXFP8`](https://huggingface.co/MiniMaxAI/MiniMax-M3-MXFP8) （官方）， [`nvidia/MiniMax-M3-NVFP4`](https://huggingface.co/nvidia/MiniMax-M3-NVFP4) 适用于 Blackwell， [`cyankiwi/MiniMax-M3-AWQ-INT4`](https://huggingface.co/cyankiwi/MiniMax-M3-AWQ-INT4) 适用于 AWQ 栈。

***

## Clore.ai GPU 推荐

| 配置              | 总显存       | 构建           | Clore.ai 成本        |
| --------------- | --------- | ------------ | ------------------ |
| 6× RTX 5090     | 186GB     | Q2\_K\_XL    | 约 1.50–2.60 美元/小时  |
| 8× RTX 4090     | 192GB     | Q2\_K\_XL    | 约 1.12–3.36 美元/小时  |
| **8× RTX 5090** | **248GB** | **Q3\_K\_M** | **约$2.00–3.50/小时** |
| 4× RTX PRO 6000 | 380GB     | Q4\_K\_S     | 约 5.00 美元/小时       |

***

## 应用场景

* **长视频理解** ——原生视频输入加上稀疏注意力的成本曲线
* **百万 token 文档分析** ——合同、代码库、档案可一次性处理
* **代理式编码和“协作”任务** ——这是 MiniMax 为 M3 重点优化的方向
* **前沿规模下的低成本解码** ——23B 激活参数意味着就模型规模而言，token 输出速度很快
* **多模态 RAG** ——一个模型同时处理文本、截图和视频帧

{% hint style="warning" %}
**商用前请检查许可证。** M3 采用 `minimax-community`，而不是 OSI 许可证。如果你需要不受限制的条款， [GLM-5.2](/guides/guides_v2-zh/yu-yan-mo-xing/glm-5-2.md) 是 MIT，且 [Qwen3.8-27B](/guides/guides_v2-zh/yu-yan-mo-xing/qwen38-27b.md) 是 Apache 2.0。
{% endhint %}

***

## 故障排查

| 问题                     | 修复                                               |
| ---------------------- | ------------------------------------------------ |
| `trust_remote_code` 错误 | M3 附带自定义建模代码——请传入 `--trust-remote-code` 在 vLLM 中 |
| 缺少稀疏注意力内核              | 更新 vLLM/SGLang；MSA 支持是在 6 月发布后才合入的               |
| 视频输入失败                 | 检查该设备是否有足够的系统内存和 CPU 用于解码；视频在主机端解码               |
| 在 100 万上下文时 OOM        | KV 缓存比 GQA 更小，但并非免费——从 262K 开始逐步上调               |
| 预填充慢                   | 启用分块预填充；MSA 的优势体现在长上下文上，而不是短提示上                  |

***

## 下一步

* **前代：** [MiniMax M2.7](/guides/guides_v2-zh/yu-yan-mo-xing/minimax-m27.md) ——4 月的编码 MoE
* **相近规模的 MIT 许可替代方案：** [GLM-5.2](/guides/guides_v2-zh/yu-yan-mo-xing/glm-5-2.md)
* **单卡替代方案：** [Qwen3.8-27B](/guides/guides_v2-zh/yu-yan-mo-xing/qwen38-27b.md)
* **设备规格：** [GPU 价格与可用性](/guides/guides_v2-zh/ru-men-zhi-nan/pricing.md)

### 链接

* [Hugging Face 上的 MiniMax M3](https://huggingface.co/MiniMaxAI/MiniMax-M3) · [GGUF](https://huggingface.co/unsloth/MiniMax-M3-GGUF)
* [技术报告（arXiv 2606.13392）](https://arxiv.org/abs/2606.13392) · [MSA 仓库](https://github.com/MiniMax-AI/MSA)
* [MiniMax-M3 GitHub](https://github.com/MiniMax-AI/MiniMax-M3)
* **租用 GPU：** [RTX 5090](https://clore.ai/rent-5090.html) · [RTX 4090](https://clore.ai/rent-4090.html) · [市场](https://clore.ai/marketplace)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-zh/yu-yan-mo-xing/minimax-m3.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.