For the complete documentation index, see llms.txt. This page is also available as Markdown.

MiniMax M3(428B 多模态)

在 Clore.ai 的多 GPU 机器上部署 MiniMax M3,这是一款原生多模态的 428B MoE,拥有 100 万 token 上下文

状态(2026年8月): MiniMax 发布 M3 于 2026年6月1日,并于6月7日在 Hugging Face 上发布权重: MiniMaxAI/MiniMax-M3. 总计 428B / 约 23B 激活, 100万 token 上下文,原生 文本 + 图像 + 视频 输入,采用自定义 minimax-community 许可证(不是 Apache 或 MIT——在商用发布前请先阅读)。

M3 的有趣之处不在于规模,而在于它的注意力机制。 MiniMax 稀疏注意力(MSA) 在 100 万上下文长度下,将每个 token 的计算量削减至约 1/20 分组查询注意力的,使 MiniMax 据称获得 预填充快 9 倍、解码快 15 倍 ,相比 M2 在完整上下文下更快。对于长文档和长视频任务,这意味着你能负担得起把窗口填满的模型与负担不起的模型之间的差别。

由于每个 token 仅激活约 23B 参数,量化版的解码速度更接近中型模型,而不是 428B 级模型。

关键规格

属性
数值

参数

总计 428B,约 23B 激活(MoE)

架构

60 层,GQA + MiniMax 稀疏注意力,原生视觉编码器

模态

文本、图像、视频输入 → 文本输出

上下文

1,000,000 个 token

许可证

minimax-community (自定义,商业受限)

发布日期

2026年6月1日

权重

BF16 854GB · Q2_K_XL GGUF 143GB · Q3_K_M GGUF 195GB

主要工具链

vLLM, SGLang, llama.cpp, Transformers


需求

构建
大小
Clore.ai 机架

UD-IQ1_M

128GB

6× RTX 5090(186GB)——很宽裕

UD-Q2_K_XL

143GB

6× RTX 5090 或 8× RTX 4090(192GB)

UD-Q3_K_M

195GB

8× RTX 5090(248GB)

UD-Q4_K_S

248GB

10× RTX 5090(310GB)或 4× RTX PRO 6000(380GB)

官方 MXFP8

~430GB

不在市场上 → 裸机

官方 BF16

854GB

在上一快照中有 72 台服务器拥有 ≥167GB 显存(其中 26 台空闲) 以及 54 台拥有 ≥192GB(其中 14 台空闲) ——足以部署 Q2 或 Q3 版本,但又不至于多到可以想当然地认为随时都有现成可用的。


使用 llama.cpp 部署

使用 vLLM 部署

预量化检查点: MiniMaxAI/MiniMax-M3-MXFP8 (官方), nvidia/MiniMax-M3-NVFP4 适用于 Blackwell, cyankiwi/MiniMax-M3-AWQ-INT4 适用于 AWQ 栈。


Clore.ai GPU 推荐

配置
总显存
构建
Clore.ai 成本

6× RTX 5090

186GB

Q2_K_XL

约 1.50–2.60 美元/小时

8× RTX 4090

192GB

Q2_K_XL

约 1.12–3.36 美元/小时

8× RTX 5090

248GB

Q3_K_M

约$2.00–3.50/小时

4× RTX PRO 6000

380GB

Q4_K_S

约 5.00 美元/小时


应用场景

  • 长视频理解 ——原生视频输入加上稀疏注意力的成本曲线

  • 百万 token 文档分析 ——合同、代码库、档案可一次性处理

  • 代理式编码和“协作”任务 ——这是 MiniMax 为 M3 重点优化的方向

  • 前沿规模下的低成本解码 ——23B 激活参数意味着就模型规模而言,token 输出速度很快

  • 多模态 RAG ——一个模型同时处理文本、截图和视频帧


故障排查

问题
修复

trust_remote_code 错误

M3 附带自定义建模代码——请传入 --trust-remote-code 在 vLLM 中

缺少稀疏注意力内核

更新 vLLM/SGLang;MSA 支持是在 6 月发布后才合入的

视频输入失败

检查该设备是否有足够的系统内存和 CPU 用于解码;视频在主机端解码

在 100 万上下文时 OOM

KV 缓存比 GQA 更小,但并非免费——从 262K 开始逐步上调

预填充慢

启用分块预填充;MSA 的优势体现在长上下文上,而不是短提示上


下一步

链接

最后更新于

这有帮助吗?