MiniMax M3(428B 多模态)
在 Clore.ai 的多 GPU 机器上部署 MiniMax M3,这是一款原生多模态的 428B MoE,拥有 100 万 token 上下文
M3 的有趣之处不在于规模,而在于它的注意力机制。 MiniMax 稀疏注意力(MSA) 在 100 万上下文长度下,将每个 token 的计算量削减至约 1/20 分组查询注意力的,使 MiniMax 据称获得 预填充快 9 倍、解码快 15 倍 ,相比 M2 在完整上下文下更快。对于长文档和长视频任务,这意味着你能负担得起把窗口填满的模型与负担不起的模型之间的差别。
由于每个 token 仅激活约 23B 参数,量化版的解码速度更接近中型模型,而不是 428B 级模型。
关键规格
参数
总计 428B,约 23B 激活(MoE)
架构
60 层,GQA + MiniMax 稀疏注意力,原生视觉编码器
模态
文本、图像、视频输入 → 文本输出
上下文
1,000,000 个 token
许可证
minimax-community (自定义,商业受限)
发布日期
2026年6月1日
权重
BF16 854GB · Q2_K_XL GGUF 143GB · Q3_K_M GGUF 195GB
主要工具链
vLLM, SGLang, llama.cpp, Transformers
需求
在上一快照中有 72 台服务器拥有 ≥167GB 显存(其中 26 台空闲) 以及 54 台拥有 ≥192GB(其中 14 台空闲) ——足以部署 Q2 或 Q3 版本,但又不至于多到可以想当然地认为随时都有现成可用的。
多模态输入需要在语言模型之外同时加载视觉塔。如果你计划输入图像或视频,请在量化大小之外额外预留几 GB,并优先选择具备充足系统内存、适合视频解码的设备。
使用 llama.cpp 部署
使用 vLLM 部署
预量化检查点: MiniMaxAI/MiniMax-M3-MXFP8 (官方), nvidia/MiniMax-M3-NVFP4 适用于 Blackwell, cyankiwi/MiniMax-M3-AWQ-INT4 适用于 AWQ 栈。
Clore.ai GPU 推荐
6× RTX 5090
186GB
Q2_K_XL
约 1.50–2.60 美元/小时
8× RTX 4090
192GB
Q2_K_XL
约 1.12–3.36 美元/小时
8× RTX 5090
248GB
Q3_K_M
约$2.00–3.50/小时
4× RTX PRO 6000
380GB
Q4_K_S
约 5.00 美元/小时
应用场景
长视频理解 ——原生视频输入加上稀疏注意力的成本曲线
百万 token 文档分析 ——合同、代码库、档案可一次性处理
代理式编码和“协作”任务 ——这是 MiniMax 为 M3 重点优化的方向
前沿规模下的低成本解码 ——23B 激活参数意味着就模型规模而言,token 输出速度很快
多模态 RAG ——一个模型同时处理文本、截图和视频帧
商用前请检查许可证。 M3 采用 minimax-community,而不是 OSI 许可证。如果你需要不受限制的条款, GLM-5.2 是 MIT,且 Qwen3.8-27B 是 Apache 2.0。
故障排查
trust_remote_code 错误
M3 附带自定义建模代码——请传入 --trust-remote-code 在 vLLM 中
缺少稀疏注意力内核
更新 vLLM/SGLang;MSA 支持是在 6 月发布后才合入的
视频输入失败
检查该设备是否有足够的系统内存和 CPU 用于解码;视频在主机端解码
在 100 万上下文时 OOM
KV 缓存比 GQA 更小,但并非免费——从 262K 开始逐步上调
预填充慢
启用分块预填充;MSA 的优势体现在长上下文上,而不是短提示上
下一步
前代: MiniMax M2.7 ——4 月的编码 MoE
相近规模的 MIT 许可替代方案: GLM-5.2
单卡替代方案: Qwen3.8-27B
设备规格: GPU 价格与可用性
链接
最后更新于
这有帮助吗?