MiniMax M3 (428B multimodal)

Déployez MiniMax M3, un MoE multimodal natif de 428B avec un contexte de 1M de tokens, sur des configurations Clore.ai multi-GPU

Statut (août 2026) : MiniMax a publié M3 le 1er juin 2026avec les poids sur Hugging Face d’ici le 7 juin : MiniMaxAI/MiniMax-M3. 428B au total / ~23B actifs, contexte de 1M tokens, native texte + image + vidéo entrée, sous une licence minimax-community personnalisée (ni Apache ni MIT — lisez-la avant une utilisation commerciale).

La propriété intéressante de M3 n’est pas sa taille, c’est son attention. MiniMax Sparse Attention (MSA) réduit le calcul par jeton à 1M de contexte à environ 1/20 de l’attention à requête groupée, offrant à MiniMax un préremplissage 9× plus rapide et décodage 15× plus rapide que M2 à plein contexte. Pour le travail sur les longs documents et les longues vidéos, c’est la différence entre un modèle pour lequel vous pouvez vous permettre de remplir la fenêtre et un autre pour lequel vous ne le pouvez pas.

Avec seulement ~23B de paramètres actifs par jeton, la vitesse de décodage sur une version quantifiée se rapproche davantage de celle d’un modèle de taille moyenne que de celle d’un modèle de 428B.

Spécifications clés

Propriété	Valeur
Paramètres	428B au total, ~23B actifs (MoE)
Architecture	60 couches, GQA + MiniMax Sparse Attention, encodeur visuel natif
Modalité	Texte, image, vidéo en entrée → texte en sortie
Contexte	1 000 000 jetons
Licence	minimax-community (personnalisé, soumis à des restrictions commerciales)
Date de sortie	1er juin 2026
Poids	BF16 854 Go · Q2_K_XL GGUF 143 Go · Q3_K_M GGUF 195 Go
Outils principaux	vLLM, SGLang, llama.cpp, Transformers

---

Exigences

Construction	Taille	configuration Clore.ai
UD-IQ1_M	128 Go	6× RTX 5090 (186 Go) — confortable
UD-Q2_K_XL	143 Go	6× RTX 5090 ou 8× RTX 4090 (192 Go)
UD-Q3_K_M	195 Go	8× RTX 5090 (248 Go)
UD-Q4_K_S	248 Go	10× RTX 5090 (310 Go) ou 4× RTX PRO 6000 (380 Go)
MXFP8 officiel	~430 Go	Pas sur la place de marché → bare metal
BF16 officiel	854 Go	bare metal

Au dernier instantané, il y avait 72 serveurs avec ≥167 Go de VRAM (26 libres) et 54 avec ≥192 Go (14 libres) — assez pour placer une version Q2 ou Q3, mais pas assez pour supposer qu’il y en aura une prête.

L’entrée multimodale nécessite que la tour visuelle soit chargée en même temps que le modèle de langage. Prévoyez quelques Go supplémentaires par rapport à la taille quantifiée si vous comptez lui fournir des images ou de la vidéo, et privilégiez des configurations disposant de beaucoup de RAM système pour le décodage vidéo.

---

Déployer avec llama.cpp

huggingface-cli download unsloth/MiniMax-M3-GGUF \\
  --include "*UD-Q2_K_XL*" --local-dir /workspace/m3

llama-server -m /workspace/m3/*UD-Q2_K_XL*-00001-of-*.gguf \\
  --host 0.0.0.0 --port 8080 \\
  -ngl 999 --split-mode layer \\
  -c 262144 --flash-attn --no-mmap

Déployer avec vLLM

vllm serve MiniMaxAI/MiniMax-M3 \\
  --tensor-parallel-size 8 \
  --trust-remote-code \\
  --max-model-len 262144 \\
  --gpu-memory-utilization 0.92 \\
  --enable-expert-parallel

Points de contrôle pré-quantifiés : MiniMaxAI/MiniMax-M3-MXFP8 (officiel), nvidia/MiniMax-M3-NVFP4 pour Blackwell, cyankiwi/MiniMax-M3-AWQ-INT4 pour les piles AWQ.

---

Recommandations GPU Clore.ai

Configuration	VRAM totale	Construction	Coût Clore.ai
6× RTX 5090	186 Go	Q2_K_XL	~1,50–2,60 $/h
8× RTX 4090	192GB	Q2_K_XL	~1,12–3,36 $/h
8× RTX 5090	248 Go	Q3_K_M	~2,00–3,50 $/h
4× RTX PRO 6000	380GB	Q4_K_S	~5,00 $/h

---

Cas d’usage

• Compréhension de longues vidéos — entrée vidéo native plus la courbe de coût de l’attention clairsemée

• Analyse de documents d’un million de jetons — contrats, bases de code, archives en un seul passage

• Codage agentique et tâches de « cowork » — ce pour quoi MiniMax a optimisé M3

• Décodage peu coûteux à l’échelle frontier — 23B de paramètres actifs signifie que les jetons sortent rapidement pour la taille du modèle

• RAG multimodal — un seul modèle pour le texte, les captures d’écran et les images de vidéo

Vérifiez la licence avant toute utilisation commerciale. M3 est distribué sous minimax-communityet non sous une licence OSI. Si vous avez besoin de conditions sans restriction, GLM-5.2 est MIT et Qwen3.8-27B est Apache 2.0.

---

Dépannage

Problème	Correctif
trust_remote_code erreurs	M3 fournit du code de modélisation personnalisé — passez --trust-remote-code dans vLLM
Kernels d’attention clairsemée manquants	Mettez à jour vLLM/SGLang ; la prise en charge de MSA est arrivée après la publication de juin
L’entrée vidéo échoue	Vérifiez que la configuration dispose de suffisamment de RAM système et de CPU pour le décodage ; la vidéo est décodée côté hôte
OOM à 1M de contexte	Le cache KV est plus petit que GQA, mais pas gratuit — commencez à 262K et augmentez progressivement
Préremplissage lent	Activez le préremplissage par blocs ; l’avantage de MSA apparaît sur les longs contextes, pas sur les courts prompts

---

Étapes suivantes

• Prédécesseur : MiniMax M2.7 — le MoE de codage d’avril

• Alternative MIT à une échelle similaire : GLM-5.2

• Alternative mono-carte : Qwen3.8-27B

• Dimensionnement de la configuration : Tarifs et disponibilité des GPU

Liens

• MiniMax M3 sur Hugging Face · GGUF

• Rapport technique (arXiv 2606.13392) · dépôt MSA

• GitHub MiniMax-M3

• Louez un GPU : RTX 5090 · RTX 4090 · Place de marché